LA TRIBUNE DIMANCHE - Vous dites faire la différence entre intelligence artificielle et algorithme. Pourquoi l'IA n'est-elle pas synonyme d'algorithmes ?
AURELIE JEAN - L'intelligence artificielle génère à la fois des fantasmes et de la peur car on ne sait pas vraiment de quoi on parle. L'intelligence artificielle relève d'une intelligence analytique c'est-à-dire de celle qui traite les informations. Le terme algorithme est peut-être moins sexy mais il permet de sortir des mythes que l'on raccroche souvent à l'IA, telle la science-fiction et des films comme Matrix ou Minority Report. Je rappelle le livre écrit par Luc Julia, connu comme étant le papa de Siri (publié au même moment que De l'autre côté de la machine, le premier livre publié par Aurélie Jean, en 2019 NDLR), intitulé L'intelligence artificielle n'existe pas.
Vous alertez régulièrement sur les biais de l'IA. Mais pour obtenir une IA non biaisée, cela passe d'abord par le choix des personnes qui entraînent l'IA...
Il est essentiel de diversifier les équipes, sinon les outils développés ne le seront que pour certaines catégories de personnes. Actuellement on développe beaucoup d'outils faits par des jeunes, par exemple. De même, il est primordial d'introduire dans les équipes qui construisent les algorithmes des professionnels des métiers concernés. Car ces professionnels savent exactement comment fonctionnent leur métier et évitent ainsi que soient introduits de fausses idées, de mauvais réflexes. Il est bien sûr indispensable de tester son jeu de données et l'algorithme une fois construit, et de réagir si l'IA apparaît comme biaisée dès cette étape. On parle aussi beaucoup de boîte noire alors que concrètement on sort de cette notion dès que l'on applique sur l'algorithme des méthodes dites d'explicabilité. Les tests et l'explicabilité font partie des pratiques de la gouvernance algorithmique. La gouvernance algorithmique, ce n'est pas la loi mais la loi est un des piliers de la gouvernance.
