LA TRIBUNE DIMANCHE - Vous dites faire la différence entre intelligence artificielle et algorithme. Pourquoi l'IA n'est-elle pas synonyme d'algorithmes ?

AURELIE JEAN - L'intelligence artificielle génère à la fois des fantasmes et de la peur car on ne sait pas vraiment de quoi on parle. L'intelligence artificielle relève d'une intelligence analytique c'est-à-dire de celle qui traite les informations. Le terme algorithme est peut-être moins sexy mais il permet de sortir des mythes que l'on raccroche souvent à l'IA, telle la science-fiction et des films comme Matrix ou Minority Report. Je rappelle le livre écrit par Luc Julia, connu comme étant le papa de Siri (publié au même moment que De l'autre côté de la machine, le premier livre publié par Aurélie Jean, en 2019 NDLR), intitulé L'intelligence artificielle n'existe pas.

Vous alertez régulièrement sur les biais de l'IA. Mais pour obtenir une IA non biaisée, cela passe d'abord par le choix des personnes qui entraînent l'IA...

Il est essentiel de diversifier les équipes, sinon les outils développés ne le seront que pour certaines catégories de personnes. Actuellement on développe beaucoup d'outils faits par des jeunes, par exemple. De même, il est primordial d'introduire dans les équipes qui construisent les algorithmes des professionnels des métiers concernés. Car ces professionnels savent exactement comment fonctionnent leur métier et évitent ainsi que soient introduits de fausses idées, de mauvais réflexes. Il est bien sûr indispensable de tester son jeu de données et l'algorithme une fois construit, et de réagir si l'IA apparaît comme biaisée dès cette étape. On parle aussi beaucoup de boîte noire alors que concrètement on sort de cette notion dès que l'on applique sur l'algorithme des méthodes dites d'explicabilité. Les tests et l'explicabilité font partie des pratiques de la gouvernance algorithmique. La gouvernance algorithmique, ce n'est pas la loi mais la loi est un des piliers de la gouvernance.

L'IA Act est-il nécessaire ou est-ce prendre le risque de contraindre l'innovation ?

Bien faire est un différenciateur économique et c'est pour cela que je croyais, avant, à l'auto-régulation. Mais les scandales algorithmiques de ces dernières années n'ont pas infléchi la consommation, ils n'ont eu aucune conséquence sur la perception des utilisateurs sur leurs pratiques. La loi est nécessaire mais l'essentiel c'est comment on exerce cette loi. Lorsque nous avons créé le RGPD (le règlement général sur la protection des données) avec succès, le législateur possédait un historique qu'il nous a intelligemment transposé. Dans le cas de l'IA, les connaissances sont moindres chez le législateur et la science algorithmique fait des progrès encore plus rapides. J'ai été surprise par les amendements de dernière minute de l'AI Act pour prendre en considération les IAs génératives à la sortie de ChatGPT alors que ces IAs sont en développement depuis des années. La régulation doit être, au contraire, visionnaire. Aussi, il est indispensable de conserver, par la loi, la capacité à innover. Dans ce sens, et à l'instar du RGPD, l'AI Act doit faire une distinction entre recherche et développement commercial industriel au risque de freiner l'innovation.

Est-ce que tout cela ne relève-t-il pas de l'éducation et ce, dès le plus jeune âge ?

Il est important de ne pas donner accès aux réseaux sociaux avant l'âge de 13 ans comme la loi l'impose, mais beaucoup de parents n'en ont pas conscience. L'éducation doit se faire avec les enfants accompagnés de leurs parents qui, eux aussi, méconnaissent de nombreux éléments.

Pour reprendre le titre de votre deuxième ouvrage, « les algorithmes font-ils la loi ? »

Les algorithmes ne font pas la loi mais ils l'influencent. Les algorithmes ne sont pas une personne physique ou morale, ils ne sont donc pas responsables. En revanche, il faut se méfier de ceux qui la conçoivent.