De quoi parle-t-on lorsque l'on parle d'intelligence artificielle ?

Guy Mamou-Mani : En préambule, il est nécessaire de revenir sur la révolution numérique que nous sommes en train de vivre. Tous les secteurs, toutes les entreprises, tous les métiers, tous les individus sont concernés par cette dernière. Elle va transformer en profondeur, d'une part la vie de chaque citoyen, et de l'autre le business model des organisations. Il faut donc se préparer à cette révolution numérique dont l'un des outils majeurs est l'intelligence artificielle (IA) qui draine énormément de fantasmes. A ce sujet, on peut schématiquement parler de deux niveaux. Il y a, tout d'abord, ce que je nomme l'IA réaliste, basée sur la connaissance de la data et qui va démontrer toute son utilité. Appliquée, par exemple, à la médecine, l'IA va pouvoir faire preuve d'une lisibilité 1 000 fois supérieure à celle de l'humain grâce à l'acquisition d'expérience basée sur la lecture d'un très grand nombre de radios. Non pour remplacer le radiologue, mais bien pour augmenter ses compétences. Et cela est vrai pour tous les métiers.

Qu'en est-il du second niveau ?

Guy Mamou-Mani : Il s'agit de l'IA forte. Elle consiste à imaginer que l'ordinateur va pouvoir devenir autonome et prendre des décisions par lui-même. Le fameux ordinateur HAL du film de Stanley Kubrick, 2001 l'Odyssée de l'Espace, en est une illustration possible. Pour ma part, je pense que cela relève de la science-fiction. Nous n'en sommes pas à ce niveau, et je ne sais pas si l'on y parviendra. Il ne sert donc à rien d'agiter certaines peurs. Aujourd'hui, l'IA qui nous concerne est celle de premier niveau. C'est à partir de celle-ci qu'il convient de raisonner.

L'IA, même de premier niveau, pose toutefois un certain nombre de questions d'ordre éthique. Comment justifier d'une décision prise par une IA ?

Guy Mamou-Mani : C'est effectivement un point crucial. Ma réponse est claire : dans aucun cas, on ne devra laisser l'IA prendre de décisions. C'est à l'homme, aux chefs d'entreprises, aux managers, de prendre une décision en fonction des éléments donnés par l'IA. Au cœur du sujet, se trouve la problématique suivante : l'homme va-t-il rester maître de la décision par rapport à la technologie ou va-t-il la subir ? C'est pourquoi, l'éducation et la formation vont jouer un rôle essentiel pour que nous restions maîtres de ces technologies, via une utilisation sobre responsable de la donnée, et plus largement du numérique. Chez Open, ces réflexions font partie du quotidien du groupe.

On reproche également à l'IA de reproduire les biais humains...

Guy Mamou-Mani : Les algorithmes qui forment la base de l'IA sont élaborés par l'homme. La possibilité existe donc que les biais que nous connaissons soient reproduits par l'IA. Pour passer cet écueil, il existe plusieurs types de réponses. Par exemple, pour lutter contre la misogynie, il faut encourager les femmes à investir le secteur informatique pour devenir des actrices de l'IA. Aujourd'hui, elles ne représentent que 10 à 15 % des personnes qui travaillent dans ce domaine. Il faut faire en sorte que cette proportion augmente pour créer une rupture. Par ailleurs, de la même manière que pour la biologie, il est très important de créer des comités d'éthique qui vont poser un certain nombre de règles. A nous de nous engager pour construire le futur et non pas le subir.

Guy Mamou-Mani est l'auteur de l'ouvrage « L'apocalypse numérique n'aura pas lieu » (Editions de l'Observatoire).