OPINION. « "Les préoccupations éthiques de l'IA", une comédie de communicants »

Deux visions de l'Intelligence Artificielle se sont opposées au Sommet de Paris les 10 et 11 février : celle portée par la France et 60 partenaires, signataires d'une déclaration pour « une IA ouverte, inclusive et éthique », et celle mise en avant par les Etats-Unis, qui priorise la rapidité et l'innovation, prônant des réglementations minimales.

La promesse d'une IA éthique doit cependant être mise en perspective et prise pour ce qu'elle est : un outil marketing. Il s'agit, pour les dirigeants politiques à la manœuvre, de légitimer les dépenses colossales annoncées grâce à des narratifs soigneusement élaborés pour séduire les opinions publiques.

Les recherches sur le développement d'une IA « éthique et responsable » montrent en effet à quel point ce projet, en tant que tel, est problématique. Les IA utilisées par le passé, en médecine par exemple, étaient « formées » et encadrées par des médecins. Pour détecter des tumeurs cancéreuses, par exemple, on présentait aux IA des millions d'images de tumeurs similaires, tout en leur précisant les caractéristiques à observer. Aujourd'hui, en revanche, l'intervention humaine est considérablement réduite :  les programmes s'auto-forment sans supervision humaine.

Les chercheurs et les ingénieurs à l'origine de ces systèmes ne savent donc pas toujours précisément comment l'IA en arrive à une conclusion ou une action donnée. Les personnes concernées par les décisions algorithmiques ont encore moins de capacité à se repérer. De plus, ces utilisateurs n'ont qu'une vue incomplète des données utilisées pour entraîner ou tester l'algorithme. Or, les résultats d'algorithmes ne sont fiables que dans la mesure où les données sur lesquelles ils se basent sont elles-mêmes fiables.

Par exemple, le système « Watson for Oncology », largement utilisé en Chine pour le diagnostic via reconnaissance d'image, a été formé principalement sur un jeu de données occidental, conduisant à des résultats de médiocre qualité pour ce qui concerne les patients asiatiques. Des applications de santé personnelle utilisées en Europe, collectent pour leur part, des données d'utilisateurs sans que ceux-ci aient une idée claire de la façon dont celles-ci sont transformées en recommandations, limitant leur capacité à contester ces recommandations et diminuant ainsi leur autonomie face à la machine.

Dans le domaine du recrutement, les biais sont tout aussi présents. Une IA à qui l'on soumet des milliers de profils de cadres recrutés par de grandes entreprises parisiennes peut repérer que ceux-ci habitent très majoritairement dans l'Ouest de la capitale, et parfaitement en conclure que les candidats vivant dans ces quartiers sont plus performants que les autres. Aucune intervention humaine ne sera là pour corriger cette perception. Comment parler dans ce contexte d'IA inclusive ?

Les algorithmes sont probabilistes et non infaillibles. Une montre connectée peut, par exemple, très bien diagnostiquer une arythmie cardiaque, en raison d'une interprétation défaillante liée à la couleur de la peau de l'utilisateur, ne correspondant pas à la couleur des personnes dont les images ont servi à entraîner la montre. Comment un utilisateur, ou même un médecin, peut-il le savoir, ou même l'imaginer ?

De façon générale, les principes éthiques tels que l'inclusivité et le traitement équitable de toutes les personnes ne sauraient être « injectés » dans les algorithmes.  Ils nécessitent des décisions responsables tout au long de la chaine, depuis les données fournies pour entraîner la machine jusqu'aux modalités de l'utilisation de l'outil, en passant par son développement et son implémentation.

Les dommages causés par l'activité algorithmique sont et resteront difficiles à détecter. Si une recommandation issue d'une IA entraîne des conséquences négatives pour un patient, on voit mal comment identifier le responsable et prévenir de futurs incidents. Par défaut, le médecin va donc rester le garant éthique et juridique de cette décision. Il en est de même dans la plupart des domaines.

Il serait illusoire et dangereux d'imaginer qu'une IA puisse être éthique par elle-même, alors que la responsabilité des êtres humains intervenant dans la chaîne de valeur reste cruciale. Laisser penser qu'il en est autrement est en soi une démarche non éthique, puisque trompeuse.

Le fait que l'IA soit souvent implémentée dans les entreprises pour rendre les processus plus rapides laisse craindre par ailleurs que le temps nécessaire pour une évaluation humaine et responsable des résultats obtenus ne soit pas conservé. Or, il ne saurait y avoir d'IA éthique sans formation des utilisateurs et pensée critique, et pour cela il faut y mettre le prix, au moins autant que dans le développement des algorithmes.

_____

(*) Roxana Ologeanu-Taddei, professeur à TBS Education, auteur de « Intelligence artificielle et anthropomorphisme, de l'illusion à la confusion » (Presses des Mines, 2025)