OPINION. « Etudiants, pensez l'IA éthique ! »

A la fois promesse d'espoir dans tous les domaines (recherche médicale, sécurité et défense, optimisation logistique, apprentissage éducatif, etc.), l'IA est une technologie qui suscite aussi des inquiétudes bien connues quant à son aspect éthique. La création du bureau européen de l'IA, chargé de superviser l'AI Act et de promouvoir une IA digne de confiance, témoigne de cette préoccupation.

Du bon usage de l'IA par la future génération d'ingénieurs

Après les Etats-Unis et la Chine, la France compte devenir la troisième voix en matière d'intelligence artificielle. Une intelligence qui rimerait avec « éthique, frugalité et inclusivité » selon les récentes déclarations de Clara Chappaz, ministre déléguée chargée de l'Intelligence artificielle et du Numérique. Une IA française plus éthique que les autres ? C'est en tous les cas ce vers quoi il est impératif de tendre. L'IA n'est en effet pas une technologie comme une autre. L'IA exacerbe, depuis la démocratisation de ChatGPT, toutes les questions que le numérique posait déjà sur les biais dans les modèles d'apprentissage, la confidentialité avec la réglementation RGPD, la propriété intellectuelle ou encore le poids de l'empreinte environnementale.

Pour en tirer le meilleur parti, l'enseignement d'une IA éthique dans les écoles d'ingénieurs est extrêmement déterminant. De nombreux modules sur le sujet occupent désormais une part significative des programmes de masters spécialisés en IA : régulation, déontologie, éthique, philosophie, sociologie, droit, remédiation des biais, etc. Ils s'appuient sur les principes de l'IA de confiance. Des cours sur l'explicabilité des systèmes d'IA, leur impact écologique (éco-conception numérique, etc.), ou encore sur l'IA hybride (approche basée connaissance) sont également au programme.

Ces enseignements pluridisciplinaires apprennent aux futurs professionnels de l'IT qui auront la tâche de développer, déployer ou conseiller sur cette technologie à raisonner de manière holistique une fois en poste. De plus en plus souvent, des experts venant du monde de l'entreprise (directeurs techniques, développeurs, experts IA, responsables en éthique, etc.) interviennent aux côtés des enseignants pour co-construire et co-animer certains de ces cours et sensibiliser les étudiants à la mise en pratique de ces connaissances au travers de cas clients ou de challenges d'idéation. Des compétences plus que jamais indispensables à ces jeunes professionnels pour répondre aux besoins grandissants d'IA dans les organisations.

Conscientiser l'approche de son IA pour la rendre plus éthique et durable

Sur le volet éthique, il est aussi important que les étudiants qui travaillent sur des IA s'interrogent sur leur modèle de valeurs, et qu'ils parviennent à le questionner. Il ne faut pas se limiter à apprendre à coder ou à renforcer la robustesse de son code avec l'IA mais bien former des esprits critiques et logiques qui développeront une vision globale des enjeux pour façonner le monde de demain une fois en entreprise. L'AI Act va en ce sens permettre de poser des exigences de responsabilité en la matière.

La collégialité est un exemple de fondement fort qu'entreprises et écoles doivent rappeler : ne pas faire incomber la responsabilité des décisions d'une IA à son seul programmateur est clé. Il faut toujours croiser les regards et les points de vue, même sur les projets a priori insignifiants, comme les chatbot intelligents, qui, configurés avec des biais, les reproduiront, même en l'absence de mauvaise intention.

Une IA éthique est aussi une IA durable, dont l'impact sur l'environnement est neutre ou limité et qui peut par exemple optimiser l'efficacité énergétique des algorithmes et des infrastructures qui la soutienne. Se poser systématiquement la question de la nécessité de mettre au point une IA pour servir un besoin est le premier conseil que l'entreprise doit donner aux étudiants, dans un principe de frugalité nécessaire au contexte d'urgence climatique auquel nous faisons face. Cela ouvre la question du « numérique essentiel ».

Tester et expérimenter avant tout

Pour les étudiants en IT, l'une des clés pour apprivoiser au mieux l'IA est aussi et surtout d'en faire l'expérience, de l'utiliser et de l'adopter pour en définir le meilleur usage ! Il est en effet nécessaire de tester les futures IA pour mieux analyser leur comportement et leurs conséquences sur une production ou un usage et ainsi l'utiliser dans les domaines où elle apportera une véritable valeur ajoutée.

Même si tout va vite, il faut ainsi s'obliger à prendre le temps d'apprivoiser cette révolution technologique et toutes ses potentialités pour en garantir le bon et juste usage, celui qui fera progresser la société. La collaboration de tous les acteurs à la prise en compte d'une vision éthique est en ce sens une nécessité.

______
(*) Céline Hudelot est professeur d'informatique à CentraleSupélec et responsable du laboratoire MICS (Mathématiques Interagissant avec l'informatique). Titulaire d'un doctorat en informatique, ses travaux de recherche portent principalement sur l'interprétabilité et l'explicabilité des systèmes d'intelligence artificielle. En tant que responsable du laboratoire MICS, Céline Hudelot pilote des projets de recherche interdisciplinaire associant mathématiques appliquées, science des données et intelligence artificielle.

Louis Maxime Négre est le directeur des ressources humaines de Sopra Steria, acteur majeur de la Tech en Europe. Diplômé de Polytech Montpellier en 2001, il rejoint Sopra Steria en tant que développeur et occupe, pendant près de 20 ans, une multitude de postes toujours au sein du Groupe (chef de projet, directeur de business units, directeur commercial...) avant de se tourner vers le monde des Ressources Humain en tant que directeur de la transformation RH, puis Chief People Officer pour l'une des filiales du Groupe. Il prend en juin 2023, le rôle de DRH de Sopra Steria et intègre le COMEX.