Ce contenu est réservé aux abonnés La Tribune
Daron Acemoglu, prix Nobel d'économie en 2024, signe un appel à fixer des lignes rouges pour l'IA aux côtés d'autres chercheurs et chercheures de renom.
via REUTERS - Pontus Lundahl/TT
Ils sont de retour. Les inquiets de l’intelligence artificielle signent un appel à fixer des lignes à ne pas franchir au niveau international. « L’intelligence artificielle (IA) recèle un potentiel immense pour le progrès humain, mais sa trajectoire actuelle présente des dangers sans précédent. (...) Nous exhortons les gouvernements à parvenir à un accord politique international sur des lignes rouges pour l’IA — en veillant à ce qu’elles soient opérationnelles, avec des mécanismes d’application robustes — d’ici la fin de l’année 2026 », écrivent les auteurs de cette déclaration publié à l’occasion de la 80ᵉ assemblée générale des Nations unies.
Le casting impressionne. Parmi les 200 signataires, on retrouve les habituels “pères fondateurs” de l’IA devenus sceptiques comme les pionniers du deep learning Yoshua Bengio et Geoffrey Hinton ou le mathématicien Stuart Russell. Mais aussi des personnalités moins habituées à ce genre d’appel alarmiste : le prix Nobel d’économie Daron Acemoglu, la journaliste phillipine Maria Ressa (Prix Nobel de la paix), Jennifer Doudna, prix Nobel de chimie 2020 et inventrice de la technologie CRISPR, ou la chercheuse américaine Kate Crawford, reconnue pour ses travaux sur l’impact environnemental et géographique de l’IA.
Une dizaine de salariés de Google sont aussi signataires, ainsi que quelques salariés d’OpenAI, le créateur de ChatGPT, et d’Anthropic, son principal rival.
Le ton est légèrement moins catastrophiste que de précédentes tribunes sur le sujet, notamment la lettre signée en mars 2023 par Elon Musk, Steve Wozniak et d’autres grands noms de la tech, appelant à une pause immédiate de six mois du développement de l’IA.
À lire également
Dans ce nouvel appel, pas d’exigence d’action radicale ni de mention des “risques existentiels” de l’intelligence artificielle, et de la fin de l’humanité. Les auteurs écrivent tout de même que l’« IA pourrait bientôt dépasser de loin les capacités humaines et exacerber des risques tels que le développement de pandémies, la manipulation des individus, y compris des enfants, la désinformation à grande échelle, les menaces pour la sécurité nationale et internationale, le chômage de masse et les violations systématiques des droits humains ». Le communiqué de presse évoque également des risques plus lointains comme « le clonage humain » ou « l’élaboration d’armes biochimiques ».
