Marine Protais
Ce contenu est réservé aux abonnés La Tribune
Les chercheurs s’inquiètent notamment de la perte de libre arbitre chez les jeunes, dont le sens critique reste malléable jusqu’à 25 ans.
Image générée par IA avec DALL-E
Qui n'a pas cédé à une proposition de ChatGPT suggérant de remplacer un mot pourtant soigneusement choisi ou suivi Waze tout en connaissant parfaitement le chemin ? Cette atrophie du libre arbitre est l'un des risques d'une généralisation des systèmes d'IA, sur lequel alertent de plus en plus de chercheurs.
Cette tendance à déléguer notre pensée ne concerne pas seulement des choix individuels : elle s'inscrit dans un mouvement global où l'IA prend une place de plus en plus stratégique. Aux États-Unis, Elon Musk entend déléguer certaines décisions à des assistants d'IA pour rendre « le gouvernement moins stupide », rapportait le média en ligne TechCrunch le 19 février. En France, les investissements se multiplient pour accélérer à grande vitesse le déploiement de cette technologie.
« Lorsqu'on pense à la perte de contrôle liée à l'IA, on imagine souvent un scénario façon Terminator, mais la réalité ressemblera plutôt à Wall-E, explique à La Tribune Alexander Saeri, chercheur en sciences comportementales au MIT. Nous faisons tous déjà l'expérience de ce phénomène avec les GPS, comme Google Maps, où nous avons tendance à faire confiance à l'outil plutôt qu'à entraîner notre sens de l'orientation. Et cette dépendance s'étend désormais à bien d'autres domaines. »
À lire également
Dans le film d'animation de Pixar, les humains délèguent la moindre de leurs décisions à des assistants robots - de la couleur de leur combinaison à la trajectoire de leur vaisseau spatial - les rendant ainsi impotents et donc impuissants face à un destin qu'ils ne maîtrisent plus. Avec une dizaine d'autres chercheurs, Alexander Saeri a élaboré The AI Risk Repository, un répertoire des risques liés à l'intelligence artificielle recensés dans la littérature scientifique. La perte du libre arbitre et de l'autonomie en fait partie. « Face à une IA à qui l'on déléguerait certaines tâches, l'être humain peut se sentir dépossédé de son pouvoir, perdre la capacité de façonner une trajectoire de vie satisfaisante ou devenir cognitivement affaibli », écrivent les auteurs.
Marine Protais
