Propos recueillis par Maxime Giraudeau
Ce contenu est réservé aux abonnés La Tribune
Laurent Simon est professeur de l'Université de Bordeaux, en charge du département informatique de l'école d'ingénieurs Enseirb-Matmeca.
Université de Bordeaux
LA TRIBUNE - Vous portez une nouvelle chaire de l'Université de Bordeaux autour de « L'IA digne de confiance ». Après la percée de ChatGPT, est-ce le signe d'une crise de confiance autour de l'IA ?
Laurent SIMON - La confiance est là quand on sait utiliser l'outil et quand l'outil ne dépasse pas ce pourquoi il a été créé. ChatGPT c'est un outil qui n'est pas conçu pour la confiance, pour dire du vrai. Il produit du texte qui a l'air vrai. Les chercheurs en IA ont confiance en lui parce qu'ils comprennent ce qu'il fait. Par contre, il ne faut pas l'utiliser pour écrire un texte si on est étudiant parce qu'il commettra peut-être des erreurs factuelles, ou pour faire des recommandations médicales. Là, il n'a absolument aucune idée des retentissements ! Ça pose tout un tas de problèmes, notamment pour l'empêcher de produire du texte dangereux, biaisé ou raciste par exemple.
À lire également
ChatGPT est très précautionneux : dès qu'il détecte que la conversation part dans un mauvais sens, il prend énormément de pincettes pour éviter d'aller dans des mauvaises directions. Mais il y a une impossibilité structurelle à empêcher ces systèmes de produire du texte nocif. On aimerait bien qu'ils ne puissent pas produire un texte biaisé sur le genre, qui reproduit des biais ethniques, racistes ou des recommandations suicidaires, illégales. Ça demande un changement très profond du système et on ne sait pas dans quelle direction aller. Avec la chaire, on a pour but de comprendre comment garder la précision de ces systèmes tout en essayant de garantir les propriétés.
Propos recueillis par Maxime Giraudeau
Olikrom propulse ses pigments intelligents dans l’aéronautique et la défense
Batteries implantables chez l'humain : Fineheart pilote un programme européen stratégique
Dans le laboratoire de Dionymer, rencontre avec les bactéries du bioplastique
Déserts médicaux : dans le bus qui part à la rencontre des patients isolés en Gironde
