De nombreux téléspectateurs se sont indignés d'une publicité présentée par Google pour vanter son intelligence artificielle Gemini. Dans cette dernière, l'IA aide des enfants à rédiger une lettre à leurs idoles, au détriment de la créativité, ce que condamnent ses détracteurs.
Les usages de l'intelligence artificielle ne font pas l'unanimité, et Google en a fait les frais. Après avoir publié une publicité, diffusée pendant le premier week-end des Jeux olympiques de Paris, qui montre comment son modèle d'intelligence artificielle (IA) peut aider les enfants à rédiger une lettre à leurs idoles, de nombreux téléspectateurs ont été indignés.
Le clip présente une petite fille en train de courir, tandis que son père raconte qu'elle est sans doute la fan numéro un de l'athlète américaine Sydney McLaughlin-Levrone, reine du 400 m haies. Il fait appel à Gemini, le modèle d'IA générative de Google, pour rédiger une lettre: « Gemini, aide ma fille à écrire une lettre pour dire à Sydney à quel point elle est une source d'inspiration. Et n'oublie pas de mentionner que ma fille a l'intention de battre un jour son record du monde ».
Les commentaires ont fusé sur les réseaux sociaux de la part de téléspectateurs abasourdis à l'idée que l'on encourage les enfants à utiliser l'IA pour écrire une lettre à leurs stars préférées. « C'est exactement ce que nous ne voulons pas que les gens fassent avec l'IA. Jamais », a réagi Shelly Palmer, professeur des médias à l'université de Syracuse.
«Le père dans la vidéo n'encourage pas sa fille à apprendre à s'exprimer. Au lieu de la guider pour qu'elle utilise ses propres mots et communique de manière authentique, il lui apprend à s'en remettre à l'IA pour cette compétence humaine essentielle», continue-t-il dans un billet de blog.
Google n'a pas réagi dans l'immédiat à une sollicitation de l'AFP. Sur YouTube, les commentaires sous le clip publicitaire ont été désactivés.
Des critiques croissantes sur les potentielles dérives de l'IA
Depuis la percée de ChatGPT (OpenAI), les géants de la tech déploient à grande vitesse des applications qui permettent de générer du texte, des images et d'autres contenus de bonne facture, sur simple requête en langage courant.
Le boom de cette technologie enthousiasme de nombreux utilisateurs. Mais il énerve aussi beaucoup de professionnels, notamment des enseignants, inquiets que l'apprentissage de certaines compétences essentielles ne périclite, et des artistes, qui accusent les entreprises d'avoir pillé leurs œuvres pour entraîner les modèles.
Newsletter
Tech & IA
Chaque jour à 13h, l’essentiel de l’actualité tech.
« Difficile d'imaginer une méthode d'inspiration moins sincère que de demander à une IA de dire à quelqu'un à quel point il est inspirant », a commenté Anthony Ha, un rédacteur en chef du site spécialisé TechCrunch. « Si cela se produisait dans la réalité, Sydney se retrouverait avec une pile géante de lettres presque identiques. »
Pas le premier dérapage
La firme de la Silicon Valley n'est pas la première à recevoir des critiques sur ces produits. En mai, Apple avait présenté des excuses après qu'une publicité pour son nouvel iPad Pro, montrant toutes sortes d'objets représentant la créativité humaine écrasés et remplacés par la tablette, avait suscité la colère de nombreux artistes.
Concernant les scandales autour des IA, Google s'est déjà retrouvé sous le feu des critiques en février après avoir lancé Gemini 1.5. En voulant gommer les biais racistes et sexistes de Gemini, le géant avait fini par produire des aberrations historiques. Entre autres : des soldats allemands nazis noirs et asiatiques, des Vikings noirs, des femmes sénatrices américaines au XIXe siècle... Mais aussi un Elon Musk noir, et des fondateurs de Google version asiatique. Pointées du doigt par des utilisateurs via les réseaux sociaux, ces incohérences ont conduit la firme de Mountain View à mettre en pause en février la génération d'images de personnes, en attendant de trouver une solution.
OpenAI, à l'origine de ChatGPT s'est aussi retrouvée au devant de problèmes. En avril, l'ONG autrichienne Noyb avait porté plainte contre l'entreprise en l'accusant de ne pas être capable de corriger ni d'effacer correctement une information fausse concernant une personne, et ne pas être transparente quant à l'origine des informations que son chatbot donne. Or, en Europe, le RGPD assure aux citoyens le droit de demander une correction voire la suppression de données les concernant en cas d'erreur. Par ailleurs, l'entreprise doit être capable de dire à un individu quelles données elle possède et quelles en sont les sources.
