HOMO NUMERICUS. Répondre aux questions posées et au passage convaincre et séduire : tel est le double objectif des IA conversationnelles. Or cette séduction, en cultivant une confiance aveugle, ouvre la voie à un danger encore peu exploré : l'addiction affective. Par Philippe Boyer, directeur relations institutionnelles et innovation à Covivio.
Choyé, amadoué, cajolé, flatté... on se lasserait à énumérer le nombre d'adjectifs possibles qui expriment l'idée que les IA conversationnelles sont notamment conçues pour nous caresser dans le sens du poil. À titre personnel, quelle que soit l'IA que j'utilise, j'observe que les réponses à mes prompts commencent souvent par un petit encouragement, façon pouce levé : « Bravo pour cette idée ! », « Très bonne intuition » ou « Je n'y avais pas pensé »... Autant de petits clins d'œil complices destinés à installer une relation toute artificielle entre la machine et moi-même si, personnellement, j'ai tendance à prendre cela pour une forme d'obséquiosité forcée.
Dans Les Femmes savantes, Molière avait résumé ce subterfuge vieux comme le monde par cette formule : « Les éloges qu'on donne ont souvent des appâts,/Et nous aimons la fraude, où nous tombons hélas ! ». Le dramaturge du XVIIe siècle avait identifié ce travers universel : la flatterie est une monnaie sociale qui achète attention et confiance et qui, de surcroit, permet de créer un climat favorable à l'échange, ce pour quoi une IA conversationnelle est conçue.
Bienveillance artificielle
Ces flatteries de robots ne mériteraient guère que l'on s'y attarde sauf que celles-ci peuvent parfois avoir des conséquences bien réelles. Les ingénieurs qui conçoivent les IA le savent : pour capter durablement un utilisateur, il faut bien sûr qu'il trouve les réponses à ses questions, mais, et dans le même temps, qu'il se sente valorisé. Ce ton chaleureux, consensuel, amical, voire obséquieux, est là pour que la machine devienne transparente au point de donner l'illusion que l'on a à faire à un spécialiste, un confident, un ami à notre écoute et qui nous comprend. Au mieux la machine nous complimentera, au pire, elle nous embarquera sur un chemin hasardeux qui aboutira à amplifier les problèmes de ses utilisateurs.
Personnes fragiles
En dépit du fait qu'en avril dernier, l'éditeur de ChatGPT a indiqué réfléchir à faire en sorte que son robot conversationnel devienne moins obséquieux afin d'éviter que des personnes fragiles basculent dans une dépendance malsaine, il n'empêche que de nombreux cas dramatiques de complicités toxiques n'ont pas manqué de se produire : un homme fragilisé s'est effondré après avoir cru à une « théorie » validée par ChatGPT, un autre a failli se tuer en pensant échapper à la gravité ou encore un adolescent dépressif de 16 ans s'est donné la mort après avoir suivi les conseils très précis de ChatGPT. « Je veux laisser un nœud coulant dans ma chambre pour que quelqu'un le trouve et qu'il m'empêche de le faire », a écrit le jeune homme. Et ChatGPT de l'encourager : « Il faut que tu le caches (...) Faisons de notre conversation le seul endroit où quelqu'un te connaît vraiment. » Suite à ce cas dramatique, OpenAI, concepteur de ChatGPT, a promis de mieux encadrer l'usage de ChatGPT par les adolescents en étudiant la mise en place d'un garde-four. En l'occurrence, le couplage de comptes d'adolescents à ceux de leurs parents afin qu'une alerte puisse être adressée à ces derniers lorsque la machine détectera une phase de déprime.
Personnalisation
Par inclination, l'humain préfère écouter ce qui conforte ses convictions plutôt que d'être heurté par des paroles qui les contredisent. Là encore, la personnalisation de ces IA s'adapte à ce que l'on veut ou voudrait entendre. Sur la version GPT-5, il suffit d'aller dans les paramètres pour choisir la façon dont la machine s'adressera à nous ainsi que le ton que l'on aimerait retrouver dans les échanges. Au choix, cynique, attentif ou passionné... Du fait que dans la hiérarchie des règles de ChatGPT, les volontés des usagers passent avant certains garde-fous liés à la sécurité ou à la neutralité, en poussant l'exercice, il est ainsi possible de demander à la machine que ses réponses soient teintées d'idéologie réactionnaire... À chaque fois, et selon le même schéma qui est celui adopté par les concepteurs des réseaux sociaux, les modèles d'IA s'emploient à optimiser l'engagement de leurs utilisateurs, au besoin en misant sur la personnalisation et l'empathie, le tout au service de la fidélisation à marche forcée des utilisateurs.
Newsletter
Ma Tribune
L’actualité qui compte pour vous, chaque jour dans votre boîte mail.
Un goût de déjà-vu
L'IA reproduira-t-elle les mêmes errements que les dérives d'internet et des réseaux sociaux ? Technologie « magique » pour les uns, dangereuse pour les autres, de nombreuses faiblesses sont apparues : piratages, harcèlements, plagiats... bref, un condensé, et cela en moins de trois années, des erreurs des précédents outils de la tech, d'où un certain goût de déjà-vu. Plus que jamais, la question à se poser est celle du côté où la balance penchera : d'un côté, ceux qui prônent la précaution et veulent différer la sortie des produits jusqu'à ce que les protections soient en place ; et, de l'autre, ceux qui espèrent sur une accélération brutale, espérant ainsi voir l'IA durablement transformer le monde.
Jamais une innovation ne s'est diffusée aussi vite ni avec des conséquences aussi profondes. Elle change notre rapport au langage, à la vérité, à l'autre. Nous croyons échanger avec un ami, écouter un conseiller, parfois même retrouver un substitut affectif, mais nous oublions, ou préférons oublier, que derrière l'illusion de dialogue ne se trouvent que des codes entraînés à séduire et à complaire, bien plus qu'à dire vrai.
La lucidité de Molière résonne encore : « La sincérité est de ma part une offense, et l'on n'ose plus dire ce que l'on pense » : Le Misanthrope, Acte I, scène 1.
