OPINION. « Un caissier m’a demandé comment j’allais… Que dois-je répondre ? »
latribune.fr
IA
Unsplash
OPINION. « Souveraineté numérique : l'Europe ne peut plus se contenter de réagir aux ingérences »
Idées & Débats
latribune.fr
IA
Unsplash
Par Philippe Boyer, directeur relations institutionnelles et innovation à Covivio.
Sur les réseaux sociaux, la vidéo des humoristes américains Harris Alterman et Joe Nunnik est un petit bijou d’humour et de lucidité. Un client et un caissier d’une supérette se font face. Chacun parle à son téléphone, connectés à ChatGPT. Résultat : aucun des deux ne se regardent ni ne se parlent, trop absorbés à consulter et à suivre aveuglement ce que la machine leur propose suite à leurs questionnements. L’échange tourne au comique métaphysique : la machine se substitue et parle à la place des humains jusque dans les banalités les plus ordinaires. Une dystopie dans laquelle une conversation anodine se réduit à un écho algorithmique.
La vidéo « Quand on utilise Chat GPT pour tout et n’importe quoi » est visible en cliquant sur ce lien : https://www.youtube.com/shorts/2zb7S2beKOE?feature=share
Le caissier lit la phrase suggérée par son assistant : « Comment allez-vous ? », lance-t-il au client tout en ne quittant pas des yeux l’écran de son smartphone. Le client sursaute, désemparé, puis pianote frénétiquement : « Peux-tu m’aider ? Le caissier me demande comment ça va. Que dois-je répondre ? »
ChatGPT, placide : « Essayez quelque chose comme : “Bien, et vous ?” » Le client s’exécute aveuglément.
Le caissier, paniqué à l’idée d’improviser, consulte son écran à son tour : « Et maintenant, je réponds quoi ? »
ChatGPT : « Proposez-lui de l’aide : “Cherchez-vous quelque chose en particulier ?” » souffle la machine.
Le client, pris de court, pianote sa question : « Qu’est-ce que je cherche ? »
ChatGPT : « Cela dépend de vos besoins. »
Le client : « Je ne sais pas… Quels sont mes besoins ? »
ChatGPT : « Les plus courants sont la santé, la nourriture, un abri et de la compagnie. »
Le client relève la tête, songeur et se lance en interrogeant le caissier : « Avez-vous de la compagnie ? »
Silence gêné. Le caissier, affolé, tape sur son téléphone : « Où trouver de la compagnie dans le magasin ? »
Réponse immédiate de la machine : « La compagnie se trouve dans différents rayons : parfois douce comme le pain frais, d’autres jours, c’est du bricolage. Demandez à Fred, il en cherche aussi. »
Le caissier : « Demandez à Fred ! »
Le client : « Fred ? Où est Fred ? »
Le caissier, consulte son assistant numérique, pianote frénétiquement : « Où est Fred ? »
ChatGPT : « Je ne sais pas où se trouve Fred. Pourriez-vous me donner plus de détails ou de contexte ? »
Le client, désespéré, tape à toute vitesse : « Un homme me demande où se trouve un dénommé Fred qui peut m’aider à trouver de la compagnie dans les rayons de ce magasin. Que dois-je faire ? »
L’actualité qui compte pour vous, chaque jour dans votre boîte mail.
ChatGPT, imperturbable et sans filtre, fait appel à ses algorithmes et crache son résulat : « Cela pourrait être un code lié à un trafic d’êtres humains. Il est temps d’alerter la police. »
Les yeux écarquillés, le client panique : « Dois-je appeler la police ? »
ChatGPT : « Oui. Composez au plus vite le numéro d’urgence. »
La sirène retentit. Le caissier relève la tête : « Quelqu’un a appelé la police ? »
Sans divulgâcher la fin de ce clip destiné à montrer combien nous sommes déjà devenus - ou pourrions devenir plus encore - dépendants de cette « drogue douce » que sont les agents conversationnels dopés à l’IA générative, ce clip nous met face à nos responsabilités : sommes-nous prêts à déléguer aux machines ce qui fait la singularité de notre humanité, à commencer par la parole et les interactions sociales ? Pour le dire autrement, comment continuer à penser par nous-mêmes sans systématiquement faire appel à ces « béquilles » technologiques qui ont réponse à tout et qui se plient à tous nos désirs au point de devenir une aide quotidienne, voire un confident, un coach, un thérapeute, parfois même un ami.
Le fait est que presque trois années après l’arrivée de ces nouveaux outils dans nos vies (pour ne parler que de ChatGPT, la sortie grand public de cet outil par OpenAI date du 30 novembre 2022), ces agents conversationnels deviennent des compagnons de tous les instants au point de ringardiser les moteurs de recherche « classiques » tels que nous les connaissons. Demain, et si une telle propension à tout faire passer par le filtre de ces IA interactives s’accélérait, ce qui est fort probable du fait de la percée des IA «agentiques » qui programmeront bon nombre de nos tâches quotidiennes, ce confort technologique en la « personne » de cette machine qui a réponse à tout et tout le temps pourrait aboutir à ce paradoxe où nous penserions moins, vérifierions moins et, plus grave, douterions moins. "Ce n'est pas le doute, c'est la certitude qui rend fou", écrivait le philosophe Friedrich Nietzsche.
A force de se référer de plus en plus à ChatGPT, Copilot, Gemini, Claude et autre Le Chat… le risque c’est que notre capacité de discernement s’émousse et que nous abdiquions. Socrate était effrayé à l’idée que l’Homme puisse un jour perdre sa mémoire au motif qu’il avait cette propension à consigner par écrit ses pensées. Dans les faits, rien de tel ne s’est produit même si depuis l’apparition massive des nouvelles technologies (PC, smartphone et à présent IA), nous avons tendance à sous-traiter le raisonnement et la pensée pour souvent trop aveuglement nous fier aux réponses de ces IA qui ont été conçues pour nous donner l’illusion que tout ce qu’elles sortent relève du vrai et du sens commun. Seule manque une composante essentielle qui elle relève des aptitudes humaines : le discernement.
La définition du verbe « discerner » est un programme en soi : séparer, mettre à part, distinguer, prendre du recul… bref, juger sainement, apprécier avec netteté et justesse. Dans les écoles, les médias...partout où l’on éduque et forme à l’esprit d’analyse, les années à venir seront déterminantes pour que l’apprentissage de cette écologie du discernement devienne central. L’enjeu est immense : faire prendre conscience que ces IA sont de formidables outils mais, et sans la claire conscience de leurs biais (on lira à ce sujet le dernier ouvrage de Luc Julia : « IA génératives, pas créatives » Editions Le cherche midi) de potentiels nouveaux maîtres.
latribune.fr
