Impossible de bouder son plaisir lorsque l'on constate les spectaculaires progrès de l'intelligence artificielle (IA). Il n'y a qu'à voir l'irruption ces dernières semaines du logiciel ChatGPT [1] qui fait suite, en 2017 (presque une éternité...) à un autre exploit technologique : la victoire d'une machine (AlphaGo) sur l'intelligence humaine au jeu de go. Pour l'une et l'autre machines, de véritables prouesses qui attestent que les programmes savent de mieux en mieux nous déjouer, nous étonner et, peut-être, dans un futur lointain, nous contrôler.
Avec ChatGPT, agent conversationnel surpuissant et capable d'interagir avec des humains presque comme s'il l'était lui-même, nous nous prenons à fantasmer que la machine autonome existe. Exactement comme avait pu l'être pour les contemporains du XVIIIe siècle le Turc mécanique, une prétendue machine automatisée capable de jouer aux échecs.
Dans les faits, et après avoir créé l'admiration des cours royales de toute l'Europe, le canular fut découvert : cette machine recouverte d'engrenages mobiles pour donner l'illusion de sa grande complexité, recelait un compartiment secret dans lequel un joueur humain chevronné était caché, celui-ci en charge d'animer le pseudo automate qui déplaçait les pièces sur l'échiquier...
L'illusion d'une machine autonome
AlphaGo, ChatGPT, Siri, Alexa... toutes ces d'IA n'ont rien de magique même s'il est tentant de le penser du fait de leurs réponses de plus en plus précises et pertinentes.
Si aucun automate ne se cache à l'intérieur de nos appareils électroniques, il n'empêche que les propos de ces logiciels qui affichent leurs résultats sur les écrans de nos smartphones et autres tablettes ne tombent pas du ciel. Ils sont certes le produit des méthodes d'apprentissage automatique propres à l'entraînement de ces machines (deep learning, IA génératrice de texte...), mais ils sont aussi le résultat d'un autre travail, celui-ci bien réel et réalisé par des humains.
Travailleurs de l'ombre de l'IA
Début janvier, au plus fort du pic consacrant ChatGPT comme un tournant historique de l'interaction « Machines-Hommes », paraissait dans le magazine Time [2] un article relatant les dessous de l'IA. En l'occurrence, comment la société OpenAI, fondateur et financeur de ChatGPT, s'était appuyée sur des petites mains au Kenya pour faire en sorte que les résultats des requêtes des utilisateurs de ce logiciel soient politiquement corrects. En d'autres termes, que soit gommées de la machine toutes les scories de langage en lien avec les propos haineux ou à connotation sexuels.
Rémunérées entre 1 et 2 dollars de l'heure, ces travailleurs de l'ombre de l'IA ne sont pas une nouveauté car l'IA ne peut pas se passer de l'humain.
Digital labor
Qu'il s'agisse d'actions que nous faisons, parfois à l'insu de notre plein gré [3], en acceptant de « travailler » (gratuitement) en cochant des cases pour identifier des feux de circulation ou, à plus grande échelle, pour alimenter et corriger des banques de données indispensables à la puissance de calcul des machines, il existe des dizaines de millions de travailleurs invisibles de l'IA qui contribuent ainsi au progrès technologique.
Spécialiste du « digital labor », le sociologue Antonio Casilli [4], spécialiste des réseaux sociaux et des mutations du travail à l'ère numérique, rappelle que cette nouvelle forme de travail se caractérise par l'acte de cliquer sur la touche d'une souris ou de toucher un écran en vue d'aider la machine à progresser.
Cette « microtâchenorisation » du travail numérique est multiple et peut se faire en tous lieux et à toute heure. S'il se caractérise souvent par des tâches simples qui n'exigent que peu d'efforts (notation d'un service par exemple afin de permettre aux algorithmes de mieux répondre à des demandes futures), ce digital labor - et c'est le cas des travailleurs Kényans expurgeant Chat GPT de ses scories - peut aussi prendre des formes un peu plus élaborées telles que la classification ou le filtrage d'informations, impliquant alors que l'humain exerce sa capacité de jugement.
Lutter contre l'illusion collective d'une IA magique
Il ne s'agit pas de s'opposer au progrès ni à l'innovation, en particulier quand cette dernière est portée par l'IA, technologie prodigieuse qui, après plusieurs « hivers », connaît un développement spectaculaire rendu possible par les capacités de calcul et l'accumulation de données.
Tout au plus s'agit-il de ne pas être victime de cette illusion collective portée par l'idée que l'IA serait « magique ».
Comme souvent en matière de technologie, le meilleur et le pire se côtoient. D'un côté, l'IA au service de notre santé, de notre sécurité, de nos déplacements... et qui fait de véritables prouesses. De l'autre, des machines qui n'ont rien d'autonomes et qui ont encore besoin des humains pour être « nourries ». Encore faut-il que cette nourriture puisse être apportée par des travailleurs dignes de ce nom, et qui ne soient pas cachés dans un recoin secret de la machine...
___
NOTES
1 https://www.latribune.fr/opinions/blogs/homo-numericus/quelle-etait-la-couleur-du-cheval-blanc-d-henri-iv-948238.html
2 https://time.com/6247678/openai-chatgpt-kenya-workers/
3 https://www.latribune.fr/opinions/blogs/homo-numericus/a-l-insu-de-notre-plein-gre-755470.html
4 Publications | Antonio A. Casilli
« Quand nous mettrons le pied sur l'accélérateur, nous serons difficiles à égaler » (Joelle Pineau, directrice de la recherche en IA chez Meta)
Sujets les + commentés