Quand un être humain se cache derrière votre intelligence artificielle

 |   |  619  mots
Karim Jouini.
Karim Jouini. (Crédits : DR)
De nombreuses entreprises annoncent confier les données de leurs clients à une intelligence artificielle, mais les sous-traitent en réalité à des travailleurs, ce qui pose des problèmes d'éthique et de confidentialité. Par Karim Jouini, CEO et fondateur d'Expensya (*).

L'Amazon Mechanical Turk est une plateforme de microtravail, lancée en 2005 par Amazon. Le principe est de faire effectuer des tâches simples et morcelées par des humains, comme de la traduction de fragments de textes, pour le compte d'entreprises qui externalisent ces services. Le nom de la plateforme vient d'un célèbre canular de la fin du 18e siècle, le Turc Mécanique[1], présenté aux Européens comme un automate capable de jouer aux échecs. En réalité, il ne s'agissait que d'un pantin de bois, à l'intérieur duquel se cachait un humain.

La plateforme d'Amazon met en évidence l'ironie d'une situation où l'humain fait le travail de l'intelligence artificielle (IA). En effet, contrairement à ce que laissent trop souvent entendre les startups, l'intelligence artificielle n'est pas gratuite, au contraire. Dans les pays en développement — comme l'Inde ou les Philippines —, le coût du travail humain est souvent plus compétitif que celui du recours à une intelligence artificielle.

Madagascar, leader français de l'intelligence artificielle

Ainsi, parmi les nombreuses entreprises et startups qui vendent à leurs clients une gestion des données faite par une intelligence artificielle, se cache en réalité un traitement de l'information «à l'ancienne» fait par des travailleurs à bas coût, dans des pays, comme Madagascar, où le prix de la main d'œuvre est jusqu'à 30 fois inférieur à celui de la France[2].

Une raison, autre qu'économique, à ce traitement manuel, est que l'intelligence artificielle n'est pas encore tout à fait capable d'imiter l'esprit humain. Lorsqu'il s'agit, par exemple, de scanner des livres anciens, l'IA ne sait pas toujours reconnaître les mots. Il faut donc l'intervention d'un être humain, bien réel, pour éviter les erreurs de transcription. Ainsi, pendant que l'IA se développe, ce qui, à moyen terme, fera baisser son coût et le rendra plus compétitif, il se met en place un système hybride, où on rencontre actuellement davantage de délocalisation d'emplois et de traitement manuel que de recours à des intelligences artificielles.

Un problème de confidentialité des données

Cette sous-traitance des données par des travailleurs humains pose un problème de confiance, car les entreprises clientes, faute d'en être informées, n'y ont pas donné leur consentement. Une startup pourra ainsi faire traiter les données d'une entreprise française par des travailleurs asiatiques ou africains, avec lesquels elle n'a par ailleurs aucun contact direct. Le recours à des travailleurs humains pose également un problème de confidentialité, car les données qui sont traitées par les travailleurs ne sont pas toujours anonymisées. Ceux-ci ont donc accès à des informations parfois sensibles sur l'activité des entreprises, comme des notes de frais ou des factures.

Un pari sur l'avenir

Pour les nombreuses startups qui ont recourt à l'intelligence humaine au lieu d'une intelligence artificielle, il s'agit avant tout d'un pari sur l'avenir. Toute intelligence artificielle fonctionne par analogie, à partir de ce que l'humain lui enseigne. Pour que leurs algorithmes apprennent, il faut les nourrir en données : ce sont ces fameuses données, qui sont pour le moment traitées par des travailleurs. En faisant traiter manuellement certaines tâches, les startups accumulent les bases de données nécessaires à la création d'un algorithme efficace, qui sera plus tard capable d'exécuter efficacement ces tâches.

Ces startups vendent aujourd'hui ce qu'elles seront dans cinq ans. Un modèle ingénieux, même si, comme le Turc Mécanique, il ne peut fonctionner que tant que les entreprises ignorent que cette intelligence artificielle reste, pour le moment encore, bien humaine.

(*) Le site Expensya, cliquez ici

[1] https://www.franceculture.fr/emissions/ce-qui-nous-arrive-sur-la-toile/le-turc-mecanique-damazon

[2] http://www.entrepreneuriat.auf.org/IMG/pdf/A7C22_FINAL.pdf

Réagir

Votre email ne sera pas affiché publiquement
Tous les champs sont obligatoires

Commentaires
a écrit le 14/02/2018 à 15:30 :
Article très intéressant, il met en évidence une façon de surfer pour des startup sur la vague de l'IA, sans même devoir justifier de leur capacité à être réellement en possibilité d'y faire appel.
Il se trouve que dans le domaine des données audio et de leur retranscription pour réaliser des comptes rendus et autres résumés ou synthèses, on a les mêmes cas où des mini-entreprises disent travailler avec un système automatique faisant appel à l'IA et où il s'avère, vu l'état de l'art actuellement, qu'il ne peut s'agir que de sous-traitance dans des pays à bas coût de main d'œuvre.
En effet, au vu du temps passé à devoir corriger les fautes, à mettre en forme les textes, à corriger les textes afin d'avoir un écrit qui soit lisible et pas une simple redite de l'oral et au vu des tarifs proposés, il ne peut s'agir que d'externalisation à l'étranger.
On peut se poser la question de la proximité de ces propositions avec une sorte d'escroquerie à l'IA, ce qui amène à réfléchir sur les choix de leurs clients et leur incapacité réelle ou non à déceler cette turquerie, complicité passive ou naïveté active ?
a écrit le 13/02/2018 à 12:14 :
Notre société marchande n'étant plus distinguable d'une vaste escroquerie cette information est hélas peu surprenante mais par contre rarement rapportée, merci beaucoup donc d'aborder ce sujet.

Avouons aussi que cela doit être tentant, les médias nous soulent avec l'intelligence artificielle, afin d'alimenter le secteur marchand, qui pourtant n'existe pas, du coup la meilleure intelligence que nous ayons sous la main étant humaine, il n'est pas difficile de se faire passer pour une IA incroyablement évoluée !

Ensuite bien entendu difficile de ne pas subir les dégâts occasionnés par une escroquerie ou bien une mauvaise compréhension du client du phénomène, or nos médias nous faisant croire que ça y est l'IA est là, cela ne peut qu'augmenter la crédulité des clients.

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.

 a le à :