Quand un être humain se cache derrière votre intelligence artificielle

De nombreuses entreprises annoncent confier les données de leurs clients à une intelligence artificielle, mais les sous-traitent en réalité à des travailleurs, ce qui pose des problèmes d'éthique et de confidentialité. Par Karim Jouini, CEO et fondateur d'Expensya (*).
Karim Jouini.
Karim Jouini. (Crédits : DR)

L'Amazon Mechanical Turk est une plateforme de microtravail, lancée en 2005 par Amazon. Le principe est de faire effectuer des tâches simples et morcelées par des humains, comme de la traduction de fragments de textes, pour le compte d'entreprises qui externalisent ces services. Le nom de la plateforme vient d'un célèbre canular de la fin du 18e siècle, le Turc Mécanique[1], présenté aux Européens comme un automate capable de jouer aux échecs. En réalité, il ne s'agissait que d'un pantin de bois, à l'intérieur duquel se cachait un humain.

La plateforme d'Amazon met en évidence l'ironie d'une situation où l'humain fait le travail de l'intelligence artificielle (IA). En effet, contrairement à ce que laissent trop souvent entendre les startups, l'intelligence artificielle n'est pas gratuite, au contraire. Dans les pays en développement — comme l'Inde ou les Philippines —, le coût du travail humain est souvent plus compétitif que celui du recours à une intelligence artificielle.

Madagascar, leader français de l'intelligence artificielle

Ainsi, parmi les nombreuses entreprises et startups qui vendent à leurs clients une gestion des données faite par une intelligence artificielle, se cache en réalité un traitement de l'information «à l'ancienne» fait par des travailleurs à bas coût, dans des pays, comme Madagascar, où le prix de la main d'œuvre est jusqu'à 30 fois inférieur à celui de la France[2].

Une raison, autre qu'économique, à ce traitement manuel, est que l'intelligence artificielle n'est pas encore tout à fait capable d'imiter l'esprit humain. Lorsqu'il s'agit, par exemple, de scanner des livres anciens, l'IA ne sait pas toujours reconnaître les mots. Il faut donc l'intervention d'un être humain, bien réel, pour éviter les erreurs de transcription. Ainsi, pendant que l'IA se développe, ce qui, à moyen terme, fera baisser son coût et le rendra plus compétitif, il se met en place un système hybride, où on rencontre actuellement davantage de délocalisation d'emplois et de traitement manuel que de recours à des intelligences artificielles.

Un problème de confidentialité des données

Cette sous-traitance des données par des travailleurs humains pose un problème de confiance, car les entreprises clientes, faute d'en être informées, n'y ont pas donné leur consentement. Une startup pourra ainsi faire traiter les données d'une entreprise française par des travailleurs asiatiques ou africains, avec lesquels elle n'a par ailleurs aucun contact direct. Le recours à des travailleurs humains pose également un problème de confidentialité, car les données qui sont traitées par les travailleurs ne sont pas toujours anonymisées. Ceux-ci ont donc accès à des informations parfois sensibles sur l'activité des entreprises, comme des notes de frais ou des factures.

Un pari sur l'avenir

Pour les nombreuses startups qui ont recourt à l'intelligence humaine au lieu d'une intelligence artificielle, il s'agit avant tout d'un pari sur l'avenir. Toute intelligence artificielle fonctionne par analogie, à partir de ce que l'humain lui enseigne. Pour que leurs algorithmes apprennent, il faut les nourrir en données : ce sont ces fameuses données, qui sont pour le moment traitées par des travailleurs. En faisant traiter manuellement certaines tâches, les startups accumulent les bases de données nécessaires à la création d'un algorithme efficace, qui sera plus tard capable d'exécuter efficacement ces tâches.

Ces startups vendent aujourd'hui ce qu'elles seront dans cinq ans. Un modèle ingénieux, même si, comme le Turc Mécanique, il ne peut fonctionner que tant que les entreprises ignorent que cette intelligence artificielle reste, pour le moment encore, bien humaine.

(*) Le site Expensya, cliquez ici

[1] https://www.franceculture.fr/emissions/ce-qui-nous-arrive-sur-la-toile/le-turc-mecanique-damazon

[2] https://www.entrepreneuriat.auf.org/IMG/pdf/A7C22_FINAL.pdf

Sujets les + lus

|

Sujets les + commentés

Commentaires 2
à écrit le 14/02/2018 à 15:30
Signaler
Article très intéressant, il met en évidence une façon de surfer pour des startup sur la vague de l'IA, sans même devoir justifier de leur capacité à être réellement en possibilité d'y faire appel. Il se trouve que dans le domaine des données audio...

à écrit le 13/02/2018 à 12:14
Signaler
Notre société marchande n'étant plus distinguable d'une vaste escroquerie cette information est hélas peu surprenante mais par contre rarement rapportée, merci beaucoup donc d'aborder ce sujet. Avouons aussi que cela doit être tentant, les médias...

Votre email ne sera pas affiché publiquement.
Tous les champs sont obligatoires.

-

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.