Dans le conte traditionnel arabo-perse, « Aladin ou la Lampe merveilleuse », Aladin maîtrise les pouvoirs d'une lampe magique en la frottant. Ce faisant, il fait apparaître un génie capable d'accomplir toutes ses volontés, sans limite apparente : sauver sa propre vie, vivre avec sa mère dans la prospérité, gagner en influence jusqu'à séduire la princesse Badroulboudour, fille du sultan, qu'il finira par épouser. Parsemé de nombreuses allégories, cette histoire ajouté au célèbre recueil des « Mille et Une Nuits » au XVIIIe siècle, symbolise l'étendu des pouvoirs de l'Homme qui, grâce à un objet magique, accroit ses connaissances et arrive à vaincre l'ignorance, symbolisée par son passage dans la grotte que l'on trouve au début de ce conte.

Avec les assistants personnels qui progressivement envahissent nos foyers, plus besoin de frotter la lampe pour convoquer le génie des contes. Il suffit désormais de prononcer un simple mot pour faire sortir de sa torpeur le génie de l'enceinte : « OK Google », « Alexa » (Amazon) ou « Dis Siri » (Apple)... sont les sésames qui libèrent celui (ou celle, c'est selon) qui se mettra en quatre pour satisfaire toutes nos envies. Prioritairement utilisées pour écouter de la musique, obtenir la météo du jour, se connecter à la radio en direct ou encore effectuer des recherches sur Internet, ces enceintes connectées s'incrustent peu à peu dans nos foyers jusqu'à créer une véritable relation de complicité avec leurs propriétaires. Pour les concepteurs de ces machines, la voix comme nouvelle interface avec les machines est la forme d'interaction la plus naturelle, bien plus que par l'intermédiaire d'un clavier ou d'une souris. Avec la voix, chacun peut intuitivement utiliser ces objets qui font désormais partie de notre quotidien.

Effet Elisa

Ces objets à la « personnalité » presque humaine(1) ont été programmés pour reproduire tous les codes de la conversation (humour, empathie...) afin de créer une véritable relation de proximité qui peut nous donner l'illusion que l'on dialogue d'égal à égal. Connu sous le nom « d'Effet Eliza(2) », il s'agit d'une inclination anthropomorphique qui assimile de manière inconsciente le comportement d'un ordinateur à celui d'un être humain, y compris quand la machine demande que nous la « respections », ceci afin de décourager les comportements grossiers et éviter que l'apprentissage de l'intelligence artificielle ne soit brouillée par quelques noms d'oiseaux... : la fonction « Pretty Please », qui récompense la politesse exprimée par un humain à l'attention de la machine, a récemment fait son apparition sur l'enceinte Google Home.

Inspirer confiance

Outre que ces assistants personnels tendent à prendre une place croissante dans notre quotidien, la présence de ces objets connectés pose d'autres questions, celles-là centrées sur la confidentialité de notre intimité. Un récent article de Bloomberg(3) est venu jeter de l'huile sur le feu en rapportant que des milliers de collaborateurs d'Amazon auraient pour tâche d'écouter les enregistrements capturés par les enceintes Echo qui utilisent l'assistant vocal virtuel Alexa. Si le but affiché est avant tout d'aider Alexa à mieux comprendre le langage humain en améliorant ses fonctionnalités, il n'empêche que ces machines connectées au cloud des GAFA emmagasinent de très nombreuses données très personnelles sur la vie de leurs propriétaires.

Programmées pour ne jamais contrarier ces derniers mais, au contraire, pour ne leur prodiguer que des propos bienveillants, ces robots conversationnels inspirent confiance et incitent à leur confier secrets et confidences. De telles informations constituant de ce fait pour les GAFA une véritable mine d'or du fait que ce qui sera capté par la machine ne portera plus seulement sur quelques données personnelles (préférences et historiques de navigation) mais sur tout ce qui est dit autour de l'enceinte connectée par tous les membres de la famille, et cela sans même que nous nous en rendions compte.

De l'économie de l'attention à l'économie de la confidence

Avec la multiplication de ces assistants personnels, nous changeons d'ère. Nous passons d'une époque marquée par l'économie de l'attention4, en l'espèce inciter les internautes à passer le maximum de temps sur les réseaux sociaux, à celle d'une économie de la confidence. Les caractéristiques de cette dernière étant de rendre ces machines à la fois indispensables et proches de nous au point de s'en remettre presque totalement à elles, y compris en leur confiant nos choses les plus intimes.

Ces logiciels, dont Siri et Cortona sont les prototypes, peuvent non seulement répondre à toutes nos questions pratiques, mais aussi, demain, développer de véritables conversations personnalisées. En croisant l'ensemble de nos informations personnelles disponibles sur la toile et celles entendues, ces systèmes sauront gagner durablement notre confiance au fur et à mesure que nous les alimenterons, « à l'insu de notre plein gré », de nos questionnements, doutes et confidences en tous genres.

Éthique by design

Ce nouveau rapport aux objets numériques qui passe par un recueil toujours plus large de nos données personnelles à des fins commerciales nécessite que soit repensée la collecte de ces dernières. Au même titre que l'on évoque le principe de « privacy by design » - principe selon lequel chaque entreprise traitant des données personnelles doit garantir le plus haut niveau possible de protection des données personnelles conformément au récent règlement européen sur la protection des données personnelles - on voit de plus en plus apparaitre un second principe, celui du « éthique by design »(5).

En l'occurrence, il s'agit d'inciter les concepteurs de ces logiciels et les sociétés qui les utilisent à inventer une nouvelle conception numérique responsable et sociale, qui respecte la vie privée, l'environnement, en nous prémunissant d'une captation abusive de notre attention. C'est à cette condition que ces assistants personnels connectés seront au service de l'humain et non l'inverse C'est l'ambition qu'il faut se fixer pour éviter que la lampe merveilleuse d'Aladin ne prenne le dessus.

___

NOTES

1 https://www.latribune.fr/opinions/blogs/homo-numericus/humain-trop-humain-807100.html

2 https://fr.wikipedia.org/wiki/Effet_ELIZA

3https://www.bloomberg.com/news/articles/2019-04-10/is-anyone-listening-to-you-on-alexa-a-global-team-reviews-audio

4 https://www.latribune.fr/opinions/blogs/homo-numericus/votre-attention-s-il-vous-plait-738566.html

5 https://2018.ethicsbydesign.fr/

___

• La Tribune : consulter mes articles en ligne https://www.latribune.fr/blogs/homo-numericus/accueil.html

• Opinion Internationale : consulter mes articles en ligne https://www.opinion-internationale.com/

• Découvrez « Ville connectée - vies transformées - Notre prochaine utopie ? » paru aux Editions Kawa.
• Visitez mon blog https://philippeboyer.strikingly.com/#mes-articles-and-chroniques
• Contactez-moi via Twitter @Boyer_Ph

Philippe Boyer

26 Avr 2019, 6:00

Partager :