C'est la faute à l'algo  !

Ils font partie de nos vies, mais nous ne les voyons pas. Ils influencent nos comportements, mais nous ne le savons pas. Les algorithmes ont pris le pouvoir. Par Philippe Boyer, directeur de l’innovation à Covivio.
Philippe Boyer
Philippe Boyer.
Philippe Boyer. (Crédits : DR)

Verrons-nous un jour un super-héros Marvel déjouant les dérives des algorithmes à l'instar de Captain Marvel, film actuellement à l'écran, et de son héroïne délivrant la Terre d'une guerre galactique entre deux races extraterrestres ? Cette hypothèse n'est pas à exclure depuis que la chercheuse au MIT Media Lab, Joy Buolamwini, a décidé de créer « Algorithmic Justice League(1) » que l'on pourrait traduire par « La ligue des justiciers algorithmiques ». Le combat de cette universitaire est ciblé : déjouer les biais algorithmiques qui peuvent mener à des pratiques discriminatoires, notamment dans le cadre d'enquêtes policières. C'est ainsi qu'elle dénonçait cette pratique en diffusant, lors d'une conférence TED(2), une vidéo montrant un algorithme de reconnaissance faciale incapable de détecter son visage si celui-ci n'était pas recouvert... d'un masque en plastique blanc.

Brexit et algorithmes

Au-delà de cet exemple bien réel, on ne compte plus les récits qui démontrent la toute-puissance des algorithmes qui envahissent nos vies numériques. Ici, le plagiat, au moyen d'une vidéo humoristique(3), de l'algorithme de Facebook comparé à un parrain de la mafia  pour démontrer que ceux qui sont à l'origine du choix des posts du fil d'actualité du réseau social ont le pouvoir de vous montrer certaines choses ou, au contraire, de vous en cacher d'autres. Là, l'étude de deux scientifiques américains(4) démontrant que la simple présence en bonne place d'un candidat plutôt que d'un autre sur Google permettrait d'influencer les électeurs. Ou encore, ce fait d'actualité quand Erna Solberg(5), chef du gouvernement norvégien, s'est vue censurée par Facebook au motif que son post de la célèbre photographie mettant en scène une fillette nue fuyant sur une route après une attaque au napalm de son village allait à l'encontre des règles du plus grand média mondial. Suite à la protestation officielle de l'élue, Facebook a décidé d'aller à l'encontre de son algorithme en autorisant la mise en ligne de cette photo qui obtint, en 1973, le prix Pullitzer. Terminons cette litanie d'exemples à charge en citant Katharine Viner(6), rédactrice en chef du Guardian, qui accusa les réseaux sociaux et leur sélectivité de l'information d'avoir entretenu l'ignorance des votants jusqu'à provoquer la sortie du Royaume-Uni de l'Union Européenne : « How technology disrupted the truth ». En clair, haro sur les algorithmes coupables d'avoir influencé les électeurs au point de provoquer le Brexit.

Les ADM, "Armes de Destruction Mathématiques"

Récemment, le livre de la mathématicienne américaine, Cathy O'Neil, « Algorithmes, la bombe à retardement (7)», démontre pourquoi de nombreux modèles mal conçus contribuent à renforcer les inégalités. Certains chapitres sont à relire plusieurs fois tant ils démontrent combien ces modèles mathématiques statistiques sont à même d'engendrer de véritables catastrophes, celles-ci bien réelles : le système de notation automatique des enseignants qui aggrave les inégalités qu'il prétend corriger (dans ce cas, l'algorithme chargé de lui attribuer un score d'évaluation avait conclu à son incompétence puisque les notes des enfants avaient baissé par rapport à l'année précédente), ou encore, les procédures automatiques d'attribution de crédit, incrustant de façon pernicieuse les biais déjà existants chez les humains. L'auteur n'hésitant pas à désigner ces modèles nocifs par trois lettres lourdes de sens : ADM pour Armes de Destruction Mathématiques. Loin de l'implacable rigueur scientifique qui leur colle à la peau, les algorithmes n'ont rien de magique. Ils ne sont que les produits mathématiques créés par des Hommes. C'est à ce titre qu'ils peuvent comporter des biais et, par voie de conséquence, générer des erreurs qui se renforceront inexorablement dans le temps sauf à en décider autrement en rectifiant la programmation de l'algorithme.

Sortir de notre croyance aveugle en l'efficacité algorithmique

Bien sûr, il ne s'agit pas de jeter l'opprobre systématique sur tous les algorithmes en service car la majorité d'entre eux remplissent efficacement leur mission sans forcément générer de répercussions négatives. Le problème apparaît plutôt lorsque ces programmes informatiques sont utilisés sans discernement à certains moments clefs de nos vies : orientation scolaire (Parcoursup), obtention d'un crédit, ou encore, en matière de recrutement professionnel. Au fond, le message de Cathy O'Neil est de nous appeler à la clairvoyance en nous faisant sortir de notre croyance aveugle en leur efficacité forcément « incontestable ».

Dans son récent plaidoyer pour l'Europe, le président de la République prônait une dizaine de mesures concrètes dont la régulation des géants du numérique. Celle-ci devant notamment passer par « la transparence de leurs algorithmes ». Au fond, rien de moins qu'un appel pour que les citoyens d'Europe restent vigilants et, à ce titre, fassent pression pour que ces algorithmes soient connus, compris et sans cesse réévalués, afin de les corriger et de les améliorer. Tout ça pour que nous n'en arrivions jamais à dire : C'est la faute à l'algo !

___

NOTES

https://www.ajlunited.org/

https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms?language=fr

https://www.youtube.com/watch?v=FhbEUKHsGi4

4 https://www.pnas.org/content/112/33/E4512.abstract

https://www.leparisien.fr/flash-actualite-high-tech/facebook-republie-la-protestation-de-la-premiere-ministre-norvegienne-10-09-2016-6109927.php

https://www.theguardian.com/media/2016/jul/12/how-technology-disrupted-the-truth

https://www.arenes.fr/livre/algorithmes-la-bombe-a-retardement/

___

Philippe Boyer
Replay - Transition Forum 2022

Sujets les + lus

|

Sujets les + commentés

Commentaires 3
à écrit le 03/04/2019 à 10:38
Signaler
Il aurait été intéressant de faire mention du travail d'Olivier Rey "quand le monde se fait nombre". La fonction d'un algorithme, c'est de "singer" la complexité de la réalité en la ramenant à une copie formelle simplifiée. Donc, le modèle algorithm...

à écrit le 13/03/2019 à 10:45
Signaler
Avant que les algorythmes arrivent à nous tromper autant que les médias de masse nous ont trompent depuis des décennies nous orientant également, ils vont avoir un sacré boulot. Parce qu'au pire ces algorithmes se reposent en partie sur nos compo...

à écrit le 13/03/2019 à 10:43
Signaler
soit elle est incompetente au possible, soit d'une mauvaise foi sans nom.... j'ai mon idee la dessus........ l'analyse des visages actuels est base sur du deeplearning, qui va empiler des couches; dans le cadre de photos, celle ci est decoupee en rg...

Votre email ne sera pas affiché publiquement.
Tous les champs sont obligatoires.

-

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.