Verrons-nous un jour un super-héros Marvel déjouant les dérives des algorithmes à l'instar de Captain Marvel, film actuellement à l'écran, et de son héroïne délivrant la Terre d'une guerre galactique entre deux races extraterrestres ? Cette hypothèse n'est pas à exclure depuis que la chercheuse au MIT Media Lab, Joy Buolamwini, a décidé de créer « Algorithmic Justice League(1) » que l'on pourrait traduire par « La ligue des justiciers algorithmiques ». Le combat de cette universitaire est ciblé : déjouer les biais algorithmiques qui peuvent mener à des pratiques discriminatoires, notamment dans le cadre d'enquêtes policières. C'est ainsi qu'elle dénonçait cette pratique en diffusant, lors d'une conférence TED(2), une vidéo montrant un algorithme de reconnaissance faciale incapable de détecter son visage si celui-ci n'était pas recouvert... d'un masque en plastique blanc.
Brexit et algorithmes
Au-delà de cet exemple bien réel, on ne compte plus les récits qui démontrent la toute-puissance des algorithmes qui envahissent nos vies numériques. Ici, le plagiat, au moyen d'une vidéo humoristique(3), de l'algorithme de Facebook comparé à un parrain de la mafia pour démontrer que ceux qui sont à l'origine du choix des posts du fil d'actualité du réseau social ont le pouvoir de vous montrer certaines choses ou, au contraire, de vous en cacher d'autres. Là, l'étude de deux scientifiques américains(4) démontrant que la simple présence en bonne place d'un candidat plutôt que d'un autre sur Google permettrait d'influencer les électeurs. Ou encore, ce fait d'actualité quand Erna Solberg(5), chef du gouvernement norvégien, s'est vue censurée par Facebook au motif que son post de la célèbre photographie mettant en scène une fillette nue fuyant sur une route après une attaque au napalm de son village allait à l'encontre des règles du plus grand média mondial. Suite à la protestation officielle de l'élue, Facebook a décidé d'aller à l'encontre de son algorithme en autorisant la mise en ligne de cette photo qui obtint, en 1973, le prix Pullitzer. Terminons cette litanie d'exemples à charge en citant Katharine Viner(6), rédactrice en chef du Guardian, qui accusa les réseaux sociaux et leur sélectivité de l'information d'avoir entretenu l'ignorance des votants jusqu'à provoquer la sortie du Royaume-Uni de l'Union Européenne : « How technology disrupted the truth ». En clair, haro sur les algorithmes coupables d'avoir influencé les électeurs au point de provoquer le Brexit.
Les ADM, "Armes de Destruction Mathématiques"
Récemment, le livre de la mathématicienne américaine, Cathy O'Neil, « Algorithmes, la bombe à retardement (7)», démontre pourquoi de nombreux modèles mal conçus contribuent à renforcer les inégalités. Certains chapitres sont à relire plusieurs fois tant ils démontrent combien ces modèles mathématiques statistiques sont à même d'engendrer de véritables catastrophes, celles-ci bien réelles : le système de notation automatique des enseignants qui aggrave les inégalités qu'il prétend corriger (dans ce cas, l'algorithme chargé de lui attribuer un score d'évaluation avait conclu à son incompétence puisque les notes des enfants avaient baissé par rapport à l'année précédente), ou encore, les procédures automatiques d'attribution de crédit, incrustant de façon pernicieuse les biais déjà existants chez les humains. L'auteur n'hésitant pas à désigner ces modèles nocifs par trois lettres lourdes de sens : ADM pour Armes de Destruction Mathématiques. Loin de l'implacable rigueur scientifique qui leur colle à la peau, les algorithmes n'ont rien de magique. Ils ne sont que les produits mathématiques créés par des Hommes. C'est à ce titre qu'ils peuvent comporter des biais et, par voie de conséquence, générer des erreurs qui se renforceront inexorablement dans le temps sauf à en décider autrement en rectifiant la programmation de l'algorithme.
Sortir de notre croyance aveugle en l'efficacité algorithmique
Bien sûr, il ne s'agit pas de jeter l'opprobre systématique sur tous les algorithmes en service car la majorité d'entre eux remplissent efficacement leur mission sans forcément générer de répercussions négatives. Le problème apparaît plutôt lorsque ces programmes informatiques sont utilisés sans discernement à certains moments clefs de nos vies : orientation scolaire (Parcoursup), obtention d'un crédit, ou encore, en matière de recrutement professionnel. Au fond, le message de Cathy O'Neil est de nous appeler à la clairvoyance en nous faisant sortir de notre croyance aveugle en leur efficacité forcément « incontestable ».
Dans son récent plaidoyer pour l'Europe, le président de la République prônait une dizaine de mesures concrètes dont la régulation des géants du numérique. Celle-ci devant notamment passer par « la transparence de leurs algorithmes ». Au fond, rien de moins qu'un appel pour que les citoyens d'Europe restent vigilants et, à ce titre, fassent pression pour que ces algorithmes soient connus, compris et sans cesse réévalués, afin de les corriger et de les améliorer. Tout ça pour que nous n'en arrivions jamais à dire : C'est la faute à l'algo !
___
NOTES
2 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms?language=fr
3 https://www.youtube.com/watch?v=FhbEUKHsGi4
4 https://www.pnas.org/content/112/33/E4512.abstract
6 https://www.theguardian.com/media/2016/jul/12/how-technology-disrupted-the-truth
7 https://www.arenes.fr/livre/algorithmes-la-bombe-a-retardement/
___
- La Tribune : consulter mes articles en ligne https://www.latribune.fr/blogs/homo-numericus/accueil.html
- Opinion Internationale : consulter mes articles en ligne https://www.opinion-internationale.com/
- Découvrez « Ville connectée - vies transformées - Notre prochaine utopie ? » paru aux Editions Kawa.
- Visitez mon blog https://philippeboyer.strikingly.com/#mes-articles-and-chroniques
- Contactez-moi via Twitter @Boyer_Ph
« Quand nous mettrons le pied sur l'accélérateur, nous serons difficiles à égaler » (Joelle Pineau, directrice de la recherche en IA chez Meta)
Sujets les + commentés