Qui veut la peau de l'algo  ?

HOMO NUMERICUS. Les algorithmes sont décriés car ils ont l'image de « boîtes noires » impossibles à comprendre et, a fortiori, à contrôler. Par Philippe Boyer, directeur relations institutionnelles et innovation à Covivio.
Philippe Boyer
Extrait d'une infographie permettant de visualiser la myriade de connexions entre utilisateurs de Twitter ayant tweeté le mot algorithme à un instant t [ pour voir l'image originale: https://www.flickr.com/photos/marc_smith/5682971310 ]
Extrait d'une infographie permettant de visualiser la myriade de connexions entre utilisateurs de Twitter ayant tweeté le mot "algorithme" à un instant "t" [ pour voir l'image originale: https://www.flickr.com/photos/marc_smith/5682971310 ] (Crédits : Marc Smith via Flickr (CC BY 2.0))

Il souffle comme un vent de révolte. Un peu comme si les humains avaient décidé de ne plus se laisser commander et manipuler par les algorithmes. Il faut dire que ces derniers ont envahi presque tous les domaines de nos vies numériques : achats sur le Web, déplacements, sécurisation, loisirs, santé... Les algorithmes, ces programmes plus ou moins complexes destinés à faire tourner les simulations et les calculs des ordinateurs[1], sont partout, et ceci, pour le meilleur comme pour le pire.

Décrits par l'auteure américaine Cathy O'Neil[2] comme des «ADM », entendez des « Armes de Destruction Mathématiques », les algorithmes ont comme perdu de leur superbe et ne sont plus à la hauteur des grandes espérances d'une technologie salvatrice.

Match « Humains VS algorithmes »

Depuis que l'on a réalisé que ces programmes - écrits par des Hommes, ne l'oublions pas - , pouvaient aussi contenir d'importants biais pouvant générer des situations inégalitaires, inéquitables... des mouvements de défiance et de révolte sont apparus sous de multiples formes. Ici, de façon violente, suite à l'arrestation de Robert Williams, à Detroit[3]. Dans cette affaire, les algorithmes de ce logiciel ont considéré, à tort, que la photo de cet homme ressemblait presqu'en tous points à celle d'un autre, en l'occurrence un voleur de montres arrêté grâce à des logiciels de reconnaissance faciale gavés d'algorithmes, comme il se doit. Ailleurs, d'autres actions moins radicales ont également vu le jour. Toutes ou presque ayant pour objectif de se jouer des algorithmes afin de rappeler que, dans le match « Humains VS algorithmes », ce sont les premiers qui doivent garder la main.

L'artiste Simon Weckert l'a démontré en se promenant dans une rue de Berlin avec un petit chariot rempli d'une centaine de smartphones. Objectif de cette performance loufoque ? Tester les limites et piéger l'algorithme de Google Maps en faisant croire au service de cartographie que les rues par lesquelles l'artiste tirait sa charrette étaient saturées de voitures. La chose était déjà connue depuis que, sur Waze, certains utilisateurs avaient déjà réussi à manipuler l'algorithme en signalant de faux accidents pour détourner le trafic. Un autre exemple de contournement de la froide rationalité de ces programmes avec, très récemment, le canular visant à saboter un meeting électoral de campagne Donald Trump[4] en détournant le système d'inscription pour générer une surestimation de l'affluence à l'événement - pour ces jeunes gens, fins connaisseurs du fonctionnement des algorithmes, une distraction tout autant qu'un acte politique. Autant d'actes de rébellion contre les machines accusées de nous manipuler « à l'insu de notre plein gré ».

Démystifier les algorithmes

Très souvent accusés d'opacité, les algorithmes effraient. Ils renvoient l'image d'une mécanique difficile, voire impossible à comprendre, qui, in fine, échappe aux humains même si ce sont bien des humains qui en sont à l'origine. Outre que ce fantasme renvoie à l'image d'une intelligence artificielle dite « forte », celle qui est régulièrement mise en scène dans les films de science-fiction, la réalité c'est que, derrière ce mot d'algorithme, on ne comprend pas ce qui s'y cache. La chose est connue : c'est lorsque l'on ne comprend pas que l'on simplifie à l'extrême et que l'on tombe dans la caricature.

À l'inverse, il a par exemple suffi que l'on sache ce qui « se cachait » dans l'algorithme Parcoursup pour que l'on comprenne, au moins dans ses grandes lignes[5], la logique d'orientation à l'œuvre quitte, au passage, à repérer ses défauts inhérents de logique pouvant être à l'origine de biais.

L'idée n'est pas tant que chacun puisse devenir un/une spécialiste des lignes de code qui font tourner tel ou tel algorithme, mais bien, et comme le recommande la scientifique Aurélie Jean, de « fantasmer (sur les algorithmes), mais sur de bonnes bases[6] ».

Comment ? Notamment en éclairant les citoyens que nous sommes tous sur la compréhension de ces mécaniques technologiques qui font désormais partie de nos vies. En clair, fournir un minimum d'éducation algorithmique. Outre que cela permettrait, dès le plus jeune âge, d'en comprendre les mécanismes internes, cela pourrait aussi avoir pour mérite de sécuriser nos libertés fondamentales face à des États tentés d'avoir recours à la puissance de ces nouvelles technologies assises sur des algorithmes de plus en plus sophistiqués.

Il y a un an, disparaissait Michel Serres. Cet extraordinaire philosophe des sciences ne manquait jamais une occasion de démystifier les choses d'apparence compliquées et de plaider pour que les scientifiques deviennent des philosophes et les philosophes des scientifiques. Bref, que les savoirs se croisent afin d'éviter que nos sociétés se peuplent de cultivés ignorants ou de savants incultes.

Exactement ce qu'il faudrait pour sauver la peau de l'algo.

___

NOTES

[1] Lire à ce sujet: De l'autre côté de la machine, par Aurélie Jean, aux Éditions de L'Observatoire

[2] Algorithmes, la bombe à retardement, par Cathy O'Neil, Éditions Les Arènes

[3] https://choice.npr.org/index.html?origin=https://www.npr.org/2020/06/24/882683463/the-computer-got-it-wrong-how-facial-recognition-led-to-a-false-arrest-in-michig

[4] https://www.lemonde.fr/international/article/2020/06/21/des-utilisateurs-de-tiktok-revendiquent-le-sabotage-du-meeting-de-trump_6043657_3210.html

[5] https://www.sciencesetavenir.fr/high-tech/informatique/bac-2018-l-algorithme-de-parcoursup-explique-par-les-deux-chercheurs-qui-l-ont-concu_124407

[6] https://youtu.be/Haq7ax0EGHE

Philippe Boyer

Sujets les + lus

|

Sujets les + commentés

Commentaires 3
à écrit le 10/07/2020 à 13:57
Signaler
L'algo c'est jamais qu'un processus contraint par un ensemble de règles et des données. Règles et données créent des bifurcations c'est à dire différents chemins ou itérations. Là où ça devient compliqué c'est que nous comprenons moins la logique t...

à écrit le 10/07/2020 à 9:59
Signaler
L'humanité depuis qu'elle a vaincu la nature n'avait plus de concurrent, avec l'informatique peut-être qu'elle commence à sentir sa suprématie bientôt remise en question, cette rivalité ne pourra que faire du bien à ces deux entités. D'ailleurs les j...

à écrit le 10/07/2020 à 9:53
Signaler
la question est empirique et "par défaut". Comme peu de gens peuvent avoir les éléments de ventilation, la question est de savoir lire la techno. Il semble évident que celle ci par exemple sur les boxes sont le relais de l'interopérabilité, y com...

Votre email ne sera pas affiché publiquement.
Tous les champs sont obligatoires.

-

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.