Qui veut la peau de l'algo  ?

 |   |  871  mots
Extrait d'une infographie permettant de visualiser la myriade de connexions entre utilisateurs de Twitter ayant tweeté le mot algorithme à un instant t [ pour voir l'image originale: https://www.flickr.com/photos/marc_smith/5682971310 ]
Extrait d'une infographie permettant de visualiser la myriade de connexions entre utilisateurs de Twitter ayant tweeté le mot "algorithme" à un instant "t" [ pour voir l'image originale: https://www.flickr.com/photos/marc_smith/5682971310 ] (Crédits : Marc Smith via Flickr (CC BY 2.0))
HOMO NUMERICUS. Les algorithmes sont décriés car ils ont l'image de « boîtes noires » impossibles à comprendre et, a fortiori, à contrôler. Par Philippe Boyer, directeur relations institutionnelles et innovation à Covivio.

Il souffle comme un vent de révolte. Un peu comme si les humains avaient décidé de ne plus se laisser commander et manipuler par les algorithmes. Il faut dire que ces derniers ont envahi presque tous les domaines de nos vies numériques : achats sur le Web, déplacements, sécurisation, loisirs, santé... Les algorithmes, ces programmes plus ou moins complexes destinés à faire tourner les simulations et les calculs des ordinateurs[1], sont partout, et ceci, pour le meilleur comme pour le pire.

Décrits par l'auteure américaine Cathy O'Neil[2] comme des «ADM », entendez des « Armes de Destruction Mathématiques », les algorithmes ont comme perdu de leur superbe et ne sont plus à la hauteur des grandes espérances d'une technologie salvatrice.

Match « Humains VS algorithmes »

Depuis que l'on a réalisé que ces programmes - écrits par des Hommes, ne l'oublions pas - , pouvaient aussi contenir d'importants biais pouvant générer des situations inégalitaires, inéquitables... des mouvements de défiance et de révolte sont apparus sous de multiples formes. Ici, de façon violente, suite à l'arrestation de Robert Williams, à Detroit[3]. Dans cette affaire, les algorithmes de ce logiciel ont considéré, à tort, que la photo de cet homme ressemblait presqu'en tous points à celle d'un autre, en l'occurrence un voleur de montres arrêté grâce à des logiciels de reconnaissance faciale gavés d'algorithmes, comme il se doit. Ailleurs, d'autres actions moins radicales ont également vu le jour. Toutes ou presque ayant pour objectif de se jouer des algorithmes afin de rappeler que, dans le match « Humains VS algorithmes », ce sont les premiers qui doivent garder la main.

L'artiste Simon Weckert l'a démontré en se promenant dans une rue de Berlin avec un petit chariot rempli d'une centaine de smartphones. Objectif de cette performance loufoque ? Tester les limites et piéger l'algorithme de Google Maps en faisant croire au service de cartographie que les rues par lesquelles l'artiste tirait sa charrette étaient saturées de voitures. La chose était déjà connue depuis que, sur Waze, certains utilisateurs avaient déjà réussi à manipuler l'algorithme en signalant de faux accidents pour détourner le trafic. Un autre exemple de contournement de la froide rationalité de ces programmes avec, très récemment, le canular visant à saboter un meeting électoral de campagne Donald Trump[4] en détournant le système d'inscription pour générer une surestimation de l'affluence à l'événement - pour ces jeunes gens, fins connaisseurs du fonctionnement des algorithmes, une distraction tout autant qu'un acte politique. Autant d'actes de rébellion contre les machines accusées de nous manipuler « à l'insu de notre plein gré ».

Démystifier les algorithmes

Très souvent accusés d'opacité, les algorithmes effraient. Ils renvoient l'image d'une mécanique difficile, voire impossible à comprendre, qui, in fine, échappe aux humains même si ce sont bien des humains qui en sont à l'origine. Outre que ce fantasme renvoie à l'image d'une intelligence artificielle dite « forte », celle qui est régulièrement mise en scène dans les films de science-fiction, la réalité c'est que, derrière ce mot d'algorithme, on ne comprend pas ce qui s'y cache. La chose est connue : c'est lorsque l'on ne comprend pas que l'on simplifie à l'extrême et que l'on tombe dans la caricature.

À l'inverse, il a par exemple suffi que l'on sache ce qui « se cachait » dans l'algorithme Parcoursup pour que l'on comprenne, au moins dans ses grandes lignes[5], la logique d'orientation à l'œuvre quitte, au passage, à repérer ses défauts inhérents de logique pouvant être à l'origine de biais.

L'idée n'est pas tant que chacun puisse devenir un/une spécialiste des lignes de code qui font tourner tel ou tel algorithme, mais bien, et comme le recommande la scientifique Aurélie Jean, de « fantasmer (sur les algorithmes), mais sur de bonnes bases[6] ».

Comment ? Notamment en éclairant les citoyens que nous sommes tous sur la compréhension de ces mécaniques technologiques qui font désormais partie de nos vies. En clair, fournir un minimum d'éducation algorithmique. Outre que cela permettrait, dès le plus jeune âge, d'en comprendre les mécanismes internes, cela pourrait aussi avoir pour mérite de sécuriser nos libertés fondamentales face à des États tentés d'avoir recours à la puissance de ces nouvelles technologies assises sur des algorithmes de plus en plus sophistiqués.

Il y a un an, disparaissait Michel Serres. Cet extraordinaire philosophe des sciences ne manquait jamais une occasion de démystifier les choses d'apparence compliquées et de plaider pour que les scientifiques deviennent des philosophes et les philosophes des scientifiques. Bref, que les savoirs se croisent afin d'éviter que nos sociétés se peuplent de cultivés ignorants ou de savants incultes.

Exactement ce qu'il faudrait pour sauver la peau de l'algo.

___

NOTES

[1] Lire à ce sujet: De l'autre côté de la machine, par Aurélie Jean, aux Éditions de L'Observatoire

[2] Algorithmes, la bombe à retardement, par Cathy O'Neil, Éditions Les Arènes

[3] https://choice.npr.org/index.html?origin=https://www.npr.org/2020/06/24/882683463/the-computer-got-it-wrong-how-facial-recognition-led-to-a-false-arrest-in-michig

[4] https://www.lemonde.fr/international/article/2020/06/21/des-utilisateurs-de-tiktok-revendiquent-le-sabotage-du-meeting-de-trump_6043657_3210.html

[5] https://www.sciencesetavenir.fr/high-tech/informatique/bac-2018-l-algorithme-de-parcoursup-explique-par-les-deux-chercheurs-qui-l-ont-concu_124407

[6] https://youtu.be/Haq7ax0EGHE

Réagir

Votre email ne sera pas affiché publiquement
Tous les champs sont obligatoires

Commentaires
a écrit le 10/07/2020 à 13:57 :
L'algo c'est jamais qu'un processus contraint par un ensemble de règles et des données.
Règles et données créent des bifurcations c'est à dire différents chemins ou itérations.
Là où ça devient compliqué c'est que nous comprenons moins la logique ternaire c'est à dire basée sur des ensembles floues que la logique binaire, c'est vrai ou c'est faux.

Mais en même temps comme dirait l'autre (ou concomitamment, en parallèle) le language dit humain, la langue, le francais en l'occurrence sont par nature très floues ! avec différentes acceptions pour un mot en fonction du contexte, l'ironie qui dit le faux pour dire le vrai etc...
Avec des boucles de rétroaction et un contexte en évolution on peut passer de vrai à faux de manière non traçable de l'aveu même des spécialistes de l'IA et ainsi à une nouvelle classification des entités du problème.

Donc réhabiliter l'algo consiste en une démarche qui vise à donner confiance (ayez confiance, ainsi les musiques d'ambiance d'ascenseurs ou de supermarchés) par des acteurs intéressés, des marchands.

Alors qu'au contraire il faut être méfiant, sceptique, inquisiteur, interrogateur.

Les spécialistes de l'IA le disent, on ne sait pas formaliser le processus de décision, de pondération des algorithmes non classiques basés sur des réseaux de neuronnes.

Comme le dit Aurélien Barrau, prévoir ça n'est pas comprendre. Hors pour avoir vraiment confiance on doit comprendre ! Mais la confiance ne doit pas être un objectif, la défiance c'est de la vigilance si elle s'accompagne d'une compréhension alternative par des études de cas, si les résultats d'un calcul algorithmique sont raisonnables non pas au sens que l'on pourrait analyser toutes les raisons, les ratios, les pondérations ayant aboutis à la conclusion mais par ce que le problème à résoudre (résolution, atomicité, découpage minimal, il y a solution dans résolution, la solution émerge du niveau de résolution, le niveau de "grainage") est bien posé et les résultats en regard clairs. De sorte que ça n'est pas comprehensible au sens d'en avoir tous les détails présents à l'esprit, car c'est impossible, il faut une mémoire eidétique pour celà et pouvoir la requérir de manière fluide ce qui est une autre histoire, bref notre cognition est déjà dépassée par la complexité dut à la multitude, les grands nombre qui deviennent un qualité en soit, une propriété du système, pas forcément une complexité logique.
a écrit le 10/07/2020 à 9:59 :
L'humanité depuis qu'elle a vaincu la nature n'avait plus de concurrent, avec l'informatique peut-être qu'elle commence à sentir sa suprématie bientôt remise en question, cette rivalité ne pourra que faire du bien à ces deux entités. D'ailleurs les jeux en ligne devraient plus orienter leurs combats humains en groupe contre IA plutôt que groupe d'humains contre autres groupes d'humains.

Le phénomène écologiste par ailleurs qui semble vraiment de plus en plus marqué, à ma grande surprise je pensais que c'était un effet de mode mais non c'est vraiment ancré chez de plus en plus de citoyens, expose comme la majorité de l'humanité ne craint plus la nature ayant compris que nous avions gagné et qu'au final nous ne risquions plus rien, malgré le covid oui, de celle-ci, la plupart des animaux et insectes ayant dorénavant disparu.

Relançons donc la nature qui ne pourra que nous soutenir dans ce nouveau combat qui s'annonce, qui a déjà commencé du fait de la cupidité des propriétaires de capitaux et d'outils de production.
a écrit le 10/07/2020 à 9:53 :
la question est empirique et "par défaut". Comme peu de gens peuvent avoir les éléments de ventilation, la question est de savoir lire la techno.

Il semble évident que celle ci par exemple sur les boxes sont le relais de l'interopérabilité, y compris avec les outils télécoms de première génération.

La question est de savoir si l'on peut leurrer un algo. Cela dépend aussi de l'objectif, mais a la manière dont les banques force la digitalisation, comme les fournisseurs d'énergies disons que nous comprenons donc bien l'intérêt non pas de dompter, mais juste de lire les données par défaut qui permettent du coup de comprendre au long court comme un créatif peut s'en protéger!

La connaissance techno donne une avance sur ce qui est de l'ordre de la compréhension, du coup tout cela est stratégie, mais aussi global.

Pour cela, je n'explique que peut, ayant peu d'intérêts pour le business mais pour le développement, vaut mieux que ce qui est dans la tête reste dans la tête :)

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.

 a le à :