Confiance aveugle

HOMO NUMERICUS. Puissantes, quasi-omniscientes et devenues indispensables dans notre quotidien, les machines nous assistent en permanence au point que nous leur faisons une confiance aveugle. Parfois à l'excès. Par Philippe Boyer, directeur relations institutionnelles et innovation à Covivio.
Philippe Boyer

5 mn

La « mort par GPS » fait référence aux accidents fatals de randonneurs ou de conducteurs qui ont suivi aveuglément les instructions données par leur GPS.
La « mort par GPS » fait référence aux accidents fatals de randonneurs ou de conducteurs qui ont suivi aveuglément les instructions données par leur GPS. (Crédits : StockSnap via Pixabay)

C'est un phénomène étrange baptisé « mort par GPS » par les gardes forestiers américains. Il fait référence à la mort involontaire de personnes, randonneurs ou conducteurs, qui, à force de suivre aveuglément les instructions données par leur GPS, ont terminé leurs routes dans une impasse, dans tous les sens du terme. Que l'on se trouve dans la vallée de la Mort, en montagne dans les Appalaches ou bien sur les terres les plus inhospitalières du globe, en Australie ou au Brésil, se fier uniquement à la technologie et non à ses sens, voire à son intuition, peut avoir des conséquences dramatiques. Trop confiants dans les technologies qui nous entourent, nous préférons souvent nous en remettre exclusivement aux satellites ou aux algorithmes, bref à ces nouveaux Moloch numériques que sont les Google, Facebook ou aux Amazon qui, à bien des égards, nous connaissent parfois mieux que nous nous connaissons nous-mêmes.

Biais d'automatisation

Cette confiance aveugle dans les technologies pour nous aider dans nos décisions, voire résoudre presque tous les problèmes de l'humanité, porte la douce appellation de « biais d'automatisation ». Qu'il s'agisse du simple choix d'un itinéraire routier en se fiant exclusivement à son GPS, de décider de changer de cap lorsqu'on pilote un avion en plein orage, ou bien encore d'opérer un patient en se fiant au verdict, très persuasif, de la machine, cette notion désigne l'idée que le cerveau préfère faire confiance à la technologie plutôt que d'opter pour des choix plus crédibles. Dit autrement, il ne s'agit rien moins que la propension des humains à favoriser d'abord et avant tout les suggestions de systèmes automatisés en ignorant sciemment d'autres informations contradictoires même si celles-ci semblent pourtant plus logiques et correctes.

Lutter contre notre propension à nous fier aveuglément aux technologies

On aurait tort de croire que ce biais d'automatisation s'observe exclusivement chez des personnes dénuées de compétences sur tel ou tel domaine au motif que les machines sauraient mieux qu'elles. C'est bien souvent l'inverse qui se produit. L'expérience est connue : sur simulateur de vols, des pilotes de ligne expérimentés enchaînèrent les mauvaises décisions en réponse à des incidents simulés[1]. Nul besoin d'imaginer ce que cela pourrait donner si, dans l'industrie nucléaire, la technologie, pourtant indispensable à la gestion d'un parc de centrales, prenait le dessus sur les ingénieurs... Pourtant, c'est un fait : le déploiement des machines dans tous les secteurs de nos vies fait que ce biais d'automatisation constitue une véritable menace. Le plus gros effort consistant désormais à savoir se détacher des machines et de leurs décisions et suggestions, en luttant contre notre propension à nous fier aveuglément aux seules technologies. En d'autres termes, plus les technologies se déploient, plus il faut aussi faire appel à la logique, au bon sens pour remettre en cause ce qui semble pourtant être des évidences et des décisions « rationnelles » car sorties de la machine.

Penser la machine et apprendre à penser avec elle

Plus que jamais, nous vivons dans une sorte de religion du «techno-solutionnisme[2]», en fantasmant un monde de plus en plus optimisé. S'il ne s'agit pas de remettre en cause les bénéfices de très nombreuses innovations qui, en intelligence artificielle, physique quantique... sont porteuses de réels bénéfices, il n'empêche qu'il faut aussi se montrer circonspect sur la croyance que toute pensée ou connaissance se réduit forcément à une logique mathématique, pour ne pas dire « computationnelle ». Ce biais d'automatisation aboutit à l'idée que les ordinateurs peuvent, dès lors qu'ils sont correctement programmés, nous donner les réponses parfaites.

Bernard Stiegler, dans « La technique et le temps[3] », interroge le rôle de la technique dans le monde contemporain. En insistant sur l'ambivalence de ses effets sur nos existences, le philosophe rappelait que la technique est à la fois ce qui nous rend bêtes et ce qui nous permet de lutter contre notre bêtise. Loin de la rejeter, il préconisait de la penser et d'apprendre à penser avec elle pour éviter que l'on en arrive à une «gouvernementalité algorithmique » automatisée qui, dans le pire des scénarios, conduirait à une perte totale de capacité de prise de décision sur sa propre vie.

Et le philosophe de citer Alan Greenspan, ancien président de la Réserve fédérale (la banque centrale des États-Unis), en guise d'illustration de cette prédiction dystopique, dans un autre de ses ouvrages, « La société automatique » : invité à s'expliquer devant le Sénat américain en octobre 2008 sur la crise financière, Alan Greenspan avait répondu en substance qu'on ne maîtrise plus rien du fait du poids croissant des algorithmes.

Que faire alors pour reprendre le contrôle sur les technologies ? La réponse n'est évidemment pas simple. Sans doute, cela doit-il passer par une prise de conscience individuelle ainsi que le recours à l'éducation en comprenant mieux comment les outils numériques ont été conçus et fonctionnent. Bref, cela revient à rééquilibrer la relation de pouvoir qui s'établit entre les Hommes et les machines. Ces dernières nous y aideront-elles? Il y a quelques semaines, Google communiquait sur un de leurs futurs services dénommé « Heads Up[4] », soit « Levez la tête » (sous-entendu « lorsque vous marchez ») . En l'espèce, il s'agit d'une nouvelle fonctionnalité dont l'ambition est de protéger les marcheurs qui consultent leurs smartphones en se déplaçant afin d'éviter qu'ils ne se fassent renverser par une voiture. Google a raison : pour se détacher des machines, il convient de prendre de la hauteur, viser haut en regardant le ciel.

___

NOTES

1. Errors in Aviation Decision Making: Bad Decisions or Bad luck (Cf. Fourth Conference on Naturalistic Decision Making, NASA-Ames Research Center, mai 1998)

2. Concept forgé par Evgeny Morozov, chercheur et écrivain américain, dans son best-seller « Pour tout résoudre, cliquez ici », aux Éditions FYP (2014), 358 pages.

3. https://www.fayard.fr/sciences-humaines/la-technique-et-le-temps-9782213700878

4https://siecledigital.fr/2021/04/14/heads-up-google-android/

Philippe Boyer

5 mn

Sujets les + lus

|

Sujets les + commentés

Commentaires 3
à écrit le 24/01/2022 à 14:22
Signaler
La seule chose pour laquelle j'ai une confiance aveugle, c'est dans le libéralisme, qui va nous assurer la richesse et la sécurité. IN LIBERLISM, WE TRUST. Je n'ai même pas confiance dans la COVID pour réguler les emmerdeurs. Emmanuel.

à écrit le 24/01/2022 à 11:50
Signaler
Comme exemple de mort par GPS, j'ai celui sur ma voiture qui me fait sortir temporairement de la route principale pour prendre une route secondaire, alors que ça ne me fait gagner (En théorie seulement) que trois secondes. Autre mort par GPS, le syst...

à écrit le 24/01/2022 à 11:41
Signaler
Le problème n'est pas la confiance le problème est qu'à force de faire à notre place la machine l'a prise notre place et de ce fait c'est l'humain qui est l'outil de la machine et non plus l'inverse.

Votre email ne sera pas affiché publiquement.
Tous les champs sont obligatoires.

-

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.