Gael Cérez
Dans les prochaines années, les véhicules autonomes devraient être de plus en plus nombreux à circuler sur nos routes. Moins énergivores et plus fluides dans leurs déplacements, leur généralisation devrait avoir un impact important sur le nombre d'accidents.
Mais, dans de tels cas, que décidera l'intelligence artificielle ? Privilégiera-t-elle la survie de ses passagers ou celle des personnes extérieures ? Si un véhicule autonome était programmé pour sacrifier son passager afin de sauver plusieurs vies, monteriez-vous dedans ?
Ces questions, les chercheurs Jean-François Bonnefon, Azim Shariff et Iyad Rahwan les ont posées à près de 2 000 citoyens américains. Leurs réponses ont permis de dégager trois enseignements.
"Notre premier résultat indique que, moralement, les gens pensent que les voitures autonomes doivent sauver le plus grand nombre même si cela implique de sacrifier les passagers", explique Jean-François Bonnefon, psychologue spécialisé sur la morale au CNRS et à la Toulouse School of Economics.
Une réponse étonnamment partagé par plus de 75 % des sondés selon le chercheur. "Ce résultat est vraiment fortement exprimé par les sondés qui l'expriment en moyenne à hauteur de 85 sur une échelle d'acceptation de 0 à 100", précise-t-il.
Paradoxalement - c'est le deuxième enseignement de l'étude - les mêmes personnes interrogées ne semblent pas prêtes à acheter un véhicule programmé de telle sorte.
Pour sortir d'un tel dilemme social, les économistes préconisent de réguler. Rendre les algorithmes de sacrifice obligatoires sur les véhicules autonomes permettrait donc à un gouvernement de forcer les gens à acquérir ces véhicules et ainsi de réduire la mortalité sur les routes.
L’actualité qui compte pour vous, chaque jour dans votre boîte mail.
Pourtant, selon l'étude, cette solution pourrait avoir un effet inverse à celui recherché.
"C'est le troisième et plus important résultat de notre étude, affirme Jean-François Bonnefon. Si une telle loi passe, l'intérêt d'achat d'une voiture autonome est divisé par trois et la plupart des gens continueraient le plus longtemps possible à conduire tout seul."
Même avec les meilleures intentions du monde et en étant en accord avec les préférences morales des gens, une réglementation pourrait donc faire plus de mal que de bien. "Rendre cet algorithme obligatoire peut sauver quelques vies mais causer la perte de nombreuses autres car les gens n'auront pas adopté cette nouvelle technologie qui est pourtant plus sûre, insiste le chercheur. Pour les gouvernements, le résultat de notre étude est de dire 'attention à la régulation'."
Réalisée à travers six enquêtes aux États-Unis, cette étude est-elle transposable à l'Europe ?
Le chercheur estime donc qu'il faudrait sans tarder lancer de nouvelles études dans d'autres pays pour comparer les résultats.
En attendant, cette étude a le mérite d'ouvrir le débat sur la question. "Il ne faut pas être naïf, souligne Jean-François Bonnefon. Les constructeurs étaient au courant de ce problème, mais ne voulaient pas le mettre sur le tapis avant d'avoir quelque chose de concret à proposer. Cette étude met le doigt sur un problème et appelle à en discuter de façon transparente."
D'après le chercheur et ses collègues Azim Shariff, psychologue spécialiste de la coopération à l'université de l'Oregon, et Iyad Rahwan, informaticien spécialiste des bouleversements sociaux introduits par les nouvelles technologies au MIT, ouvrir le débat permettra aux utilisateurs de changer leur attitude à l'égard des véhicules autonomes.
"Je pense que les choses peuvent rapidement changer maintenant, assure Jean-François Bonnefon. Nous avons un instantané de la position morale des gens et de leurs préférences économiques à un moment où le débat n'a pas été beaucoup discuté. La plupart des gens ne réalisent pas à quel point il y a un consensus moral sur ce que les voitures devraient faire. Quand les gens s'en rendront compte, l'attitude va changer rapidement en faveur d'un algorithme de sacrifice. On peut avoir une attitude qui s'adapte rapidement aux normes sociales et qui rendrait difficile le fait de vouloir être dans une voiture qui protège à tout prix."
À lire également
Pour contribuer au débat, les trois chercheurs ont créé un site internet permettant de simuler des scenarii d'accidents. "C'est une façon d'explorer les situations les plus difficiles moralement, conclut le chercheur toulousain, mais aussi de donner un forum de discussion aux gens et de lancer le débat."
Gael Cérez
