OPINION. La programmation des algorithmes qui piloteront demain les voitures sans chauffeur sera le fruit de choix éthiques humains politiques et forcément partiaux. Démonstration. Par Laurent Bibard, ESSEC
Les voitures autonomes sont aujourd'hui présentées, au même titre que les voitures électriques ou à hydrogène, comme l'un des futurs développements de l'industrie automobile et plusieurs modèles seront exposés par les constructeurs lors du Mondial de l'automobile qui s'est ouvert lundi 17 octobre à Paris.
Pourtant, la notion de véhicule « autonome » ne peut se comprendre au sens philosophique du terme. Et c'est sur le fond de confusions graves que certaines questions censées être « éthiques » sont posées pour leur conception et leur production, alors que le problème est celui de choix sociétaux et politiques (il s'agit bien de la continuation de l'éthique, mais sur un plan strictement humain), qui n'ont rien de technologique comme tels. Il est capital de « dégonfler » les faux problèmes posés à ce sujet et de poser les bonnes questions. Cela est évident à partir d'une fiction théorique absurde appelée « dilemme du tramway », qui malgré la pauvreté de pensée dont elle témoigne a la vie dure. C'est la raison pour laquelle, après notre article publié en décembre 2019 dans ce même média, il nous semble nécessaire d'y revenir.
Le « dilemme du tramway » est le cas théorique d'un tramway dont le trajet présente un aiguillage. La voie qu'est censé suivre le tramway le conduirait à percuter inévitablement des ouvriers travaillant sur son chemin. Un aiguilleur se trouve à l'aiguillage, constate le drame qui aura lieu, et a l'option de changer la voie suivie par le tramway. Mais sur l'autre voie possible, se trouve une autre personne, qui si le tramway suivait ce nouveau chemin, serait tout autant victime d'un accident que les premiers ouvriers.
Les algorithmes n'ont pas d'éthique
La question « éthique » qui se pose alors est de savoir quelle victime il faut choisir pour être le plus conforme à l'éthique possible. Les critères peuvent concerner le nombre de victimes potentielles possible (le bon sens laisse penser que moins de victimes il y a mieux c'est), leur âge, leur sexe, leur profession, etc.
Le problème majeur que se posent aujourd'hui les constructeurs des dits véhicules est de savoir quelle « éthique » doit être celle des algorithmes qui feront « décider » aux véhicules quelles victimes choisir en cas de « dilemme du tramway » imposé par les circonstances.
Newsletter
Ma Tribune
L’actualité qui compte pour vous, chaque jour dans votre boîte mail.
Or, aucune machine n'a de sentiment éthique quelconque. Une machine ne se pose structurellement pas de question de sens. Une machine ne fait que ce qui est encodé dans sa fabrication - et au pire, dans la rencontre de circonstances imprévisibles, les algorithmes feront n'importe quoi - en tout cas rien de « sensé ».
Si problème d'éthique il y a concernant les véhicules dits autonomes, il ne concerne donc en rien les véhicules eux-mêmes, qui contrairement à ce que voudraient croire ou faire croire beaucoup d'humains, n'ont pas d'« âme » (on peut raisonnablement penser d'ailleurs que les humains qui attribuent aux machines une « âme » quelconque sont de ce fait même en perte rapide de la leur !).
Les questions d'éthique concernant les véhicules autonomes sont strictement humaines, et tiennent de choix sociétaux ou politiques. Les questions sociétales et politiques sont des questions strictement humaines, qui tiennent, si l'on en croit Aristote, de la continuation de l'éthique. Et c'est bien sur des enjeux politiques que nous sommes et non exclusivement « éthiques » - encore moins d'une éthique qui serait censée être celle des machines. La difficulté vient de ce que nous, humains, voudrions désormais tout « contrôler », et en particulier, nous rêvons d'« encoder » le réel à l'avance.
Les nouvelles technologies ne sont pour rien dans cette volonté ou ce désir démesuré de croire non seulement qu'il est possible, mais qu'il est bon de tout faire pour encoder le réel à l'avance, ou de le connaître et d'en « décider » à l'avance. Loin de ne concerner que le cas des véhicules dits « autonomes » concerne nos attentes en général à l'égard de ce que peuvent les nouvelles technologies, ou de ce qu'on voudrait qu'elles puissent.
Et si l'enfant est un futur Hitler ?
Pour se convaincre de l'impossibilité - et de l'absurdité - d'un tel rêve, il suffit de pousser un peu plus loin que d'habitude le cas d'école du fameux dilemme du tramway pour les véhicules que l'on voudrait totalement « autonomes ». Imaginons un véhicule qui arrive sur une route, et qu'il est confronté au « choix » de devoir percuter soit un vieillard, soit une femme et disons trois enfants, dont un dans un landau.
Le choix paraît évident au premier abord : il faut percuter le vieillard dont on peut supposer qu'il a « fait son temps », tandis que la femme et ses trois enfants représentent l'avenir : « les femmes et les enfants d'abord ! ». Mais l'on peut imaginer que le vieillard est un grand scientifique ou un grand penseur comme Einstein, et qu'il a encore des trésors à livrer sur la connaissance de l'univers : il semble alors préférable de sacrifier la femme et ses enfants.
La chose se complique cependant si l'on apprend que le vieillard, quand bien même s'appellerait-il Einstein, a des retours de printemps problématiques, en particulier envers les enfants. Il est alors évident qu'il faut choisir de percuter le vieillard. Ce n'est cependant pas compter avec le fait que parmi les enfants de la femme en question peut se trouver quelqu'un du prénom d'Adolf. Une publicité parodique pour des voitures autonomes autour de cette éventualité, réalisée par des étudiants de la Filmakademie Baden-Wuerttemberg, avait d'ailleurs fait le buzz en Allemagne en 2013.
Si l'on y regarde bien, il est évidement que l'on ne peut prévoir le réel. À moins d'en venir à un eugénisme total qui signerait la disparition de notre humanité : la fabrication systématisée de « Mozarts » en lieu et place d'« Hitlers » reviendrait certes à l'élimination des tyrans, mais tout autant à celle des artistes. Autrement dit, le « tout contrôle » revient à la disparition de toute créativité, inventivité, innovation véritable, improvisation artistique, etc. Nous ne sommes pas loin d'une pensée unique plus ou moins subreptice du tout contrôle pris non plus désormais comme moyen, mais comme but. Nos fantasmes à l'égard des nouvelles technologies et de leur soi-disant « intelligence » présentent des dangers sociétaux et politiques immenses.
Liberté spécifiquement humaine
Dans un monde dont le rêve principal est de tout maîtriser, il est évidemment douloureux de devoir constater que notre humanité est ambiguë, incertaine, ambivalente, complexe. Car cela revient à devoir admettre, comme il a été admis depuis les origines de toute philosophie et de toute religion dans le monde entier, que le beau et le laid, que le juste et l'injuste, que le bien et le mal vont ensemble, et que cela est malheureusement indépassable.
Si l'on veut par conséquent malgré tout « encoder » des « décisions » à la manière de ce que l'on veut pour le cas dans des véhicules dits « autonomes » - lesquels par eux-mêmes ne seraient en rien concernés par une « éthique » quelconque tandis que leurs fabricants oui -, il faut le faire avec et dans la pleine et entière conscience que cela revient à des choix sociétaux et politiques irréductiblement partiels et partiaux, fondés sur des présupposés que l'on appelle de plus en plus clairement les « biais » des algorithmes.
De la même façon que parler d'« intelligence » artificielle n'a aucun sens, parler de véhicules ou de quelque technologie que ce soit comme étant « autonome(s) » comme tels ne veut rien dire. Pourquoi le souligner ici enfin de nouveau ?
Le sens fort de la notion d'« autonomie » renvoie à la liberté spécifiquement humaine, et à des notions aussi fondamentales - et problématiques ! - que celles de l'immortalité de l'âme ou encore de « dieu ». Or, nos entêtements ont la vie dure, et l'usage de mots comme « intelligence » et « autonomie » au sujet de machines alimente des confusions graves. C'est de notre langage, et donc de notre humanité qu'il s'agit, et du risque de sa dégradation à proportion des attentes où nous sommes à l'égard des machines. On peut noter actuellement un frémissement en direction de cette pleine conscience des enjeux politiques des nouvelles technologies et de l'« IA ». C'est plus qu'une excellente nouvelle, qu'il convient de porter le plus loin et le mieux possible, en particulier évidemment sur le plan législatif.
_______
Par Laurent Bibard, Professeur en management, titulaire de la chaire Edgar Morin de la complexité, ESSEC
