Le généticien Axel Kahn publie, en dialogue avec Denis Lafay (La Tribune), L’éthique dans tous ses états (L’Aube), dans lequel sont passés à l’épreuve de l’éthique un large éventail de thèmes qui « font le présent » et « dessinent l’avenir » de notre civilisation : capitalisme, démocratie, entreprise, science, progrès, écologie, Europe… Des thèmes qui ont en commun d’être bouleversés par la suprématie annoncée de l’intelligence artificielle : un formidable défi éthique, dont Axel Kahn débattra le 11 juin...
LA TRIBUNE - En écho aux méfaits du libéralisme contemporain, la quête transhumaniste, au carrefour des progrès scientifique, technologique et médical, met en exergue la tyrannie qu'exerce une poignée de mastodontes. Pour l'essentiel américains (Google, Amazon, Facebook, Microsoft, Apple...), mais aussi chinois (Alibaba, Huawei, Baidu, Tencent...), ils sont aux commandes du plus névralgique : les « données », et sont initiateurs de transformations aux conséquences encore insaisissables. Leur puissance financière et marketing leur assure une capacité d'investissement et de prise de risque avec laquelle aucun État démocratique, aucune gouvernance inter-étatique ne peut rivaliser. Il s'agit là d'un « défi éthique » colossal. Est-il d'ores et déjà perdu ?
AXEL KAHN - Il est inutile de tergiverser : oui, il est perdu. En revanche, tout n'est pas perdu. Les universités américaines ou chinoises investissent massivement dans l'intelligence artificielle, et leurs diplômés, très bien formés, rejoignent aussi en cohorte ces géants. Ce phénomène, par le jeu duquel l'investissement public n'a d'autre effet que de renforcer les intérêts privés, compose une dynamique et fait l'effet d'une spirale qu'il est illusoire d'espérer inverser, ne serait-ce même ralentir. Que le régime chinois destine la puissance de la recherche, de l'enseignement, des moyens financiers, des organisations économiques domestiques à des ambitions totalitaires semblables aux prophéties effrayantes de George Orwell, ne laisse percer guère de lumière ou d'espoir. Enfin, que l'ensemble de la planète, désormais et pour toujours hyperconnectée, ait abdiqué ce qui constituait un rempart essentiel, le respect de la vie privée, scelle la démonstration. Voilà quelques traits signifiants et irréversibles du « nouveau monde ». Le défi éthique est bel et bien perdu. Mais le pessimisme n'est pas inéluctable.
Il n'est pas inéluctable, mais les progrès scientifiques de l'intelligence artificielle font l'objet d'accélérations si foudroyantes, que la « créature » est promise à « échapper au créateur »...
L'histoire de l'intelligence artificielle peut être scindée en deux grandes étapes. A partir de l'année 1956 (conférence du Dartmouth College, dans le New Hampshire, aux États-Unis), ses concepteurs ont jeté les bases de l'intelligence artificielle, qu'ils voyaient imiter le fonctionnement de l'esprit humain et, à terme, le concurrencer. En fait, leurs prévisions ont été longues à se confirmer. Des ordinateurs de plus en plus puissants et rapides ont été fabriqués, des données massives accumulées (big data), prospectées grâce à la mise au point d'algorithmes performants. La connexion croissante des personnes et les réseaux mondiaux ont abouti à cette société interconnectée actuelle où la vie privée devient bien difficile à protéger. Les plates-formes participatives, de Wikipédia à Blablacar, Uber ou Airbnb, se sont imposées dans le paysage de la vie quotidienne. Cependant, jusqu'au début de notre décennie, c'est à cette « performance massivement quantitative » mais, somme toute, inintelligente que l'intelligence artificielle était circonscrite. Une puissance « massivement quantitative et sotte », dont l'avènement marque cependant la quatrième grande vexation de l'humanité après l'héliocentrisme, la théorie de l'évolution puis la psychanalyse de Freud : les humains ont dû se résoudre à ce qu'ils ne soient pas au centre de l'univers, des créatures privilégiées à l'image de Dieu, et enfin que leur conscience ne les gouverne même pas totalement. Maintenant, des machines bêtes mais rapides et dotées d'une prodigieuse mémoire les dépassaient dans des activités où, pensaient-ils, leur prodigieuse subtilité leur assurait un monopole. Quelle erreur ! Que pourrait le plus doué joueur d'échecs face à une machine capable d'anticiper et de contrer cent coups à l'avance ? Que pourrait le plus remarquable compétiteur de jeu de go face à un ordinateur quantique en mesure de prévoir les 10 600 possibilités ? Il a fallu se résoudre à ce que « l'intelligence humaine brillamment qualitative » soit en maints domaines dépassée par « la sottise massivement quantitative des machines ». Depuis 2010 à 2012, nous en sommes dorénavant à la deuxième étape - prophétisée par les pères de l'IA -, celle d'une authentique intelligence artificielle. Authentique parce que dotée d'une autonomie d'apprentissage, d'une capacité décisionnelle encore balbutiante mais réelle. Elle repose sur une architecture de réseaux de transistors qui miment le fonctionnement des réseaux neuronaux. Les nouveaux dispositifs de l'apprentissage profond sont basés sur le traitement de l'information en couches superposées de composants électroniques ; en cela, ils épousent un mécanisme comparable à celui de notre cerveau : des perceptions visuelles sont, par exemple, d'abord transmises au lobe occipital, dont le déchiffrage est transmis au lobe préfrontal, qui entre en connexion avec les centres de l'émotion, etc. Le résultat du premier traitement est pris en compte à un deuxième niveau, lui-même pris en compte par un troisième, et ce, jusqu'à un quatrième. Dès lors, la machine très performante commence à devenir un peu moins « bête ». Et c'est le début de la « vraie intelligence artificielle ». Jusqu'où cette dynamique s'arrêtera-t-elle? Personne ne le sait, et cet inconnu est d'ailleurs fascinant. La seule certitude est que nous n'en sommes encore qu'au début d'un processus qui ne s'arrêtera pas. Et dans cinq à dix ans, des ordinateurs quantiques dotés d'une incroyable puissance entreront dans la danse.
Fascinant au point de créer une « possibilité de lien » entre deux termes : humanité et machine, aujourd'hui assimilés à un oxymore ?
Absolument. J'ai travaillé des scénarios explorant les conditions d'une forme de solidarité, et même de morale entre les machines. La conscience de soi est parfaitement accessible à une machine. L'idée selon laquelle seuls les humains ont conscience des humains est stupide : les machines pourront, j'en suis persuadé, développer une conscience d'elles-mêmes et, sans doute, de nous. Pour autant, et quel que soit le degré de performance atteint, ces machines seront dotées d'une intelligence artificielle, et nous d'une intelligence humaine...
Newsletter
Ma Tribune
L’actualité qui compte pour vous, chaque jour dans votre boîte mail.
...ce qui conduit à investiguer au préalable le vocable. Émotionnelle, intellectuelle, comportementale, scientifique, sociale, artistique : les champs permettant de qualifier l'intelligence et de distinguer ses terrains d'expression sont si nombreux. L'intelligence humaine peut même être, dans certaines conditions, moins vertueuse, moins « éthique » que l'intelligence artificielle...
En effet, cette mise en perspective « des » intelligences humaine et artificielle soulève la question de leurs spécificités respectives, si elles existent. Prenons l'exemple de ce qui s'est joué tout au long de notre dialogue. Peut-être avez-vous pu le remarquer, à plusieurs reprises, j'ai été ému. Le rythme de mon coeur s'est accéléré, ma gorge s'est serrée, mes yeux se sont embués : je suis un être très sensible. En aucun cas, ma raison, à laquelle je suis bien entendu très attaché, n'est déconnectée de mes émotions. L'intelligence humaine ne peut pas exister sans les affects du corps et leur souvenir. Pas de raison sans passion. La plus brillante des intelligences artificielles est, elle, dépourvue de corps. Une machine peut facilement faire jouir un humain ; en revanche, il est bien difficile d'imaginer comment la faire jouir. Voilà deux exemples qui symbolisent cette différenciation des intelligences. Et laissent penser que la magnificence de la Jeune Fille à la perle, du Lever de soleil dans la brume, des Pêcheurs nettoyant et vendant le poisson, des passages d'alto d'Harold en Italie demeure une singularité humaine. Les créations de Johannes Vermeer, de William Turner ou d'Hector Berlioz, qui résultent de et libèrent tant d'émotions, sont des réalisations de l'esprit gouvernant la main, elles témoignent d'un réel langage du corps et ne proviennent pas d'une machine, qui en est dépourvue. Cela dit, il est impossible d'affirmer aujourd'hui que, sans émotion propre aucune, les machines artificiellement intelligentes ne parviendront pas dans le futur, en utilisant des stratégies toutes différentes que j'ai déjà évoquées, à des résultats impossibles à distinguer de ce que l'émotion et la sensibilité humaines ont irrigué. Une cinquième vexation, en somme. Dans le domaine du diagnostic médical, de l'interprétation d'images radiologiques ou histologiques, aucun professionnel ne sera capable de rivaliser avec la machine. En fait, cela est déjà vrai aujourd'hui. Et dans vingt ans, cete nouvelle réalité sera un poncif. Pour autant, le métier de médecin aura-t-il disparu? Non, bien sûr. Une fois les travaux de l'inégalable machine accomplis, il sera là pour accueillir le patient, l'écouter, traduire le diagnostic, lui expliquer, le réconforter. Il dialoguera, lui prendra la main, lui sourira, amènera une réponse aux inquiétudes, apaisera ses angoisses. Il distillera du courage, sera là en cas d'échec, rebondira avec son interlocuteur. Dans l'efficacité thérapeutique, ce langage du corps n'exerce-t-il pas un rôle absolument considérable ? L'objet du métier de médecin est le corps. Or la machine en est dépourvue. Dans le monde que préfigure l'omniprésence, même l'omniscience des robots dotés d'une extraordinaire intelligence mais dépourvus de corps, il y aura encore de la place pour cette intelligence humaine. Elle pourrait même avoir fort à s'employer dans une société robotisée et déshumanisée des plus perturbantes. Les métiers de l'accompagnement et du soutien psychologique, de l'attention et de la chaleur humaine ont de l'avenir! De plus, de quelque manière qu'on le prenne, la poursuite du bonheur restera l'un des objectifs de nos semblables de chair et de passion. Il y aura par conséquent de la place pour l'affection, l'amour, la jouissance, la fulgurance créatrice. Il y aura encore de la place pour un monde humain.
L'IA se propage dans tous les domaines qui convoquent notre imagination, nos actions, nos émotions, notre âme. Et elle « s'invite » dans un champ créatif dont elle perturbe l'éthique dans des proportions impalpables : l'art. Et couplée aux forces marchandes, elle promet l'insaisissable. Déjà les premiers signes se font jour. Le 25 octobre 2018, Christie's obtenait à New York la vente, pour 432500 dollars, d'un Portrait d'Edmond Belamy conçu par intelligence artificielle...
L'articulation art-machine, via l'intelligence artificielle, suscite des questions des plus troublantes. Et l'actualité que vous évoquez le démontre : la création artistique par intelligence artificielle est appelée à se développer et à atteindre des cotes inouïes. Et cela s'explique aisément. Une machine, même non intelligente, mais « riche » de data innombrables et d'une rapidité d'exécution inégalée, peut sans difficulté connaître les goûts des humains, et notamment des collectionneurs-consommateurs. Elle peut être programmée pour produire « à la manière de » mais sera aussi de plus en plus capable d'engendrer et d'imbriquer des milliards de textes, de sons, d'images, de formes aléatoires sélectionnés à mesure en fonction des goûts du public. Les artefacts ainsi composés et retenus ont toutes les chances de « coller » à la susceptibilité des gens, de provoquer chez eux de l'émotion esthétique. Dès lors, créer artificiellement des oeuvres fort prisées n'est plus qu'un jeu d'enfant. Pas sûr, bien entendu, que ce soit là de l'art. On peut rappeler ici la déclaration de Picasso : « L'art n'est pas chaste, on devrait l'interdire aux ignorants innocents, ne jamais mettre en contact avec lui ceux qui y sont insuffisamment préparés. Oui, l'art est dangereux. Ou s'il est chaste, ce n'est pas de l'art. » Or, dénuées de corps et dépourvues des émotions par lesquels elles transitent, les machines sont désespérément chastes. Il n'empêche, si un jour aucun humain ne pouvait plus différencier l'oeuvre sublime d'un artiste palpitant et vibrant de celle d'une machine impavide, faudrait-il de principe disqualifier les secondes ou admettre que Picasso n'avait raison que dans le monde de son temps?
L'art n'est bien sûr pas imperméable à ce qui dicte « tout » : l'argent. L'« argent », tel qu'il gouverne le monde et conditionne le fonctionnement de nos aspirations, de nos comportements, apparaît comme le plus redoutable venin. Tel qu'il obstrue, aussi, l'un des ferments de l'éthique : le sens. Est-il possible - et alors à quelles conditions - de pratiquer l'argent avec éthique, ou bien les pouvoirs intrinsèques de l'argent seront-ils toujours plus dévastateurs que contributeurs d'éthique?
La problématique de la dimension morale de l'argent est très ancienne certains écrits d'Aristote demeurent d'ailleurs d'une incroyable actualité. L'argent existe, il est une réalité inévitable, et comme le déclarait François Mitterrand, il « corrompt tout ». Mais bon, à quoi servirait-il de développer une pensée éthique qui ferait abstraction d'un élément à ce point incontournable? Cela ne condamnerait-il pas à l'insignifiance? Toute pensée éthique est forcée d'intégrer le pouvoir corrupteur de l'argent. Mais elle doit aussi intégrer la propre valeur éthique de l'argent. En effet, et pour prendre le seul exemple de la reconstruction des zones dévastées par les grandes catastrophes naturelles comme le tsunami de 2004, l'argent en est le moyen le plus efficace, l'intermédiaire le plus essentiel, un extraordinaire stimulant de l'efficacité de l'action humaine. Preuve que l'argent est éthique lorsqu'il a une finalité éthique. C'était déjà le discours d'Aristote. Il louait la monnaie en tant que moyen de la saine économie domestique et la condamnait avec virulence lorsqu'elle devenait sa propre finalité. On retrouve là les éléments d'une réflexion abordée plus haut sur les desseins de l'économie libérale.
La philanthropie incarne cette manifestation éthique de l'argent. Mais quelle est la valeur éthique de cette générosité lorsqu'elle résulte d'une accumulation de richesses profitant de mécanismes non ou peu éthiques, et prend appui sur des dispositifs en premier lieu fiscaux qui atténuent notoirement la valeur « sacrificielle » du geste ?
L'approche éthique, « l'effort » éthique doit-il nécessairement émaner d'une action sacrificielle? Je ne le crois pas. D'autre part, il n'existe aucun doute sur la dimension éthique de la philanthropie. Lorsqu'il destine une grande partie de son immense fortune à des oeuvres philanthropiques, Bill Gates suit-il un chemin éthique? Évidemment oui. Au moins en partie, sans méconnaître les éventuelles arrière-pensées fiscales.
Mais, pour prendre un exemple éclairant, quelle est la valeur éthique de la Fondation Google de lutte contre la pauvreté quand l'entreprise Google échappe par des moyens amoraux, voire immoraux et peut-être même délictueux à ses devoirs fiscaux, grâce auxquels, même symboliquement, la pauvreté dans les pays d'Europe pourrait reculer ?
La philanthropie peut, bien entendu, être utilisée comme un alibi, voire un « produit d'appel ». C'est même courant. Peu de firmes y renoncent, il ne faut pas être dupe. Je ne suis pas persuadé que maintes annonces vantant l'engagement des entreprises en faveur du développement durable et du commerce équitable ne recouvrent pas seulement du vent. On trouve parmi les marques qui se drapent dans de tels faux-semblants vertueux les fabricants de cigarettes et les pétroliers! Google aussi se positionne sur le front de l'éthique! Cette entreprise tentaculaire combine pourtant les démarches les plus hostiles à mes conceptions éthiques. Dépositaire de données innombrables sur chacun d'entre nous, elle est, pour moi, le Big Brother des temps modernes. Elle consacre une partie de sa puissance financière et scientifique à des projets de transhumanisme dans lesquels je vois un défi pour l'humain. Enfin, elle manoeuvre pour échapper à une juste imposition de ses bénéfices, qui est pourtant le carburant de l'action sociale des États.
