Numérique et humanisme, l’alerte d’un philosophe

Vous travaillez sur les effets du numérique sur l'homme, sur l'humanité et sur le concept d'humanisme. Que pourrait être un humanisme numérique ?

L'humanisme numérique est un concept en construction qui devrait être un système de valeurs susceptible d'associer les humains entre eux pour former ce que traditionnellement l'on nommait humanisme, l'humanisme gréco-latin ou l'humanisme européen. Dans un monde désormais modelé par le numérique, l'immatériel, les datas et les NBIC, il faut se demander à quelles conditions on peut encore être humaniste.

Dans L'Homme simplifié vous posiez la question : « d'où vient que nous acceptions comme une fatalité la dégradation de contacts humains qui résulte de techniques déshumanisantes » ?

Nous sommes confrontés à des technologues arrogants qui assènent que les datas vont nous envahir et qu'il n'est plus possible ni de résister à l'intelligence artificielle ni de revenir en arrière. Ce fatalisme est dramatique. Il est inédit dans l'histoire, sauf peut-être pendant l'Ancien régime où les classes sociales et la soumission étaient vécues comme instaurées de toute éternité et par nature. Aujourd'hui, la soumission aux technologies NBIC (nanotechnologies, biotechnologies, informatique, sciences cognitives) est souvent présentée comme un fait inéluctable. Les nouvelles technologies nous contraignent à vivre dans le temps réel, la réactivité et l'immédiateté. Comme si l'humanité ne pouvait pas se payer le luxe de réfléchir, de mettre en perspective d'ajourner ou de signer des moratoires.

Notre rapport au numérique est-il une version nouvelle du Discours de la servitude volontaire ?

Oui, d'une certaine manière. Nous nous laissons assujettir par les machines, nous le faisons volontairement. Quand Étienne de la Boétie écrit au 16e siècle, il affirme que tout pouvoir tyrannique domine et exploite avec la collaboration ou l'assentiment du plus grand nombre. De la même façon, d'où vient que nous, êtres intelligents, nous comportions comme des automates face à nos propres machines, c'est un vrai mystère. Or, l'humanisme, c'est par définition l'anti-destin. À la Renaissance européenne, on a été humaniste parce qu'on a refusé de se laisser imposer la nature et les pratiques religieuses comme un destin. Aujourd'hui, les technologies se présentent comme fatales et pèsent sur nous comme un nouveau destin, au point que certains nous annoncent que l'humanité va bientôt quitter la scène.

Comment réagissez-vous à ce que les transhumanistes appellent la singularité, ce moment où l'intelligence artificielle peut remplacer l'intelligence biologique ?

Les transhumanistes pensent que nous sommes les chimpanzés du futur parce que nous ne seront pas dotés des adjuvants technologiques qui nous permettront de franchir cette singularité et de nous rendre capable de co-agir avec nos machines. Cela ne veut pas dire qu'il va y avoir disparition de l'humanité du jour au lendemain mais que l'humain peut perdre toute initiative et tout contrôle du fait même des machines et de l'incubation in vitro des êtres humains. Il y a un risque que l'eugénisme soit réactivé, que la reproduction se fasse sous le contrôle du politique et que les fantasmes d'immortalité se réalisent en même temps que les fantasmes de non renouvellement de l'espèce humaine. C'est la disparition de l'humain en tant qu'être aux commandes de l'Histoire, capable d'évolution et de progrès.

Vous remettez en cause la notion d'intelligence artificielle utilisée indifféremment pour parler de téléphone, de voiture ou d'objet, pourquoi ?

Le qualificatif 'intelligent' est accolé désormais à n'importe quoi pourvu qu'il soit capable de recevoir des signaux et d'émettre des réponses à ces signaux. C'est absurde car, finalement, il s'agit de procédés extrêmement rudimentaires. C'est le symptôme d'une simplification préoccupante de la représentation que l'humain se fait de lui-même. Le jour où je me penserai intelligent au même titre que le technologue pense la maison intelligente, on aura atteint une situation dramatique.

Mon combat, c'est de défendre le langage, le symbolique et, par conséquent, l'Histoire. Je suis sidéré de voir combien les technologues ou les technoprophètes sont indifférents au langage et ne s'alarment pas de constater que leurs technologies sont une offensive contre le langage.

Le dialogue avec un serveur vocal nous donne une bonne vision de ce qu'est le langage avec une machine. Avec ses signaux, il est destiné à produire des comportements. Appuyez sur la touche étoile, etc. Ce n'est pas un langage humain, ce pourrait être le langage des fourmis ou des abeilles. Il n'est plus porteur d'émotions humaines, simplement le support de transmission d'informations et de collecte de datas.

Or, ce qui fait de nous des êtres humains c'est la vie symbolique, le langage en ce qu'il est porteur d'idéaux et d'utopies. Et c'est pourquoi je récuse aussi les ambitions de ceux qui prônent la télépathie. Certains technologues nous disent qu'il faut mettre en place la communication de cerveau à cerveau, supprimer le langage et substituer la transmission de signaux synaptiques grâce à des ondes électromagnétiques.

Il n'est pas question de diaboliser la culture numérique mais si on veut cesser de jouer aux apprentis sorciers, il faut penser les usages du numérique.

Où vous situez-vous, parmi les technophobes ou les technophiles ?

Mon combat est contre la binarité, le "0-1", le "like-dislike" car je récuse l'opposition entre technophile et technophobe. J'ai beaucoup d'admiration pour l'intelligence technique qui est la nôtre et nous sommes humains car nous sommes des êtres capables d'inventer et d'utiliser des outils. J'y tiens et je ne veux pas être catégorisé comme un technophobe obtus. La technique n'est pas, en elle-même, bonne ou mauvaise, tout dépend de l'usage que l'homme choisit d'en faire. Mais je me méfie infiniment de la fascination qu'exercent les technologies.

Laurent Alexandre me désigne comme un 'bio-conservateur', lui se voyant comme un 'techno-progressiste'. Pour moi être techno-progressiste et être fasciné par les technologies de clonage, c'est évidemment beaucoup plus réactionnaire et conservateur qu'être le défenseur de la biodiversité et du 'bricolage' qu'est la vie. La volonté d'en finir avec le hasard est le ferment de tous les totalitarismes.

La technique ou les technologies sont-elles suffisamment pensées par les philosophes ?

Non, les philosophes se contrefichent malheureusement de la technique depuis toujours, presque depuis Platon ! Je me sens très seul dans la communauté philosophique car les enjeux, pourtant faramineux, laissent froid la plupart des philosophes. C'est vrai que pour penser la technique, il faut aussi mettre les mains dans le cambouis, la comprendre de l'intérieur en s'intéressant à la biologie de synthèse, aux systèmes experts, etc. Les scientifiques ont conscience d'avoir de plus en plus besoin de mettre en perspective les avancées technologiques et de s'interroger sur le 'devoir être des choses'.

De mon côté, j'échange essentiellement avec des scientifiques (très en attente d'échanges philosophiques), surtout des biologistes et neurobiologiste (Pierre-Henri Gouyon, Jean-Pierre Changeux, Lionel Naccache), des physiciens comme Étienne Klein ou des spécialistes de l'intelligence artificielle. Ce sont eux ma véritable communauté.

Pensez-vous possible un renouveau de la démocratie grâce au numérique ?

Il y a quelque chose de nouveau à penser. Je doute que l'on puisse transférer sans nuance le modèle démocratique dont nous avons hérité des Grecs, de Rousseau et de tous les théoriciens de la démocratie, avec les technologies qui sont les nôtres.

La démocratie est un système dans lequel les individus appartenant au demos, c'est-à-dire au peuple, sont susceptibles de s'assujettir à des lois qu'ils ont eux-mêmes créés. C'est un régime qui favorise l'autonomie. Or, aujourd'hui, nous sommes dans un contexte où il est difficile de circonscrire les individus participant à l'élaboration de la loi.

La démocratie suppose également que les sujets soient responsables de ce qu'ils font et qu'ils appartiennent à une communauté morale. Or, le numérique nous fait assister aujourd'hui à une dilution du sujet. Les identités des uns et des autres deviennent de plus en plus numériques. Elles sont très mobiles, multiples et liées à nos itinéraires sur internet et à nos profils. Il est donc très difficiles de projeter sur notre époque un modèle de sujet substantiel capable de dire "je suis", "je veux". On est dans une forme d'indéfinition des sujets qui explique que le modèle démocratique nous paraisse de plus en plus abstrait et obsolète. Je ne dis pas que les peuples ne sont pas capables de s'autodéterminer avec les technologies, mais il y a plus de questions que de réponses.

D'où vient le phénomène que les problématiques sont de plus en plus complexes à résoudre et que les réponses apparaissent souvent comme caricaturales ou simplistes ?

La complexité des problèmes nous est imposée par les technologies et nous avons des politiques qui ne sont pas en phase. Ils essaient de sauvegarder des modèles de pensées anciens et, naturellement, ils n'y parviennent pas. La démobilisation des citoyens tient au fait qu'ils voient bien que le discours qui leur est tenu correspond de moins en moins à la réalité vécue dans un monde dominé par les technologies.

Comment créer les conditions d'un humanisme nouveau ?

Je pense qu'il nous faudrait penser réellement une ingénierie du débat démocratique. En se posant la question de savoir comment obtenir l'assentiment des citoyens à grande échelle sur des questions d'importance vitale pour les nations. Avec précisément l'instrument dont nous disposons : le numérique. Il faut aussi avoir la volonté politique de soumettre à délibération les questions que veulent voir aborder les citoyens. Je suis étonné que l'on ne soit pas plus sensible à la faveur qu'ont les conférences citoyennes comme au Danemark ou les forums hybrides sur internet. Quand on fait de la politique aujourd'hui, on ne peut pas faire l'impasse sur tous ces instruments qui génèrent de la démocratie participative et qui permettent de repolitiser et de remoraliser c'est-à-dire faire en sorte que les citoyens se sentent responsables de quelque chose et qu'ils aient le sentiment que leur voix puisse porter.

La culture numérique rend flagrante l'absence de cette ambition réellement démocratique de la part des politiques.

Les politiques ont-ils une prise de conscience claire des enjeux technologiques ?

Pour rester dans la course, les politiques sont partagés entre deux attitudes extrêmes : soit abonder les ambitions transhumanistes, soit se boucher les oreilles en continuant à penser la politique presque à la manière de la IIIe République. Dans les deux cas en se coupant de plus en plus de la force vive que représentent les citoyens.

Aux États-Unis, il y a une césure entre la Silicon Valley et Donald Trump mais cela ne durera pas. Le président américain se résoudra très vite à donner des gages à Google et consorts. L'Union européenne est dans la même posture, en train d'ajuster ses politiques de recherche aux ambitions des gafas. J'ai passé plusieurs années au ministère de la Recherche où j'ai vu déferler le lexique et les préoccupations du transhumanisme dans la formulation des appels à projets des agences de recherche.

Jean-Michel Besnier interviendra le vendredi 24 février à Toulouse lors de la rencontre-débat Citoyen 3.0 organisée par La Tribune à Toulouse. Inscriptions ici.

Qui est Jean-Michel Besnier ?

Jean-Michel Besnier est agrégé de philosophie et docteur en sciences politiques. Professeur à l'université Paris Sorbonne, spécialiste des nouvelles technologies, il est coauteur (avec Laurent Alexandre) de Les Robots font-ils l'amour ? (Dunod) et auteur de L'Homme simplifié. Le syndrome de la touche étoile (Fayard).