Lire aussiInnovation illimitée ? (1re partie)

--

L'innovation est un système essentiellement fondé sur le dépassement permanent des limites. Et pourtant, l'innovation pose et repose sans cesse la question des limites qu'elle convoque chaque fois qu'elle fait avancer les choses. L'une de ces limites est, comme je l'ai développé le mois dernier dans la première partie de cette chronique, liée à la peur. L'innovation détruit un état initial en même temps qu'elle apporte un progrès. Elle engendre ainsi une peur de la nouveauté et du changement, une peur devant l'inconnu qui les accompagne.

Mais faut-il avoir peur de ses productions ?

Depuis toujours, nous oscillons sans cesse entre crainte et émerveillement devant nos succès dans la maîtrise et l'exploitation des forces de la nature (feu, vapeur, électromagnétisme, atome, etc.). Passant d'un pôle à l'autre, nous sommes ébahis par les multiples réussites de l'innovation, mais aussi saisis par une sorte de vertige devant les conséquences de ce qu'elle engendre. Si le programme de Descartes - ce logiciel de la modernité - comprenait l'idée de rendre l'homme « comme maitre et possesseur de la nature », il ne peut plus aujourd'hui être appliqué de façon naïve ou innocente, tant l'idée d'un progrès quantitativement infini semble appartenir au passé. Nous continuons sans doute d'être habités par le mythe de Prométhée selon lequel l'apport de la technique aux hommes par le feu dérobé aux dieux s'accompagne toujours de la menace d'une punition (et la perspective d'être, comme Prométhée, attaché à flanc de montagne avec le foie mangé chaque jour par un aigle selon la punition édictée par Zeus a de quoi refroidir plus d'un enthousiasme !). La crise écologique et le réchauffement climatique pourraient bien être la version contemporaine de cette punition.

On peut faire l'hypothèse que de telles inquiétudes ou de tels questionnements deviennent particulièrement vifs quand l'innovation avance plus vite qu'il est possible de l'absorber. Avec Internet ou les smartphones, pour ne prendre que deux exemples qui ont littéralement changé le monde et les usages en quelques années, nous avons appris à nous adapter très rapidement. Mais cette capacité adaptative n'est sans doute pas infinie. Il peut en effet y avoir un moment où les courbes s'inversent et où l'adaptation ne relève plus d'un progrès (d'une augmentation de confort ou de nouveaux usages) mais de la seule adéquation avec la progression de la technologie entrée dans un cycle d'auto-référence où des machines parlent à des machines pour le bénéfice des machines.

On risquerait alors de passer d'un progrès dans la civilisation et la culture bénéficiant principalement aux humains à une progression de nature exclusivement technologique sans réel bénéfice. Une telle « sortie de route » serait bien entendu très préoccupante. Pour cette raison, les technophiles doivent faire preuve d'une vigilance augmentée pour continuer de développer une innovation harmonieuse, en phase avec les besoins des humains et, plus généralement, au service de la restauration des grands équilibres de la planète.

Paradoxe de l'innovation

La façon qu'a l'innovation de transformer le monde, voire de le modeler, notamment à travers la dimension technique de plus en plus complexe qu'elle prend, génère chez beaucoup la perception d'une réalité qui prend la forme d'un paradoxe : là où nos productions techniques sont censées augmenter nos capacités, nos modes d'intervention ou simplement notre confort, elles engendrent dans le même geste un monde qui tend à nous dépasser.

Ce paradoxe est aujourd'hui renforcé par le fait qu'emportée par son propre mouvement et sa propre logique de déploiement, la technologie est susceptible d'acquérir de plus en plus d'autonomie.

Du Frankenstein ou le Prométhée moderne de Mary Shelley à la saga Matrix des sœurs Wachowski, la littérature, notamment de science-fiction, et le cinéma ne manquent pas d'exemples où, à partir d'un certain stade de développement, des créatures issues de la science se retournent contre leur créateur ou le dépassent. Ces approches questionnent, y compris d'un point de vue éthique, la validité des progrès scientifique et technique au moment où ceux-ci et les révolutions qu'ils apportent rendent possible des prodiges jusqu'alors réservés à l'imaginaire, qu'il soit littéraire ou mythologique.

À l'inverse, contestant l'idée que les robots pourraient être dangereux pour l'humanité - une tendance qu'il appelle « le complexe de Frankenstein » -, Isaac Asimov, à la fois biochimiste et écrivain de SF, formule les Trois Lois de la robotique, tardivement complétées par une « Loi Zéro ». Loi Zéro : un robot ne peut pas porter atteinte à l'humanité, ni, par son inaction, permettre que l'humanité soit exposée au danger. Première Loi : un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger, sauf contradiction avec la Loi Zéro. Deuxième Loi : un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi ou la Loi Zéro. Troisième Loi : un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième Loi ou la Loi Zéro.

IA : fascination, inquiétude et compliance

De façon très contemporaine, l'Intelligence artificielle (IA) a bien évidemment donné un nouvel élan au couple fascination-inquiétude. Car cette extraordinaire technologie dont le concept né dans les années 50 s'est invitée dans tous les secteurs, aussi bien dans la recherche que dans l'industrie en passant par la vie quotidienne. Depuis la mise en ligne de Chat GPT, l'agent conversationnel d'Open AI, l'innovation associée à l'IA est présente en chimie, économie, mathématiques, médecine, physique, etc. Prédiction de la possibilité d'une greffe du foie à partir d'une photo, identification de possibles malformations cardiaques précoces sur un fœtus ou meilleurs diagnostics par le logiciel MedPaLM-2 de DeepMind (Google) que par des médecins humains, création de nouvelles structures de protéines, parole redonnée à des patients en situation de handicap par des implants cérébraux et traduction des signaux électriques de leurs cerveaux en voix, « lecture des pensées » par IRM chez Meta, création de centaines de milliers de nouveaux alliages, jeux de stratégie, pilotage de drones, systèmes de réglages de l'optique adaptative des télescopes, résolution inédite de problèmes de mathématique ou de logique, etc., l'IA semble pouvoir se saisir de tous les sujets pour les faire progresser, suscitant enthousiasme et fascination.

Symétriquement, l'inquiétude grandit. Ainsi, le rapport 2023 de l'assureur AXA sur les « Grands risques de demain » publié en octobre souligne que l'IA fait désormais partie des risques majeurs, au côté de la cybersécurité [1]. Établi à partir d'un sondage auprès de 3 226 experts des risques et de l'assurance dans cinquante pays, et de 19 000 personnes représentatives de la population de quinze grands pays, ce hit-parade de l'inquiétude contemporaine pose en tête le changement climatique, suivi de la cybersécurité, de l'instabilité géopolitique, de l'IA, des risques énergétiques, de ceux liés à la biodiversité et aux ressources naturelles, des risques pour la stabilité financière, etc. Ainsi, l'IA est passée en une année de la quatorzième à la quatrième place chez les experts, et de la dix-neuvième à la onzième place dans le grand public. Au point que 64 % des experts et 70 % du grand public souhaitent un moratoire sur le développement de l'IA.

Aussi, pour prendre en charge aussi bien l'enthousiasme que l'inquiétude, l'Union européenne a-t-elle établi en décembre dernier un texte dont le but est de réguler l'usage et le développement de l'IA en encadrant les risques qui lui sont associés : l'IA Act. L'UE a considéré que la technologie est neutre, et donc n'a pas cherché à réguler ses développements. Une telle limitation aurait d'ailleurs placé l'UE en position de faiblesse vis-à-vis d'une compétition internationale farouche. L'UE a opté pour une approche fondée sur l'analyse des différents niveaux de risques susceptibles d'être liés aux usages. L'analyse de risques repose sur des mécanismes de conformité (compliance) par lesquels sont responsabilisés les différents fournisseurs de systèmes d'IA. Il s'agit par là d'établir des règles à respecter pour un produit, soit avant son lancement sur le marché, soit après sa mise en circulation. Le but est d'« établir un cadre de confiance afin de soutenir le déploiement des systèmes d'intelligence artificielle dans l'Union européenne (...) C'est la protection des valeurs européennes, et en particulier le respect des droits fondamentaux, ainsi que des exigences fortes en matière de sécurité qui servent de « boussole » pour définir le niveau de risques relatifs à ces différents usages.» [2].

Toucher les limites pour mieux les dépasser

Penser pouvoir limiter l'innovation est une illusion.

Et, pour cette raison, il est nécessaire à la fois d'innover et de réguler. Quelles que soient les complexités d'une telle démarche, il convient de dépasser l'opposition simpliste entre régulation et innovation. En effet, sans régulation, aucune innovation n'est sérieusement envisageable sur le long terme, particulièrement en ce qui concerne l'IA. Dans « Le défi d'une régulation de l'intelligence artificielle », Jean Cattan, secrétaire général du Conseil National du numérique et Célia Zolynski, Professeure de droit posent clairement les termes de la question : « Pour l'avenir justement et avant toute chose, il nous faut absolument sortir de l'opposition entre régulation et innovation. La régulation est partie intégrante de l'innovation, elle en est même une condition essentielle. Sans régulation, nous avons de belles inventions certes, mais nous obtenons aussi des rentes de monopole, la fermeture des systèmes, l'absence de prise en compte des ramifications environnementales et sociétales des technologies et la destruction de l'initiative. Peut-être que cette destruction sera créatrice de temps en temps, mais elle sera surtout synonyme de blocage [3]. »

Bien que l'innovation soit un système illimité, elle fait en permanence prendre la mesure de diverses limites - celles de la technologie elle-même autant que celles liées à l'écologie ou à la raréfaction des ressources naturelles.

Ainsi, ce système est vertueux au sens où il nous rend plus conscient des limites - donc à la fois plus réalistes et plus efficaces. Toucher du doigt les limites, en avoir sans cesse une perception ne signifie pas atteindre les limites de l'innovation, mais les concevoir de plus en plus précisément et en avoir une idée de plus en plus nette.  C'est ainsi que l'on pourra mieux envisager leur dépassement.

 __

[1] https://www.axa.com/fr/presse/publications/future-risks-report-2023-rapport

[2] https://aoc.media/analyse/2023/12/13/le-defi-dune-regulation-de-lintelligence-artificielle/

[3] Ibid.

______

(*) Alain Conrard, auteur de l'ouvrage « Osons ! Un autre regard sur l'innovation », un essai publié aux éditions Cent Mille Milliards, en septembre 2020, CEO de Prodware Group et le Président de la Commission Digitale et Innovation du Mouvement des ETI (METI)​.