Eternelle question du « bien » et du « mal »...

Et si demain, l'emploi le mieux payé de « la tech » n'était ni ingénieur « big data » ni spécialiste du « prompt » ou du « machine learning » - ces trois emplois cités faisant déjà partie des métiers de l'intelligence artificielle (IA) parmi les mieux rémunérés - mais celui de « moraliste ou éthicien IA », entendez par-là celui/celle qui, dans une organisation, veillera au fait que les décisions et choix soient conformes au respect inconditionnel de principes fondamentaux.

A ce stade, encore un vœu pieux, voire un rêve éveillé, mais qui pourrait bien vite devenir réalité tant l'évolution exponentielle de la technologie rebat les cartes de ce qui relève du « bien » et du « mal ». Dans un tout autre contexte, le philosophe Raymond Aron avait eu cette phrase qui, ramenée à notre époque où le numérique est désormais omniprésent, résume les dilemmes moraux et éthiques auxquels nous sommes de plus en plus confrontés du fait de la puissance des machines : «Le choix n'est pas entre le bien et le mal, mais entre le préférable et le détestable.»

Au service du bien commun

Sans sombrer dans un manichéisme stérile entre technophiles et technophobes, ce choix entre « préférable » et « détestable » imposera que ces futurs « éthiciens ou moralistes de l'IA » sachent imposer leurs vues sans que ces dernières brident l'innovation. Un chemin de crête étroit pour un sujet qui s'imposera de manière évidente tant l'innovation technologique et les systèmes à base d'IA font rapidement bouger les lignes. Ce que nous pensions, il y a quelques années encore, impossible à envisager (création de médicaments, cybersurveillance, armements.... tout cela à base d'IA) existe désormais. Par extension, et à la vitesse où les IA progressent, ces questions éthiques et morales occuperont une place croissante.

Si les États s'organisent pour édifier un cadre juridique qui protège les individus contre les dérives des usages de ces technologies à base d'IA   - on notera le programme « AI for good » de l'ONU ou encore les récents sommets internationaux sur l'IA où le sujet de la protection contre les dérives non-contrôlées de l'IA a été au centre des débats - les entreprises elles-mêmes se doteront d'« AICO », acronyme pour qualifier cette fonction en devenir d'« Artificial Intelligence Compliance Officer». Leur rôle ? Dans le sillage de la RSE (responsabilité sociale des entreprises), promouvoir les principes et poser les règles d'une IA « business compatible » qui ne soit pas contraire à quelques « lignes rouges » morales et éthiques opposables aux parties prenantes.

Tant pour les acteurs publics que privés, l'enjeu consistera à adopter de nouvelles normes au service du bien commun et du progrès de la communauté humaine compte tenu des impacts de l'IA sur nos vies. Dit autrement, il s'agira de placer l'éthique et la morale au centre des choix technologiques afin de savoir si nous voulons ériger ces IA en démiurges dont nous serions de simples vassaux ou si nous souhaitons les maintenir au rang d'outils au service de l'humain.

Où placer le curseur du « bien » et du « mal » ?

Dans un ouvrage paru en 2021, « Right/Wrong - How technology transforms our ethics » / ouvrage non traduit dont le titre pourrait être « Le bien et le mal / Comment la technologie fait évoluer notre éthique », l'universitaire et investisseur, Juan Enriquez, analyse les dilemmes éthiques et moraux auxquels nous sommes confrontés dans un monde où la technologie évolue à un rythme effréné. En clair, l'évolution de la technologie fait bouger le curseur de l'éthique et de la morale en remettant en cause certaines pratiques ou croyances. Une chose qui pouvait être considérée comme moralement « juste » et acceptable à un moment donné peut, très rapidement, être remise en question du fait de l'évolution de la technologie qui permet d'éclairer sous un nouveau jour la connaissance et partant de faire apparaitre des comportements plus éthiques.

Outre ce constat que la technologie permet finalement de réétalonner, le « bien » et le « mal », l'auteur insiste sur cette idée qu'à l'heure de la toute-puissance des machines, il revient à ceux qui se fieront à la morale et à l'éthique de jouer à plein leur rôle de boussole pour éclairer la décision. Message d'espoir pour dire que le meilleur est possible à condition que l'on sache se laisser guider par ces lumières qui bordent la route avec d'un côté, le préférable, et de l'autre, le détestable.