Comment la technologie fait-elle de nous des soldats ? La question, inquiétante, est en sous-titre de « Technopolitique », le dernier ouvrage d'Asma Mhalla, dans lequel cette docteure en études politiques et chercheuse au Laboratoire d'anthropologie politique de l'Ehess analyse le « choc technologique qui vient de percuter nos démocraties ». Car l'intelligence artificielle (IA), le métavers, Neuralink, Starlink ou les réseaux sociaux, entre autres, sont en réalité les pièces d'un même puzzle... « L'erreur collective a été de commenter les innovations au fur et à mesure qu'elles arrivaient, sans les relier entre elles », tranche la politologue. Or lorsqu'on les relie, on constate « un maillage à partir de toutes les données fabriquées et qui viennent alimenter différents projets ». De quoi expliquer, par exemple, le rachat par Elon Musk de Tweeter, rebaptisé X - une mégabase de données...

« Ces technologies quadrillent tous nos usages quotidiens, mais aussi les données militaires et industrielles », analyse Asma Mhalla. Elles « font système et constituent un socle à partir duquel se déploie tout le reste - le fait politique, industriel et militaire ». Outre leur hypervitesse, elles se caractérisent par cette dualité civile et militaire. « C'est ce qui fait que tout d'un coup, de simple utilisateur voire consommateur et producteur de données, l'individu devient potentiellement une cible. De quoi ? De saturation cognitive, de désinformation, d'ingérence », alerte cette spécialiste de la géopolitique du numérique. Ainsi, dans nos poches, les applications sur nos smartphones, certes pratiques et ludiques, « peuvent devenir des armes de guerre », assure-t-elle.

L'IA, un amplificateur

Une « technologie totale » donc, qui contrôle les individus, se dessine. De quoi faire planer le danger préfiguré par l'affaire Cambridge Analytica, dopé cette fois-ci à l'intelligence artificielle ? « Les IA génératives deviennent un coefficient amplificateur et multiplicateur, industrialisant les capacités de manipulation et de création d'un univers du faux », souligne Asma Mhalla. En effet, en ce XXIe siècle, les lignes claires disparaissent dans une « symbiose » entre le vrai et le faux, le réel et le virtuel, le public et le privé, le civil et le militaire.

Dans ce brouillard, un autre type de manipulation se fait jour : les cyberattaques par déni de service, bombardant de requêtes les services administratifs, notamment, pour les noyer et faire ainsi tomber leurs serveurs. Avec un message en plus. « Cela sert à certains régimes de levier de désinformation et de déstabilisation : regardez comme votre Etat et votre administration ne fonctionnent pas ! », dit-elle. Une manière de saper la confiance dans le modèle démocratique et le contrat social.

Big tech et big state

Sans oublier une autre problématique, celle des rapports entre les Etats et les big tech. Asma Mhalla y voit « des enchevêtrements, des interdépendances et des coopérations, puisque les géants technologiques vont devenir fournisseurs de solutions, de logiciels et d'IA pour les Etats, à des fins de projection de puissance, de techno-surveillance, de soft et de hard power ». Entre big tech et big state, un nouveau Léviathan, à deux têtes, émerge...

D'ores et déjà, « l'administration américaine est l'un des principaux marchés d'un certain nombre de géants technologiques », souligne la chercheuse. Par ailleurs, « récemment, dans les mentions légales d'Open AI a disparu, de façon discrète et subreptice, l'interdiction de l'usage militaire de ChatGPT et des IA qui sont ou seront développées par OpenAI », relève-t-elle.

Pris dans ces jeux de pouvoirs, sommes-nous donc condamnés à devenir de la chair à canon numérique ? « Tout l'enjeu est de repolitiser le sujet technologique en reprenant conscience » de ses impacts, avance Asma Mhalla. Enfin, si la réglementation européenne, avec son paquet DSA/DMA, et avant cela, le RGPD, a été « un signal politique important : à l'intérieur de nos frontières, vous respectez nos règles », il manque « une vision techno-industrielle de la France et de l'Europe dans 30 ans », déclare-t-elle.

Retrouvez ci-dessous en vidéo l'entretien vidéo avec Asma Mhalla