OPINION. « Souveraineté cognitive : le défi oublié de l'intelligence artificielle », par Jacky Galicher, consultant en gouvernance numérique
Jacky Galicher, ancien DSI-RSSI des académies de Versailles et de Normandie.
LTD/DR
Livres
Jacky Galicher, ancien DSI-RSSI des académies de Versailles et de Normandie.
LTD/DR
Pendant que l’Europe débat de la souveraineté de ses données, une dépendance beaucoup plus profonde est en train de s’installer : celle de notre jugement. Les modèles d’intelligence artificielle ne se contentent plus de répondre à nos questions. Ils orientent progressivement la manière dont les administrations, les entreprises et les citoyens analysent le monde. C’est cette nouvelle dépendance que j’appelle la souveraineté cognitive.
Elle désigne la capacité d’une organisation ou d’un État à conserver la maîtrise des modèles qui influencent ses raisonnements, plutôt que de subir les arbitrages invisibles de ceux qui les conçoivent. Autrement dit, il ne s’agit plus seulement de maîtriser nos ordinateurs ou nos données, mais les outils qui influencent nos décisions.
La décision de suspendre l’expérimentation du modèle chinois Qwen dans l’administration française a relancé le débat sur l’origine des modèles d’IA. C’est une réaction compréhensible, mais insuffisante. Car remplacer un modèle chinois par un modèle américain — ou même européen — ne résout pas le problème de fond : chaque grand modèle incorpore les choix, les priorités et les arbitrages de ceux qui l’ont conçu.
Nous ne déléguons plus seulement nos infrastructures ; nous commençons à déléguer notre manière de raisonner. Les grands modèles sont en train de devenir des infrastructures cognitives mondiales : ceux qui contrôlent les modèles les plus utilisés influencent les connaissances accessibles, les raisonnements proposés et, à terme, une partie des décisions prises par des millions d’organisations.
Cette bataille, les grandes puissances l’ont comprise avant nous. Aux États-Unis, OpenAI, Google, Microsoft et leurs partenaires consacrent des investissements sans précédent au développement des modèles et des infrastructures qui les rendent incontournables. Leur objectif dépasse la seule performance technique : imposer leurs modèles comme des standards mondiaux de fait. En Chine, Alibaba avec Qwen, DeepSeek et une demi-douzaine d’autres acteurs déploient des modèles à bas coût, massivement diffusés — une stratégie d’influence assumée, comparable à celle menée hier sur les équipements télécoms. Entre les deux, l’Europe cherche sa place, avec des initiatives comme Mistral, qui incarne l’ambition française et européenne de disposer d’une alternative souveraine.
Chaque dimanche, l’essentiel de l’actualité économique, politique et sociétale.
Cette compétition n’a rien d’abstrait. Elle se joue déjà dans les administrations françaises, où plusieurs modèles étrangers sont expérimentés sans cadre de gouvernance clair, comme dans les universités et les entreprises, où des décisions s’appuient chaque mois davantage sur des systèmes dont la logique interne échappe à ceux qui les utilisent.
Mais la question n’est pas seulement de savoir si l’Europe doit avoir « son » modèle. Un modèle français reste un modèle : il repose lui aussi sur des choix humains — quel corpus, quelles règles de sécurité, quels arbitrages en cas de doute. La nationalité d’un modèle ne garantit ni sa neutralité ni sa transparence. Ce qui compte, c’est notre capacité collective à comprendre selon quels critères il produit ses réponses, à le comparer à d’autres, et à le remplacer si nécessaire. C’est cela, la vraie souveraineté : non pas posséder un modèle, mais garder la main sur les critères qui gouvernent tous les modèles que nous utilisons.
Pour l’État, cela signifie que chaque déploiement massif d’IA générative dans un service public devrait être précédé d’un audit sérieux des choix d’alignement du modèle retenu, et non d’une simple clause de conformité RGPD. Aujourd’hui, la plupart des administrations qui expérimentent ces outils ignorent sur quels critères leurs réponses sont orientées.
Pour les entreprises, cela signifie que la dépendance à un fournisseur d’IA n’est plus seulement un risque technique ou contractuel. Une entreprise qui bâtit ses processus de décision — recrutement, crédit, diagnostic, priorisation — sur un modèle qu’elle ne peut ni auditer ni remplacer facilement crée une dépendance stratégique dont elle ne maîtrise plus réellement les conditions.
Pour les citoyens, enfin, cela signifie qu’une part croissante de ce qu’ils liront, apprendront ou se verront recommander sera produite ou filtrée par des systèmes dont ni eux, ni souvent les institutions qui les emploient, ne connaissent les règles.
À mesure que les mêmes modèles alimentent les moteurs de recherche, les assistants numériques et les outils de travail, ils tendent aussi à homogénéiser les cadres d’analyse dans lesquels se construisent les débats publics.
Nous connaissons déjà ce scénario. Il y a quinze ans, les administrations et les entreprises françaises ont externalisé leurs infrastructures informatiques dans le cloud, souvent américain, sans toujours mesurer les conséquences en matière de souveraineté. Il a fallu des années, et plusieurs scandales, pour que la question du cloud souverain s’impose dans le débat public. Nous répétons aujourd’hui la même séquence, avec un temps de retard, sur un enjeu plus grave encore : ce n’est plus seulement notre infrastructure que nous confions à des tiers, c’est une part de notre capacité à raisonner.
La différence est de taille. Une panne de serveur se répare. Une dépendance cognitive mal identifiée se corrige beaucoup plus difficilement, car elle ne se voit pas : elle façonne progressivement ce qu’une organisation considère comme une réponse normale, sans jamais donner l’alerte.
La réponse n’est donc pas de remplacer une dépendance américaine par une dépendance européenne, ni une dépendance chinoise par une dépendance française. Elle consiste à préserver un véritable pluralisme des modèles. Une démocratie protège le pluralisme de l’information ; elle doit désormais protéger le pluralisme des modèles qui éclairent ses décisions.
Après la souveraineté des infrastructures puis celle des données, la prochaine bataille sera celle des modèles. Les auditer, les comparer, conserver la capacité de les contester et de les remplacer ne relève plus de la seule politique numérique. C’est une exigence démocratique. Une nation qui ne maîtrise plus les modèles qui éclairent ses décisions finit par ne plus maîtriser ses décisions elles-mêmes.
Cela suppose des choix politiques concrets : imposer des obligations de transparence sur les critères d’alignement des modèles utilisés dans les services publics ; financer une véritable capacité française et européenne d’audit indépendant, plutôt que de s’en remettre aux déclarations des fournisseurs ; et surtout, refuser l’enfermement dans un fournisseur unique, quelle que soit sa nationalité, en maintenant toujours la possibilité réelle d’en changer.
L’intelligence artificielle ne remplacera sans doute pas le décideur. En revanche, elle risque de devenir le filtre à travers lequel il perçoit la réalité.
Au XXe siècle, les États protégeaient leurs frontières. Au XXIe siècle, ils ont appris à protéger leurs données. Ils doivent désormais protéger leur capacité de jugement. Car une démocratie peut survivre à une dépendance technologique. Elle ne survivra pas longtemps à une dépendance de son jugement.
