OPINION. « IA, certes... mais à quel prix ? »

Depuis 2 ans et demi, l'IA est partout, tout le temps. Et va très - trop ? - vite. Chaque semaine voit l'émergence de nouvelles fonctionnalités. La course à l'innovation est officiellement lancée, et les acteurs du secteur y participent à un rythme effréné.

Depuis la médiatisation massive autour de ChatGPT 3.5, un constat s'impose : jusqu'ici, personne ne s'est véritablement posé la question de la cybersécurité. Aujourd'hui, elle est sur toutes les lèvres. Mais les réponses concrètes, elles, se font attendre. L'urgence est pourtant là.

L'IA : révolution ou dégradation ?

Prenons l'exemple de Samsung : aucune mise à jour de leur politique interne sur l'usage des nouvelles technologies n'a été effectuée. Résultat ? Des collaborateurs ont utilisé ChatGPT pour des échanges professionnels, partageant au passage des données métiers sensibles, voire des informations protégées par des brevets. Des milliers de données se sont retrouvées exposées. Un incident connu depuis le 12 avril 2023 (il y a donc deux ans). Ce genre de dérapage était presque inévitable : l'appétence technologique et la facilité d'utilisation de l'IA ont pris le pas sur la prudence.

Mais ce n'est que la partie visible de l'iceberg. La confidentialité en est l'élément (crucial) invisible. Car cette technologie, aussi prometteuse soit-elle, devient, une nouvelle fois, une arme redoutable entre les mains des cybercriminels. Et nous assistons à une véritable professionnalisation de leurs pratiques - plus structurées et plus efficaces. La raison ? Le coût d'accès à la technologie qui a drastiquement chuté. Il suffit d'une carte graphique à 1 500 euros pour faire tourner des modèles avancés. Tout est accessible, tout est déployable. Avec des services open source aux clones vocaux de célébrités disponibles pour 10 dollars par mois, l'arsenal est à portée de clic. Et aucune restriction n'empêche (vraiment) leur usage détourné.

Dans ce contexte, en Europe, une dynamique réglementaire est en marche : l'AI Act, qui vise à encadrer les usages futurs de l'IA et à en prévenir ses dérives. Mais la réalité est plus complexe. Car au rythme et à la cadence à laquelle nous avançons, même avec des régulations strictes, nous ignorons encore quelles seront les menaces de l'IA demain : comment réguler ce que nous ne connaissons pas encore ?

Prompts,jailbreakset dérives : rien n'a changé depuis 2023

Depuis 2 ans et demi donc, les mots "prompts" et "jailbreaks" sont sur toutes les lèvres de ceux qui rêvent d'un monde "augmenté" par l'IA. Et il faut dire que ces "recettes de cuisine" bien faites nous donnent l'eau à la bouche : plus de productivité, plus de simplicité, plus de confort. Pourtant, il est possible - vraiment possible - de "casser une IA" d'un point de vue cyber. Et, évidemment, la question de cette complexification s'est posée. Mais nous voici en juin 2025 - soit 2 ans et demi après la démocratisation fulgurante d'une telle technologie.

Et ces fameux jailbreaks continuent de fonctionner et sont publiquement accessibles sur internet. Nous pouvons encore véritablement passer outre certaines sécurités et lui faire adopter des comportements qui vont à l'encontre de son usage. Et l'ensemble des acteurs est concerné - souverains ou pas.

Or, contrairement à la cybersécurité classique, sécuriser une IA serait 100 fois plus long. En octobre 2024, Mitre Atlas référençait 50 attaques IA. En mars 2025, elles étaient au nombre de 75. En juin 2025 ? 115. Et sur les 115, nous ne connaissons pas encore tous les patchs correctifs. La plupart du temps, nous parlons d'une faille temporelle d'un an - entre le signalement de la faille, de la réponse, de la correction et de l'autorisation de communication. Versus 72 heures pour une faille classique.

Et maintenant, que faire ?

En 2025, nous espérions un scénario plus maîtrisé. Mais la situation est encore plus limpide : ce n'est pas l'innovation qui pose problème. C'est bien sa mise en production qui va trop vite et qu'il faut réussir à maîtriser. Alors, concrètement, que devons-nous faire ?

• Ne pas aller trop vite - pour laisser du temps aux chercheurs de faire le nécessaire pour anticiper et corriger.
• Ne pas "remplacer" les développeurs par des IA - car elles ne sont pas suffisamment matures pour faire du code sécurisé.
• Ne pas faire de l'IA une solution transverse à l'ensemble de l'entreprise - si nous souhaitons développer un agent IA pour un service RH, il faut lui faire ingérer uniquement de la donnée RH. La règle ? Un agent IA pour une seule fonction métier.

Le temps de l'expérimentation doit se terminer. Celui de la maîtrise, de la vigilance et de la responsabilité doit débuter - dès aujourd'hui.

_____

(*) Considéré comme l'un des meilleurs hackers éthiques de France, Brice Augras a beaucoup fait parler de lui en 2019 en ayant réussi à s'infiltrer dans le système informatique de près de 70 fournisseurs de service Cloud présents sur le globe - dont des acteurs tels que Google, Microsoft et RedHat. Brice Augras est aujourd'hui à la tête de sa société BZHunt, entreprise de hacking éthique, basée en France dans le Finistère.