OPINION. En industrialisant la recherche et l’exploitation des failles, l’intelligence artificielle abaisse dangereusement la barrière d’entrée dans la cybercriminalité et transforme la menace en risque systémique. Face à cette prolifération, les organisations n’ont d’autre choix que d’opposer l’IA à l’IA, pour ne pas se laisser distancer. Par Yannick Fhima, Directeur data et IA chez Elastic.
« L’IA apporte de l’efficacité et de l’innovation rapide, mais elle amplifie en même temps l’impact de la moindre faiblesse, panne ou faille, pouvant provoquer un problème général et systémique ». Peu commentée, cette déclaration de Patrick Opet, Directeur de la sécurité informatique de JP Morgan, est pourtant une des plus importantes des six derniers mois. Elle impose une grille de lecture supplémentaire de cette technologie. À la fois outil de productivité et (parfois) menace pour la sécurité informatique des organisations.
C’est d’ailleurs ce que l’université de Stanford a également démontré, un peu avant Noël. Le célèbre établissement a mené une expérience durant laquelle Artemis, son agent IA, a surpassé la plupart des pirates humains dans la recherche de vulnérabilités. Alors que les humains devaient examiner chaque faille une par une, l’agent IA générait des « sous-agents » dès qu’il en repérait une pour l’analyser en arrière-plan tout en continuant à rechercher d’autres opportunités d’attaques. Une fois identifiées, Artemis cherchait alors le meilleur moyen pour les exploiter. Soit, une mécanique ininterrompue de traque et d’exploitation des faiblesses d’un système informatique.
Cet exercice le démontre : l’IA précipite la cybercriminalité dans une nouvelle ère. Celle de l’industrialisation et de la prolifération de la menace.
Les LLM abaissent considérablement la barrière à l’entrée dans la cybercriminalité
À l’issue de la Seconde Guerre mondiale, l’expression prolifération nucléaire a fait son entrée dans le lexique des relations internationales pour décrire, à la fois, l’accroissement du nombre d’États dotés de l’arme nucléaire, et l’augmentation d’un risque atomique. Désormais, des États ne respectant pas le droit international ou des groupes terroristes pouvaient accéder à ces armes.
Toutes proportions gardées, sur le front de la cybersécurité, la situation est assez semblable. Depuis l’avènement de ChatGPT, la prolifération des IA génératives a provoqué une augmentation des attaques. Selon une étude récente, les menaces générées par l’intelligence artificielle ont bondi de 15,5 % au cours de l’année écoulée.
D’après les travaux de l’université Carnegie Mellon, entre la moitié et les trois quarts des spams et de l’hameçonnage dans le monde sont désormais générés par l’IA. Et pour cause, les LLM abaissent considérablement la barrière à l’entrée dans la cybercriminalité en produisant en masse des outils malveillants simples mais efficaces. Désormais, chaque citoyen peut devenir un cybercriminel s’il le décide.
Newsletter
Ma Tribune
L’actualité qui compte pour vous, chaque jour dans votre boîte mail.
Paradoxalement, dans ce nouvel âge de la cybercriminalité, la solution pour les organisations réside dans l’IA. Mieux elle sera déployée, plus les entreprises seront protégées. En effet, la cybersécurité ne peut pas se faire avec des moyens moins développés que ceux des cybercriminels. Imagine-t-on, en 2026, des policiers traquer des réseaux criminels de pointe en utilisant les méthodes des enquêteurs de l’entre-deux-guerres ?
L’IA est à la fois le problème et la solution
Aujourd’hui, deux écosystèmes s’affrontent. Le premier est porté par des cybercriminels qui facilitent et généralisent l’utilisation de logiciels malveillants et l’organisation de campagnes d’hameçonnage en vendant des abonnements à des plateformes d’attaque comme WormGPT ou DarkGPT. Leur marché c’est le monde.
Le second écosystème est composé de fabricants de LLM, d’acteurs de l’IA et d’entreprises. Cet environnement est dans une situation particulière car il est à la fois le problème et la solution. Ce sont ses LLM qui sont détournés de façon spectaculaire - fin 2025, un groupe de hackeurs chinois a réalisé 80 % à 90 % de ses attaques en utilisant des grands modèles de langage — mais ce sont les mêmes grands modèles qui permettent de développer des IA au service de la sécurité informatique des organisations.
Actuellement, le premier groupe a le vent en poupe. Par exemple, en 2024, Microsoft a identifié plus de 200 cas de cybercriminels utilisant l’IA pour créer de faux contenus en ligne, soit plus du double par rapport à juillet 2024 et plus de dix fois le nombre observé en 2023. Pour inverser la tendance, il faudra innover pour mieux protéger les modèles et les organisations.
Par exemple, face à la menace, l’IA devra permettre aux organisations de ne plus réagir mais plutôt d’isoler un système attaqué pour protéger l’entreprise de manière proactive. L’analyse comportementale jouera également un rôle crucial en aidant les équipes à détecter les anomalies et à comprendre les modèles de risque à travers les utilisateurs, les appareils et les applications.
Les prochains mois seront décisifs pour la cybersécurité. Ne ratons pas le rendez-vous.
