Fausse voix générée par IA : saurez-vous reconnaître le clone audio ?
Bogdan Bodnar
Ce contenu est réservé aux abonnés La Tribune
Photo d'illustration
La Tribune avec Dall-E
Bogdan Bodnar
Ce contenu est réservé aux abonnés La Tribune
Photo d'illustration
La Tribune avec Dall-E
Nouvel épisode de paranoïa avec l'intelligence artificielle. Depuis jeudi 15 mai, le FBI met en garde contre des fraudeurs qui usurpent de hauts responsables américains à l'aide de deepfake, des imitations numériques de leurs voix. Selon un communiqué de la police fédérale américaine, cette campagne est en cours depuis avril et la majorité des messages visent d'anciens et actuels responsables du gouvernement américain. Les acteurs malveillants cherchent à obtenir les identifiants de connexion de comptes officiels dans le but de compromettre des systèmes utilisés par l'administration.
« Les cybercriminels ont envoyé des messages texte et des messages vocaux générés par l'IA, prétendant provenir d'un membre du gouvernement dans le but d'établir un lien de confiance avant d'obtenir un accès aux comptes personnels », peut-on lire dans l'alerte. « Le contenu généré par l'IA a tellement progressé qu'il est souvent difficile à détecter », avertit d'ailleurs le FBI. On ne peut que confirmer ce qu'avancent les forces de l'ordre américaines : avec quelques euros et en quelques minutes à peine, on peut recréer une voix et envoyer des messages vocaux convaincants. La Tribune l'a testé.
L'usage des deepfakes s'est intensifié avec les progrès technologiques et la baisse des coûts. Dans l'affaire citée par le FBI, les attaquants auraient utilisé l'IA pour générer des messages vocaux à partir d'échantillons existants, sans chercher à simuler une interaction en temps réel à l'aide d'une intelligence artificielle générative.
À lire également
Plusieurs cas médiatisés au cours des cinq dernières années montrent d'ailleurs que des cybercriminels ont déjà tenté — et parfois réussi — à tromper des dirigeants d'entreprise ou des responsables à l'aide d'audios imitant la voix d'un partenaire, par exemple. En 2021, des hackeurs sont parvenus à convaincre un banquier de transférer 3,5 millions de dollars en clonant la voix d'un patron. D'autres histoires révèlent que ces techniques intéressent aussi des services de renseignement ou des opérations de déstabilisation. En 2022, deux prétendus humoristes russes avaient réussi à contacter le président polonais en usurpant la voix d'Emmanuel Macron, diffusant ensuite l'enregistrement de leur échange sur la politique européenne.
Bogdan Bodnar
Rachat de SFR : les discussions se prolongent encore 48 heures avec Bouygues Telecom, Free et Orange
« Affaire Doctolib » : pas de vente de données aux géants américains, mais un modèle d'hébergement à clarifier
Anthropic veut instaurer une « pédale de frein » dans la course mondiale à l’IA
« Anticiper le coût du token sur cinq ans, c’est impossible » : les entreprises face à l'explosion de la facture de l'IA