Les systèmes d'intelligence artificielle (IA) fascinent autant qu'ils inquiètent. Le grand public a découvert leur potentiel immense à la fin de l'année dernière avec la sortie du générateur de contenus rédactionnels ChatGPT de la société californienne OpenAI. Pour rappel, cet outil est capable de rédiger des dissertations, des poèmes ou des traductions en quelques secondes.

Lire aussiFaut-il arrêter l'intelligence artificielle avant qu'il ne soit trop tard ?

Leur spectre se révèle toutefois bien plus large. Diffusion de contenus dangereux, manipulation de l'opinion par la création de fausses images, avec des logiciels comme Midjourney, systèmes de surveillance de masse... Des personnalités de la tech, comme le patron de Twitter, Elon Musk, ont même réclamé un moratoire sur leur développement.

Lire aussiPour ou contre : faut-il freiner le développement de l'intelligence artificielle ? (Colin de la Higuera face à Paul Midy)

Première législation d'envergure au monde

L'Union européenne veut justement être la première au monde à se doter d'un cadre juridique complet pour limiter les dérives de l'IA, tout en sécurisant l'innovation. C'est la raison pour laquelle, ce jeudi 11 mai, les eurodéputés voteront leur futur règlement, « l'IA Act », en commission à Strasbourg, avant une séance plénière en juin. Une première étape dans un long processus, puisque de difficiles négociations entre le Parlement, la Commission et les États membres devront s'ouvrir ensuite.

« Il est important d'aller vite. Nous avons vraiment besoin que notre législation s'adapte », a déclaré lundi la vice-présidente de la Commission européenne Margrethe Vestager, lors d'une conférence de presse à Berlin, avant une rencontre avec le ministre allemand de l'Économie Robert Habeck.

« Il n'y a pas de temps à perdre », a-t-elle ajouté, espérant que le texte soit totalement adopté « avant la fin de l'année ».

L'IA générative ciblée

L'UE travaille depuis des années sur un projet de règlement encadrant l'intelligence artificielle. La Commission européenne a proposé il y a deux ans un projet de législation dont l'examen traîne en longueur. Les États membres de l'UE ont seulement défini leur position fin 2022.

Ce retard s'explique en partie par l'irruption dans le débat public des intelligences artificielles dites à usage général (capables d'accomplir une grande variété de tâches), dont font partie les IA génératives comme ChatGPT. « C'est un texte complexe et nous avons ajouté un régime nouveau de règles dédié aux IA génératives », a expliqué à l'AFP le co-rapporteur Dragos Tudorache.

Lire aussiIBM étudie le remplacement d'une partie de son personnel par ChatGPT

Dans les faits, les eurodéputés souhaitent contraindre les fournisseurs à mettre en place des protections contre les contenus illégaux et à révéler les données protégées par les droits d'auteur utilisées pour développer leurs algorithmes.

Certains experts considèrent toutefois que les risques des IA génératives ne nécessitent pas de traitement séparé. « Je ne vois pas la motivation du Parlement. Je ne vois pas en quoi ces risques sont différents de ce qui a déjà été anticipé », a commenté Pierre Larouche, expert en droit du numérique à l'Université de Montréal et chercheur au Center on Regulation in Europe (Cerre), auprès de l'AFP.

Mot d'ordre : transparence

La proposition de la Commission, dévoilée en avril 2021, prévoit déjà un encadrement des systèmes d'IA qui interagissent avec les humains. Elle les obligera à informer l'utilisateur qu'il est en relation avec une machine. En outre, elle contraindra les applications générant des images à préciser qu'elles ont été créées artificiellement. Le texte s'inspire des réglementations européennes existantes en matière de sécurité des produits et imposera des contrôles reposant d'abord sur les entreprises.

Lire aussiCourse à l'intelligence artificielle : même les gourous de la tech prennent peur

Le cœur du projet consiste à établir une liste de règles imposées aux seules applications qui seront jugées à « haut risque » par les entreprises elles-mêmes à partir des critères du législateur. La Commission européenne a proposé qu'elles concernent les systèmes utilisés dans des domaines sensibles comme les infrastructures critiques, l'éducation, les ressources humaines, le maintien de l'ordre ou la gestion des migrations...

Parmi les obligations : un contrôle humain sur la machine, l'établissement d'une documentation technique ou encore la mise en place d'un système de gestion du risque... Leur respect sera contrôlé par des autorités de surveillance désignées dans chaque pays membre. Les eurodéputés veulent des critères plus stricts pour restreindre la classification « haut risque » aux seuls produits pouvant menacer la sécurité, la santé ou les droits fondamentaux.

Plusieurs interdictions dans les cartons

Les interdictions seront rares. Elles concerneront les applications contraires aux valeurs européennes, comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine.

Lire aussiIntelligence artificielle : Musk dit travailler sur « Truth GPT », « une IA qui recherche la vérité maximale »

Les eurodéputés veulent y ajouter l'interdiction des systèmes de reconnaissance des émotions et supprimer les dérogations autorisant l'identification biométrique à distance des personnes dans les lieux publics par les forces de l'ordre. Ils entendent aussi interdire la récolte en masse de photos sur internet pour entraîner les algorithmes sans l'accord des personnes concernées.

(Avec AFP)