latribune.fr
Le texte a été adopté lors de la réunion ministérielle annuelle du Comité des ministres du Conseil de l'Europe.
Johanna Geron
« Exigences de transparence (et) identification des contenus » : le Conseil de l'Europe a adopté ce vendredi le premier traité international juridiquement contraignant encadrant l'utilisation de l'intelligence artificielle (IA).
Le texte a été adopté lors de la réunion ministérielle annuelle du Comité des ministres du Conseil de l'Europe, qui réunit les ministres des Affaires étrangères des 46 États membres.
« La convention énonce des exigences de transparence et de contrôle adaptées à des contextes et à des risques spécifiques, notamment l'identification des contenus générés par les systèmes d'IA », précise le Conseil de l'Europe. « Les parties devront adopter des mesures pour identifier, évaluer, prévenir et atténuer les risques éventuels et évaluer la nécessité d'un moratoire, d'une interdiction ou d'autres mesures appropriées concernant l'utilisation de systèmes d'IA lorsque cette utilisation est susceptible de présenter des risques incompatibles avec les normes relatives aux droits de l'homme », poursuit l'instance européenne.
Cette convention-cadre a été élaborée durant deux ans par un organe intergouvernemental qui a rassemblé les 46 États membres du Conseil, l'Union européenne et 11 États non-membres (Etats-Unis, Australie, Canada, Israël ou Japon notamment), ainsi que des représentants du secteur privé, de la société civile et du monde universitaire, intervenant en qualité d'observateurs.
Marija Pejcinovic Buric, secrétaire générale du Conseil de l'Europe, a salué l'adoption d'un « traité international unique en son genre qui fera en sorte que l'intelligence artificielle soit respectueuse des droits des personnes ».
La convention-cadre sera ouverte à la signature à Vilnius le 5 septembre à l'occasion d'une conférence des ministres de la Justice.
L'Union européenne avait également adopté début mars « l'IA Act » une loi pour encadrer les systèmes d'IA comme ChatGPT, une législation unique au monde. Ce texte vise à encadrer les dérives potentielles autour de l'intelligence artificielle, tout en protégeant et favorisant l'innovation autour de cette technologie dans l'Union européenne (UE). Un fragile équilibre qui a suscité de nombreux débats, avec notamment une récente fronde de la France et de l'Allemagne qui sont parvenues à obtenir un allègement du texte afin de protéger leurs champions nationaux de l'IA générative, Mistral AI et Aleph Alpha.
Chaque jour à 13h, l’essentiel de l’actualité tech.
L'IA Act classe les systèmes d'intelligence artificielle en plusieurs catégories, en fonction du niveau de risque, avec des contraintes allant de zéro pour les plus anodins à l'interdiction pure et simple pour les plus dangereux. Dans cette dernière catégorie, on trouve les systèmes de notation à l'image du crédit social chinois, ou encore les dispositifs de reconnaissance émotionnelle utilisés sur le lieu de travail ou à l'école. Viennent ensuite les IA dites « à haut risque », utilisées dans des domaines sensibles comme le secteur médical, l'éducation et la police. Pour les créateurs de ces modèles, le texte prévoit des contraintes spécifiques, comme la nécessité de prouver que leur système a été entraîné avec des données de qualité, prévoir une surveillance humaine sur la machine, fournir une documentation technique solide et mettre en place un système de gestion des risques.
À lire également
Pour Katharina Zügel, qui a participé à la rédaction d'un récent rapport sur l'IA publié par le Forum sur l'Information et la Démocratie, l'IA Act est un pas dans la bonne direction qui permet au pouvoir politique de reprendre le contrôle sur l'évolution de l'IA.
(Avec AFP)
latribune.fr
