Pékin a lancé cette semaine 24 nouvelles règles visant à encadrer les contenus générés par l’IA générative. L’objectif est d’insuffler une éthique dans ce type d’IA et de garantir la sécurité du grand public qui a accès à ces contenus. Les récentes mesures sont toutefois plus souples que celles initialement prévues afin de ne pas décourager l’innovation des entreprises chinoises.
24 nouvelles règles pour encadrer les logiciels d'IA générative en Chine. C'est ce qu'a lancé cette semaine la première puissance asiatique. L'objectif est de réglementer les services destinés au grand public tout en permettant aux entreprises chinoises de concevoir des services compétitifs. Ces dernières essaient de concevoir des services d'intelligence artificielle aussi performants que le logiciel
En parallèle, l'IA générative suscite une inquiétude croissante à travers le monde, car cette technologie peut être utilisée à des fins malveillantes.
C'est le cas des vidéos « deepfake » par exemple, qui font dire à des personnes des choses qu'elles n'ont pas dites.
D'où la nécessité, selon la Chine, de la réglementer.
Les 24 nouvelles règles chinoises semblent avoir été édulcorées par rapport à un projet de réglementation, plus
strict
, publié en début d'année, affirment des experts.
Des mesures éthiques
Ces règles indiquent que l'IA générative doit « adhérer aux valeurs fondamentales du socialisme », ne pas menacer la sécurité nationale ou promouvoir le terrorisme, la violence ou la « haine raciale ».
Les fournisseurs de services doivent présenter les contenus générés par intelligence artificielle comme tels et prévenir toute discrimination basée sur le sexe, l'âge et le groupe ethnique lors de la conception des algorithmes. Leurs logiciels ne doivent pas créer de contenu contenant des « informations fausses et nuisibles ». Quant aux données utilisées pour l'entraînement des logiciels d'IA, elles doivent être obtenues légalement et ne pas porter atteinte aux droits de propriété intellectuelle d'autrui.
Garantir la sécurité du grand public
Le but de ces nouvelles règles est de protéger les utilisateurs de l'IA générative.
Les entreprises qui conçoivent des logiciels d'IA générative accessibles au grand public doivent « prendre des mesures efficaces pour empêcher les utilisateurs mineurs de dépendre de façon excessive » de ces services ou « d'en devenir dépendants », selon les règles publiées en juillet par l'organisme chinois chargé de la régulation de l'internet.
Ces sociétés doivent également supprimer rapidement tout contenu illégal et permettre aux utilisateurs de signaler les contenus inappropriés.
Newsletter
Tech & IA
Chaque jour à 13h, l’essentiel de l’actualité tech.
Quant aux fournisseurs de services, ils ont l'obligation de
procéder
à des évaluations de sécurité et soumettre aux autorités des rapports sur leurs algorithmes. Cette règle ne s'imposera finalement qu'aux entreprises dont les logiciels sont considérés comme ayant une influence sur « l'opinion publique » et pas à l'ensemble d'entre elles, comme cela était prévu dans le projet initial.
Les nouvelles règles, dernières en date d'une série de réglementations visant divers aspects de l'intelligence artificielle, sont techniquement des « mesures provisoires » soumises aux lois chinoises préexistantes. Le projet de réglementation prévoyait initialement une amende qui pouvait aller jusqu'à 100.000 yuans
(12.600 euros)
en cas d'infraction. La première version du texte visait notamment à maintenir le strict contrôle des censeurs sur les contenus, affirme Jeremy Daum, spécialiste de la Chine à la faculté de droit de Yale
(Etats-Unis)
.
« Dès le départ, et un peu différemment de l'Union européenne(UE), la Chine a adopté une approche plus verticale » en matière de législation, « en se concentrant davantage sur des questions spécifiques », a affirmé le cabinet d'avocats TaylorWessing.
Mais plusieurs restrictions sur l'IA générative ont été assouplies.
Selon les nouvelles règles, une infraction ne fera l'objet que d'un avertissement ou d'une suspension.
Elle ne sera sévèrement sanctionnée que si elle enfreint les lois en vigueur.
« La législation chinoise estàmi-cheminentre celle de l'Union européenne(UE)et celle des États-Unis, l'UE ayant l'approche la plus stricte et les États-Unis la plus souple », indique à l'AFP Angela Zhang, professeure de droit à l'Université de Hong Kong.
Si Pékin a pris des mesures plus souples, c'est que son objectif est de soutenir l'innovation et de ne pas décourager les entreprises chinoises.
La principale préoccupation de la Chine est de mettre un terme à la domination des entreprises américaines dans le secteur de l'IA générative.
La réduction du champ d'application de ces règles en est une preuve.
Elles ne s'appliquent désormais qu'à l'IA générative accessible au grand public, et non plus aux utilisations à des fins de recherche et de développement.
« Bon nombre des contrôles les plus stricts sont abandonnés, au profit de la promotion du développement et de l'innovation dans le secteur de l'intelligence artificielle », avance JeremyDaumsur son blog China Law Translate.« Ce changement peut être considéré comme un signe que Pékin souscrit à l'idée d'une course à l'intelligence artificielle, dans laquelle elle doit rester compétitive », ajoute-t-il.
