L'intelligence artificielle, nouvelle arme de censure pour la Chine

 |  | 726 mots
Lecture 4 min.
L'application WeChat compte plus de 800 millions d'usagers actifs.
L'application WeChat compte plus de 800 millions d'usagers actifs. (Crédits : Reuters/ Petar Kudjundzic)
L'application de messagerie instantanée WeChat subit une censure de plus en plus sophistiquée selon une équipe de recherche canadienne. Déjà soupçonné il y a plusieurs années de censure sur des utilisateurs internationaux, Tencent, l'éditeur de l'application WeChat, utiliserait l'intelligence artificielle pour filtrer des conversations sur les groupes de discussion.

Les libertés numériques sont encore mises à mal dans l'Empire du Milieu. Une équipe de chercheurs de l'université de Toronto vient de publier une étude concernant la censure exercée sur l'application de messagerie instantanée la plus utilisée en Chine.  Alors que le gouvernement chinois est considérée comme le régime le plus répressif au monde en matière de communication numérique par le groupe de réflexion Freedom House, les résultats de cette recherche apportent un éclairage sur les techniques sophistiquées utilisées pour filtrer les discussions.

>> Lire aussi : Deux tiers des internautes sont victimes de censure à travers le monde

Une technologie au service de la censure

Avec plus de 806 millions d'utilisateurs actifs, WeChat est la quatrième application de messagerie instantanée la plus utilisée au monde. Cet outil propose entre autres des salons de discussion ou de passer des appels vidéo. Il permet également de commander des taxis, de relier son compte bancaire et ses cartes à son compte WeChat et propose également un volet "Rencontres". L'application connaît également un tel succès en raison du blocage subi par les messageries occidentales Facebook Messenger ou Snapchat.

Selon l'équipe de chercheurs, l'outil a connu récemment une mise à jour qui permet de censurer des sujets sensibles lors de conversations dans des groupes privés à l'intérieur de la messagerie. Selon un expert interrogé par le journal canadien The Globe and mail, "c'est un bond en avant dramatique dans l'usage de l'intelligence artificielle pour réduire au silence les discours qui iraient à l'encontre du parti communiste".

En apparence, très peu d'actes de censure sont pratiqués pour les usagers qui discutent directement avec une autre personne ou pour ceux qui sont enregistrés pour utiliser l'application avec des numéros de téléphone non-chinois selon The Globe and Mail. Les chercheurs soulignent néanmoins que des discussions depuis des comptes enregistrés au Canada ou aux Etats-Unis peuvent être partiellement censurées. Cela signifie que des touristes, des hommes d'affaires pourraient voir leurs discussions en ligne filtrées. Sur les groupes de discussion en ligne, les experts ont souligné que la censure est bien plus restrictive.

En juin 2016, les scientifiques se sont mis à la place d'usagers de la messagerie chinoise et ont envoyé plus de 26.000 mots clés contenant des termes qui auraient été censurés sur les autres applications telles que Tom-Skype (une version de Skype pour la Chine) et YY (un réseau social concurrent). Ils ont remarqué que certains sujets sensibles n'étaient pas forcément l'objet de censure quand la conversation était entre deux personnes. Dans les groupes de discussion, les chercheurs ont constaté que des mots clés tels que le "4 juin" (qui peut faire référence à la mobilisation de Tian'anmen le 4 juin 1989), "Free Tibet", ou "Isis Crisis" étaient clairement supprimés. Si ces mots sont détectés sur les serveurs de WeChat en Chine, les messages ne seront jamais envoyés.

Pour Jack Qiu, professeur à l'université de Hong-Kong qui a étudié les technologies de communication, c'est la confirmation que Pékin s'est éloigné des systèmes de censure traditionnels en utilisant des algorithmes de plus en plus sophistiqués. "C'est une nouvelle génération de technologies pour la censure. Et le pilier de cet outil est un système intelligent, plus communément appelé machine learning [...] Cela signifie que le système de censure peut apprendre par lui même."

Un outil de régulation sociale

Jason Q.Ng, l'un des chercheurs qui a travaillé sur l'étude, pense que le gouvernement ou WeChat, ou les deux visent plus particulièrement les salons de discussion en raison de leurs capacités à mobiliser politiquement les usagers comme le rappelle Quartz.

"Le fait que vous puissiez atteindre un plus grand nombre de personnes (ndlr : sur les chats entre plusieurs personnes) rend cela plus risqué et pourrait devenir viral ou provoquer des protestations dans les rues."

Sur Bloomberg, Masashi Crete-Nishihata, qui est également membre du groupe de recherche ajoute que "dans un groupe, un message a une capacité d'atteindre plus de 500 usagers et pourrait donc représenter un potentiel plus important pour encourager les mobilisations". Avec de telles pratiques, la Chine confirme son leadership dans les nouvelles techniques de filtrage au niveau international.

Réagir

Votre email ne sera pas affiché publiquement
Tous les champs sont obligatoires

Commentaires
a écrit le 02/12/2016 à 18:56 :
Dans tous les forums, les "trolls" sont indésirables et généralement détectés par intelligence artificielle qui fait office de modérateur. Leurs messages impropres sont automatiquement supprimés. Il peut s'agir de forum d'avis de consommateurs ou utilisateurs d'un produit, de forum techniques ou scientifiques, de forums d'opinion ou de commentaires sur des articles publiés. L'article ne précise pas ce qu'est la ligne rouge de la censure : "4 juin" ne passe pas en Chine, comme "race", qui ne passe pas toujours en France. L'IA est capable de sanctionner le "politiquement incorrect". La liberté de réunion physique est plus que jamais l'outil fondamental de la démocratie : préservons les espaces de rassemblement.

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.

 a le à :