La modération du réseau social X (ex-Twitter) interroge encore. La société d'Elon Musk a licencié plus de 1.200 employés dans le monde au sein des équipes chargées de lutter contre les contenus abusifs en ligne et de la modération, selon de nouveaux chiffres publiés ce jeudi par eSafety, le régulateur de l'internet australien. Il a notamment estimé que ces « coupes sombres » et le rétablissement de milliers de comptes interdits avaient créé « la pire des situations » pour la diffusion de contenus préjudiciables.

En s'appuyant sur la loi australienne sur la sécurité en ligne, la eSafety Commission a réussi à obtenir une liste détaillée des ingénieurs en logiciels, des modérateurs de contenu et des autres membres du personnel de sécurité travaillant chez X. C'est la première fois que de tels chiffres sont rendus publics. Les experts ont ainsi montré que 1.213 spécialistes du personnel de modération, y compris des sous-traitants, avaient quitté X depuis son acquisition par Elon Musk en octobre 2022, dont 80% d'ingénieurs logiciels.

Australie, fer de lance

Des coupes qui peuvent avoir des conséquences négatives sur la modération des contenus en ligne. D'après la commissaire du régulateur australien, Julie Inman Grant, elle-même ancienne employée de Twitter, il s'agit de « la pire des situations. Vous diminuez considérablement vos défenses et vous introduisez à nouveau des récidivistes sur la plate-forme ».

« Retirer 80% de ces ingénieurs spécialisés, c'est comme si Volvo, réputé pour ses normes de sécurité, se séparait de tous ses concepteurs ou ingénieurs », a-t-elle imagé auprès de l'AFP.

L'Australie a été le fer de lance de l'effort mondial pour réguler les réseaux sociaux, obligeant les entreprises technologiques à expliquer comment elles s'attaquent à des problèmes tels que les discours haineux et les atteintes sexuelles sur mineurs. L'autorité de régulation avait déjà affirmé que le rachat par Elon Musk du réseau social avait coïncidé avec un pic de « toxicité et de haine » sur X. En octobre, la eSafety Commission avait alors infligé à X une amende de 610.500 dollars australiens, soit 410.000 dollars américains. Elle avait alors affirmé que la plateforme n'a pas montré clairement qu'elle luttait contre la prolifération de contenus d'agressions sexuelles sur mineurs. Mais X a ignoré la date limite pour payer l'amende, avant de lancer une action en justice pour la faire annuler.

Lire aussiGrok, le ChatGPT « anti-woke » d'Elon Musk, ne répond pas comme prévu

L'Europe sur le qui-vive

Au-delà de l'Australie, l'Union européenne s'est également posé récemment des questions à propos de la régulation sur le réseau social depuis son rachat par le milliardaire américain. Mi-décembre, Bruxelles avait ainsi ouvert une « enquête formelle » pour des manquements présumés aux règles européennes en matière de modération des contenus et de transparence. Une première dans le cadre de la nouvelle législation européenne sur les services numériques (DSA).

Lire aussiLe manque de modérateurs humains de X (ex-Twitter), exposé au grand jour par le DSA

Si X n'est pas encore déclaré « coupable », la Commission européenne qui joue désormais le rôle de gendarme du numérique, s'inquiète des moyens mis en œuvre pour identifier et écarter des publications dangereuses. La liste de griefs est également longue et fera l'objet d'un examen minutieux : faible nombre de modérateurs, signalement des contenus illicites peu efficace, messages d'avertissement insuffisants contre les images violentes, accès insatisfaisant aux données de X accordé au régulateur...

Sont également épinglées les pastilles bleues apposées sur certains comptes, susceptibles de tromper les internautes en leur faisant croire à des identités certifiées. Ou encore les notes ajoutées par la communauté des utilisateurs pour recontextualiser une information mais qui semblent trop peu nombreuses dans certaines langues.

« L'époque où les grandes plateformes en ligne se comportaient comme si elles étaient trop grandes pour se préoccuper des règles est révolue », a déclaré le commissaire européen au Numérique, Thierry Breton, soulignant que la nouvelle législation permettait désormais de « protéger nos citoyens et nos démocraties ».

X avait néanmoins affirmé qu'il restait « engagé à respecter la réglementation » et a promis de coopérer. « Il est important que ce processus reste exempt de toute influence politique », a-t-il toutefois souligné dans un message posté sur la plateforme. Mais dans un post sur X, son propriétaire, le milliardaire Elon Musk, a adopté une approche plus conflictuelle.

« Êtes-vous en train de prendre des mesures contre d'autres médias sociaux ? Parce que si vous avez ces problèmes avec cette plateforme, et aucune n'est parfaite, les autres sont bien pires », a notamment écrit le milliardaire.

Lire aussiElon Musk insulte les annonceurs qui boycottent X (ex-Twitter)

Campagnes publicitaires

Avec la « hausse alarmante de la désinformation et des discours de haine » sur la plateforme, la Commission européenne a également demandé en novembre à ses services de suspendre leurs campagnes publicitaires sur X. Pour rappel, début décembre, Elon Musk avait insulté les annonceurs qui s'étaient retirés de la plateforme, constituant une menace pour X.

Une première vague d'annonceurs avait, en effet, pris l'initiative en août après que l'observatoire des médias Media Matters avait fait état de publicités de grands noms adossées à un compte néo-nazi. D'autres les ont rejoints en décembre, notamment Apple et Disney, en réaction à un tweet d'Elon Musk, qui relayait une théorie complotiste antisémite.

(Avec AFP)