Facebook ouvre pour la première fois ses algorithmes à l'Etat pour lutter contre les contenus haineux

 |   |  817  mots
Pendant six mois, à compter du 1er janvier 2019, le réseau social Facebook va ouvrir ses portes à une équipe de représentants des régulateurs français, à savoir la Cnil (le défenseur des données personnelles), l'Arcep (le régulateur des télécoms) et l'Autorité de la Concurrence.
Pendant six mois, à compter du 1er janvier 2019, le réseau social Facebook va ouvrir ses portes à une équipe de représentants des régulateurs français, à savoir la Cnil (le défenseur des données personnelles), l'Arcep (le régulateur des télécoms) et l'Autorité de la Concurrence. (Crédits : Dado Ruvic)
Pendant six mois à compter du 1er janvier 2019, Facebook va partager ses méthodes de lutte contre les contenus haineux (cyber-harcèlement, sexisme, racisme, antisémitisme, diffamation...) avec une délégation de régulateurs français issus de la Cnil, de l'Arcep et de l'Autorité de la Concurrence. L'objectif : arriver à établir ensemble une régulation commune pour lutter plus efficacement contre ce type de contenus problématiques, qui pullulent en ligne et sont mal identifiables par des intelligences artificielles.

C'est une "expérimentation inédite", d'après Emmanuel Macron, qui en a fait l'annonce dans son discours d'ouverture du Forum pour la Gouvernance de l'Internet (IGF), qui se tient jusqu'à mercredi à Paris. Pendant six mois, à compter du 1er janvier 2019, le réseau social Facebook va ouvrir ses portes à une équipe de représentants des régulateurs français, à savoir la Cnil (le défenseur des données personnelles), l'Arcep (le régulateur des télécoms) et l'Autorité de la Concurrence. Ces hommes et ces femmes, soumis bien évidemment au "secret des affaires" d'après l'entourage du secrétaire d'État au Numérique Mounir Mahjoubi, pourront voir comment Facebook travaille pour identifier, catégoriser et éventuellement supprimer les contenus haineux. Autrement dit, Facebook va partager pour la première fois les secrets de ses algorithmes dans le cadre de sa lutte contre ce type de contenus.

Les contenus haineux, ce casse-tête à réguler

Pourquoi Facebook accepte-t-il de coopérer ? Actuellement, la régulation des contenus haineux, c'est-à-dire le cyber-harcèlement, les insultes, le sexisme, le racisme, la diffamation..., nage dans un grand flou. Contrairement aux contenus de nature terroriste ou pédo-pornographique, qui sont assez faciles à identifier et donc à supprimer rapidement, les technologies actuelles d'intelligence artificielle ne savent pas repérer de manière infaillible un contenu haineux. L'ironie, le second degré, l'humour, le contexte du message ne savent pas bien être pris en compte, ce qui rend très difficile de détecter à temps et de supprimer un contenu véritablement offensant et qui n'a donc pas sa place sur un réseau social.

"Placer le curseur entre ce qui est illégal et ce qui relève de la liberté d'expression est aujourd'hui un casse-tête", ajoute l'entourage de Mounir Majoubi. C'est vrai pour les plateformes comme Facebook et Twitter, car elles ne savent pas réagir à temps et engrangent la colère des internautes qui n'ont pas obtenu satisfaction alors qu'ils étaient harcelés, ou de ceux qui se sont fait supprimer un post sans raison. Mais c'est aussi vrai pour les régulateurs, impuissants face à l'ampleur du phénomène.

Or, la France et l'Europe veulent avancer sur cette question épineuse. En septembre, la députée LREM Laëtitia Avia a remis au gouvernement un rapport au gouvernement relatif à la lutte contre la haine. Elle y préconise d'accentuer la pression sur les plateformes avec une série de 20 recommandations, que le gouvernement a approuvées sur le principe. Parmi elles figure la multiplication par cent (jusqu'à un montant de 37,5 millions d'euros) du montant des amendes encourues par les grands réseaux sociaux et moteurs de recherche quand ils manquent à leurs obligations de retrait, de déréférencement de contenus et de coopération avec les autorités judiciaires. Mais aussi l'obligation pour les plateformes de retirer les contenus manifestement racistes et antisémites "dans les 24 heures". Ce qui nécessite de savoir les identifier.

La co-construction d'un Internet respectant les valeurs européennes

Pour Emmanuel Macron, cette méthode de collaboration proche avec Facebook incarne une conception européenne de la régulation du Net.

"Nous ne voulons pas d'un Internet à l'américaine où les entreprises privées ont tous les droits, ni d'un Internet à la Chinoise dominé par un État hégémonique. Il faut donc construire une voie nouvelle où l'État régule avec les acteurs privés et la société civile. Il y aura à l'avenir davantage de régulation, c'est une certitude, donc il faut donc construire cette régulation d'une manière coopérative qui ne bride pas la liberté d'expression, mais qui soit efficace", a expliqué Emmanuel Macron dans son discours d'ouverture de l'IGF.

D'après le chef de l'État, les experts de Facebook et ceux des régulateurs français devront "élaborer ensemble des propositions de régulations précises", en se basant sur ce qu'il est possible de faire concrètement. Une approche beaucoup plus souple qu'outre-Rhin, où Berlin a imposé des obligations de résultat aux plateformes, dont certaines se retrouvent dans le rapport Avia.

"La position française est plus pro-business, plus pro-innovation et plus réaliste, car elle reconnaît complexité technique et opérationnelle", estime l'entourage de Mounir Mahjoubi.

Une fois l'expérimentation terminée, l'idée de la France est de proposer une régulation à l'échelle européenne, sur la base d'un rapport-bilan. Une régulation capable à la fois d'aller plus loin que l'existant -la loi pour la confiance dans l'économie numérique de 2004- et de s'adapter aux réflexions en cours. Emmanuel Macron s'est notamment déclaré favorable à la création d'un statut "d'accélérateur de contenus" pour les réseaux sociaux et les moteurs de recherche, qui auraient une obligation de transparence sur la lutte contre les contenus illicites et le traitement de ces alertes.

Réagir

Votre email ne sera pas affiché publiquement
Tous les champs sont obligatoires

Commentaires
a écrit le 13/11/2018 à 8:42 :
"Il n'y a pas d'alternative démocratique aux traités européens" JUncker

Est-ce considéré comme un contenu haineux svp ? Parce que certes dans le propos c'est plutôt modéré mais dans son application c'est monstrueux.
a écrit le 12/11/2018 à 20:53 :
Réglements contre fake news, contenus haîneux, réchauffement climatique, propos sexuels ou xénophobes, calomnie, critique, satire, pamplet etc. Ces nouvelles réglementations engagées dans la lutte pour le conformisme édictées par les élites ne font que créer du ressentiment dans le peuple. Le gouvernement fait de l'agitprop à la manière d'autrefois et excite les réflexes populistes. Où veut-il en venir?
Bien sûr, l'intelligent Facebook ne peut que collaborer à une étude qui va lui permettre d'approfondir les besoins de sa clientèle.
a écrit le 12/11/2018 à 18:16 :
C'est drôle tous ces outils de censure qui sont mis en place par la force juste avant les élections européennes qu'ils sont surs de perdre.

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.

 a le à :