Attentats : "Nous sommes en plein dans le pic de haine sur Internet"

Depuis les attentats du 13 novembre, la parole se libère sur Internet. Jérémie Mani, le président de la société de modération des commentaires de nombreux sites d’info et de leur page Facebook, revient pour La Tribune sur l’explosion des commentaires haineux et comment son entreprise de modération fait en sorte d’en supprimer le plus possible.
Sylvain Rolland

8 mn

Le patron de la société de modération Netino explique comment ses algorithmes permettent de traiter en temps réel l'afflux des messages haineux depuis les attentats du 13 novembre.
Le patron de la société de modération Netino explique comment ses algorithmes permettent de traiter en temps réel l'afflux des messages haineux depuis les attentats du 13 novembre. (Crédits : D.R)

"Musulman = terroriste", "c'est un coup de Marine Le Pen pour gagner des voix", insultes, propos racistes ou antisémites... Depuis les attentats du 13 novembre, la France est en crise. Y compris sur Internet, où le volume de commentaires en général a quintuplé par rapport à la moyenne. Parmi eux, une minorité très visible de messages haineux, que des sociétés comme Netino se chargent de repérer et de retirer pour le compte des grands médias. Soit en empêchant leur publication, soit en les supprimant, si possible très rapidement.

Jérémie Mani, le président de la société de modération Netino, revient pour La Tribune sur le dispositif que son entreprise a mis en place pour gérer cet afflux de commentaires. Parmi ses clients: les sites web de La Tribune, du Monde, de L'Express, de L'Obs, BMFTV, 20 Minutes, Sud Ouest, Les Echos ou encore Europe 1. Entretien.

LA TRIBUNE. En janvier, après les attentats au siège du journal Charlie Hebdo et à l'Hypercasher de Vincennes, les commentaires haineux avaient déferlé sur le net. Qu'en est-il après les attentats du 13 novembre ?

JEREMIE MANI : La situation est similaire dans le sens où les événements du 13 novembre donnent lieu à une explosion des commentaires qui traduisent une véritable libération de la parole, dans le bon sens comme dans le mauvais. Les Français sont extrêmement choqués et commentent massivement l'actualité liée aux attentats, que ce soit sur les sites des journaux eux-mêmes et, de plus en plus, sur leur page Facebook.

Les trois premiers jours après les attentats se sont caractérisés par des messages de recueillement, d'incompréhension, d'émotion, de soutien aux policiers et aux familles des victimes. Des messages en grande majorités positifs, donc.

Puis les messages négatifs ont commencé à déferler, dans un effet de miroir avec l'actualité. Le climat est très tendu, les Français commentent des interventions policières spectaculaires, des mesures exceptionnelles prises par l'Etat, des funérailles ou le spectacle désolant de députés qui se bagarrent verbalement à l'Assemblée nationale.

Plus les articles des journaux sont anxiogènes, plus la peur et la paranoïa s'installent. Mécaniquement, l'unité nationale se craquelle aussi sur Internet. A partir de là, les vieux réflexes gauche/droite reprennent le dessus, les gens commencent à chercher des coupables. Au fur à mesure qu'on découvre qui étaient les terroristes, qu'on interroge leurs proches, que les conséquences des attentats se font sentir, les propos tendent à devenir plus haineux. Actuellement, nous sommes en plein dans le pic de haine. Le plus difficile n'est donc pas les premiers jours mais les deux ou trois semaines qui suivent.

Quelle est la part des propos haineux publiés sur les sites d'actualités et leur page Facebook par rapport à l'ensemble des commentaires ?

Depuis le 13 novembre, nous constatons une explosion générale des commentaires : entre quatre et cinq fois plus par rapport à la moyenne, comme ce fut le cas après Charlie Hebdo. Parmi eux, 70% sont positifs, 30% sont négatifs. Ce ratio est similaire à la période post-Charlie, mais supérieur à la moyenne, qui se situe d'ordinaire aux alentours de 20% de commentaires négatifs. Beaucoup de gens ont l'impression de voir énormément de propos haineux. En réalité, ils sont surtout plus visibles, car il y a beaucoup plus de commentaires au total, ce qui rend leur suppression plus difficile.

Quel type de commentaires supprimez-vous ?

Nous ne supprimons pas les 30% de commentaires négatifs, car il faut laisser vivre le débat autant que possible, dans le respect de la loi. Nous constatons beaucoup de messages racistes, anti-musulmans, anti-migrants aussi, car un énorme amalgame se fait entre les musulmans, les terroristes et les migrants, avec des propos du type "ce n'est pas étonnant avec tous les étrangers qu'il y a en France".

Nous supprimons aussi tout ce qui relève des théories du complot, du genre "Israël et les Etats-Unis n'ont pas été touchés donc c'est un complot Juif", "c'est Marine Le Pen qui a fait le coup pour gagner des voix" etc. Mais l'essentiel des propos supprimés sont racistes et anti-musulmans. En janvier, c'était différent, il y avait davantage de commentaires antisémites en raison de l'attaque de l'Hypercasher, qui visait la communauté juive.

Constatez-vous une recrudescence d'activité des internautes d'extrême-droite ?

Absolument, les groupuscules d'extrême-droite n'ont pas laissé passer l'opportunité. Certains postent des commentaires de type "musulman = terroriste" et réclament la fermeture des frontières et de l'espace Shengen.

D'autres créent aussi de faux comptes à consonance musulmane et inondent les articles de commentaires faisant l'apologie du terrorisme, dans le but d'entretenir l'amalgame. Heureusement, ils sont très facilement repérables et donc, faciles à bloquer. Mais ces commentaires peuvent faire peur à ceux qui les voient avant qu'on les supprime, même si notre réactivité est importante.

Vous modérez à la fois les commentaires postés sur les sites de la plupart des grands médias, mais aussi ceux de leur page Facebook. Voit-on les mêmes profils et les mêmes types de commentaires sur un site d'actualité et sur un réseau social ?

Certains commentent uniquement sur Facebook, d'autres uniquement sur les sites d'actualités, mais globalement, on retrouve le même type de contenus. Certaines personnes sont des "serial-posteurs", ils commentent l'actualité sur de nombreux sites, il est donc facile de les repérer avec leur adresse IP ou leur compte utilisateur. Ceux qui ont l'habitude de poster des messages injurieux sont déjà bloqués, mais avec les attentats, des personnes qui ne postaient pas s'y mettent et d'autres peuvent déraper.

Sur les réseaux sociaux, les messages sont plus courts, plus impulsifs, donc plus propices aux dérapages. Sur les sites d'actualités, les commentaires sont en général un peu plus développés, moins spontanés car il faut s'inscrire alors que sur Facebook, on commente avec son profil. Notre principale difficulté est plutôt l'afflux de messages. Puisque leur nombre explose, nous sommes moins réactifs pour les enlever très vite.

Justement, comment repérez-vous les commentaires problématiques ? Grâce à un algorithme ?

Tout l'enjeu en cette période d'explosion des commentaires est de bien détecter les messages problématiques et de supprimer ceux qui sont haineux très vite. Nous fonctionnons effectivement grâce à un algorithme très puissant qui sélectionne les commentaires "à risque", mais ce sont nos modérateurs qui prennent la décision de les supprimer ou pas. Les messages ne sont pas traités par ordre d'arrivée mais en fonction du risque de dérapage qu'ils représentent. Pour calculer ce risque, notre algorithme prend en compte de nombreux critères.

Lesquels ?

Tout d'abord, l'algorithme fonctionne avec un système de mots-clés, mis à jour très régulièrement. On sait que certains mots génèrent plus de commentaires haineux que d'autres. Quand des mots comme "charia", "sioniste", "gay" apparaissent dans les commentaires, le taux de rejet moyen est deux à trois fois supérieur. L'algorithme considère donc que chaque message qui contient certains mots-clés doit être traité par nos équipes avec plus d'urgence que lorsqu'ils n'apparaissent pas.

Le deuxième critère majeur est ce qu'on appelle les "scores utilisateur". On conserve l'intégralité des données que nous avons sur chaque personne, pour déterminer si on doit particulièrement surveiller son activité car elle risque de déborder, ou si la personne est considérée comme fiable. Par exemple, si vous commentez pour la première fois sur la page Facebook du Monde, vous pouvez penser qu'on ne vous connaît pas. En réalité, il y a de grandes chances qu'on vous connaisse si vous avez déjà commenté des posts de La Tribune ou de L'Express. Comme le pseudonyme, qui est votre compte Facebook, est le même, nous pouvons établir un "score de risque" qui permet à l'algorithme de ranger votre message plus ou moins haut dans la liste des messages à surveiller. Les commentaires des utilisateurs qui n'ont jamais dérapé sont moins prioritaires.

Et le troisième aspect ?

Le dernier grand critère est la viralité. Tous les articles sur un site, tous les posts de médias sur Facebook, n'ont pas le même impact, certains sont plus populaires que d'autres. Mettre l'accent sur les articles ou posts les plus populaires, likés et commentés, permet de repérer tout de suite une horreur et de l'enlever avant qu'elle n'atteigne beaucoup de monde. En revanche, un commentaire haineux sur un post moins exposé va peut-être rester en ligne un peu plus longtemps.

Avez-vous mis en place des moyens humains supplémentaires pour traiter l'afflux de commentaires depuis les attentats ?

Nous n'avons pas beaucoup de marges de manœuvre sur ce plan, car il faut recruter et former le personnel et ce n'est pas possible en période de crise. En revanche nos modérateurs font des heures supplémentaires et nous mobilisons le maximum de monde. La vraie solution est de faire confiance à notre algorithme pour établir des priorités. Le temps passé à lire 100 messages considérés "à risque" est le même si on en supprime 20 ou 70. L'enjeu est de faire en sorte de bien sélectionner les messages pour retirer le plus rapidement possible ceux à caractère haineux. On compte aussi sur des signalement de communauté. Enfin, l'expérience Charlie Hebdo, qui nous avait pris de court, nous a énormément appris. Aujourd'hui, nous sommes mieux armés pour faire face.

Propos recueillis par Sylvain Rolland

Sylvain Rolland

8 mn

Sujets les + lus

|

Sujets les + commentés

Commentaires 37
à écrit le 15/08/2016 à 20:50
Signaler
Vous devriez aller faire un tour sur les forums de Libération, à mon avis vous tomberiez des nues, car sur Libé c'est 90% de propos raciste et haineux, incitant à la haine et à la violence avec la complicité de la modération , car les commentaires qu...

à écrit le 28/11/2015 à 21:14
Signaler
merci à la tribune d'avoir la transparence de cet article, au moins on explique les chose, c'est la première fois que je vois une telle explication ensuite le premier malaise est que 70% des journalistes ont voté hollande, 90% à l’école du journal...

à écrit le 27/11/2015 à 12:31
Signaler
Au Québec, la censure est existante dans tous les journaux. Impossible de dire des vérités même quand elles ont été signifiées par des personnalités. J'ai essayé plusieurs fois. Par exemple, Mme Wynne, première ministre de l'Ontario, a mentionné a...

à écrit le 26/11/2015 à 14:04
Signaler
Je dois avouer que cet article est très intéressant mais me dérange. Je trouve ça très intéressant de savoir comment notre monde (numerique) fonctionne et je remercie Latribune pour cet article. Mais je suis troublé de savoir que des gens "filtrent" ...

à écrit le 26/11/2015 à 13:07
Signaler
C'est juste le retour du refoulé. La repentance, le politiquement correct, les lois mémorielles. Barbarie à visage humain.

à écrit le 26/11/2015 à 13:07
Signaler
ET LE F HAINE DANS TOUT CA ? VAUT PAS MIEUX QUE LES AUTRES !

à écrit le 26/11/2015 à 9:48
Signaler
En lisant régulièrement les commentaires des articles en ligne je constate que nous sommes passés en quelques années de la dérision au dénigrement, le fameux hollande bashing , à la haine .

à écrit le 26/11/2015 à 2:32
Signaler
A quoi bon poster un commentaire ici, vu que c'est censurer: "La modération est réalisée par des modérateurs professionnels recrutés dans des pays francophone à bas coûts (Maroc, Mali, Sénégal, Madagascar, Ile Maurice, seul 20% des salariés sont ...

à écrit le 25/11/2015 à 14:48
Signaler
Quand on voit ce qu'on voit, quand on lit ce qu'on lit, on a bien raison de penser ce qu'on pense Radio Paris vous ment, Radio Paris est .......

à écrit le 25/11/2015 à 11:24
Signaler
Monsieur Mani, Tel que vous le présentez, votre mode de fonctionnement semble caractéristique de toutes ces PME parisiennes en "-o" (filtrage d'URL, antivirus/spam/etc...), dont vous partagez au passage la charte graphique: une techno assez rudime...

à écrit le 25/11/2015 à 9:49
Signaler
Haine ? Soyons sérieux. L'article parle de "haine", mais la réponse de Piotr, plus bas, remets les pendules à l'heure :<i> "Votre liberté d'expression n'est modulée que parce que vous vous exprimez sur le site d'entreprises qui ont tout loisir de la...

à écrit le 25/11/2015 à 9:13
Signaler
Ne vaudrait-il pas mieux supprimer ou suspendre les commentaires en phase de crise ? Est-ce qu'ils n'excitent pas ? Y a-t-il eu une étude ?

à écrit le 25/11/2015 à 7:48
Signaler
Le problème vient de l'intérieur de la France : les combattants islamistes ont des papiers Français et sont en France ! C'est un problème intérieur (les militaires fouillent et perquisitionnent en France). Alors, on continue l'immigration massive et ...

à écrit le 25/11/2015 à 7:41
Signaler
Dans les années 70, il n'y avait pratiquement pas de musulmans en France (ils sont 8 à 10 millions aujourd'hui), pratiquement pas de chomage, de pauvres et de dette. Les Français vivaient en sécurité dans leur pays (ce qui est tout à fait normal). Qu...

le 25/11/2015 à 19:57
Signaler
«  Dans les années 70, il n'y avait pratiquement pas de musulmans en France » Renseignez-vous, afin de réviser vos fantasmes !

le 26/11/2015 à 14:01
Signaler
Exactement...Et la censure ne changera rien à cette vérité là...

le 26/11/2015 à 18:38
Signaler
euh vous viviez en France dans les années 70/ 80 ? Mesrine , et autres grands bandits Français ça vous parle? les attentats de l'OAS ? les statistiques sur les homicides sont malheureusement implaccables. IL y a moins de morts en france en valeur a...

à écrit le 24/11/2015 à 20:40
Signaler
Décrivez chaque critique de l'immigration et ses conséquences, l'islam et ses conséquences , même une critique de Schengen maintenant ...comme étant de la "haine" ( on trouvera toujours 2-3 messages pour aller dans ce sens..) et abracadabra même plu...

à écrit le 24/11/2015 à 19:49
Signaler
Intéressant les recoupements de sites en sites, le stockage des adresses IP et la création d'un profil de "posteur" c'est réellement CNIL ca ? j'ai un doute quand même, ca commence à ressembler sérieusement à une police du net qui ferait des dossiers...

à écrit le 24/11/2015 à 16:28
Signaler
valls a proposé de supprimer le mot race... génial, car en un instant tous les querelles et guérillas fratricides entre ethnies africaines ou ailleurs... vont cesser du jour au lendemain parce qu'on a supprimé le mot race, donc le problème n'existe p...

à écrit le 24/11/2015 à 16:24
Signaler
puisque la censure est en place, allons au bout, supprimons l’extrême droite et l’extrême gauche, des idéologies qui ont historiquement des dizaines de millions de morts à leur actif, qui ne savent que cultiver la haine et le racisme politicien où qu...

à écrit le 24/11/2015 à 16:18
Signaler
j'ai maintes fois cité des passages du livre "malaise dans l'inculture" de Philipe VAL, co refondateur de charlie, plusieurs fois censuré !!!!! il y a comme un bug, mais il est vrai qu'il est critique sur la gauche archaïque et ses errements idéolo...

à écrit le 24/11/2015 à 13:59
Signaler
Article intéressant sur la censure semi-automatisée. L'analyse textuelle automatique et analyse des formes a fait des progrès surprenants. Je note que la censure en est restée à la recherche de mots clé. C'est grave. Tout commentaire qui sortirait de...

le 24/11/2015 à 19:17
Signaler
Il est expliqué dans l'article que les commentaires font l'objet d'un premier tri automatisé. Le résultat de ce premier tri est ensuite vérifié par des personnes physiques. Je comprends la volonté des sites de vouloir supprimer la véhémence et la hai...

à écrit le 24/11/2015 à 13:27
Signaler
La Liberté d'expression "modulée" par une entreprise privée? On en est où de l'état de droit, là?

le 24/11/2015 à 19:10
Signaler
Votre liberté d'expression n'est modulée que parce que vous vous exprimez sur le site d'entreprises qui ont tout loisir de la gérer à leur guise. Mais votre Liberté d'expression, avec un grand L, d'un point de vue juridique n'est pas entravée: rien n...

à écrit le 24/11/2015 à 13:16
Signaler
L'avachissement des gens au prétexte plus qu'au motif d'une modération de bien pensants déclarés atteint effectivement un pic stupéfiant quand on critique un soit disant amalgame de faits avérés cités telle la simple affirmation < ce n'est pas étonn...

à écrit le 24/11/2015 à 12:46
Signaler
Il s'agit d'une société de censure orientée. Il est bien dommage que les journaux aient décidé de confier ce poste à une entreprise extérieure qui plus est généraliste. Ici joue la pression de l'erreur : si l'on accepte une censure extérieure calibré...

à écrit le 24/11/2015 à 12:13
Signaler
Après 130 morts causé par des fanatiques islamistes, il n'y a eu quasiment aucun fait de violence causé à un musulman. Alors parler d'un pic de haine , c'est encore rabaisser les français qui savent très bien faire la part des choses.

à écrit le 24/11/2015 à 11:55
Signaler
C'st scandaleux cette censure car ils censurent ceux qui disent la vérité mais qui ne correspond pas à l'idéologie gauchisante pitoyable En Janvier et en Novembre on voit bien de quel coté et la haine Faire l'autruche n'entraine que le chaos

à écrit le 24/11/2015 à 11:14
Signaler
Quand on voit comment sont traités les commentaires postés sur les sites d'information on ne peut qu'être dubitatif sur le qualificatif "haineux" qui est très subjectif. Il est d'ailleurs assez étonnant de voir que ces sociétés stockent des informati...

à écrit le 24/11/2015 à 10:52
Signaler
Il faudrait changer la devise de la République La Liberté même sur internet en a plus Égalité certains sont plus égaux que d'autres Les fraternités c'est quand ça les arrange

à écrit le 24/11/2015 à 10:21
Signaler
Internet est surtout le grand défouloir de frustrés qui pianotent sur leurs claviers cachés derrière un pseudo., le comptoir du café du coin en mieux . Curieux qu'il n'y ait aucune étude sur le ou les profils des commentateurs d'autant que la haine...

le 24/11/2015 à 11:38
Signaler
Je suis d'accord avec vous. J'ai souvent critique les Médias, tant sur le "French bashing" que sur l'outrance polémique des titres ,et cela reste trop vrai... Hier soir, 20:45 sur Antenne 2 ,par exemple, un commentaire a l'indécence choquante en cett...

à écrit le 24/11/2015 à 8:44
Signaler
Personnellement je n'y crois pas, on est surtout censuré quand on critique la mauvaise foi de certain médias et sur le dogmatisme dans la construction de l'UE! Mais la "haine" c'est la réponse a des articles qui recherchent la polémique!

le 24/11/2015 à 10:53
Signaler
Bien dit !!

le 24/11/2015 à 11:11
Signaler
Les forums ne sont pas des lieux de débats où chacun pourrait argumenter ,non juste un dialogue de sourds fait d'à priori négatifs , rien de constructif, d'instructif .

Votre email ne sera pas affiché publiquement.
Tous les champs sont obligatoires.

-

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.