Google veut avoir son mot à dire sur la modération des commentaires. L'entreprise américaine a présenté jeudi son nouvel outil, Perspective, par le biais de son incubateur Jigsaw. Il s'est donné pour objectif de pacifier les fils de commentaires sur Internet, notamment pour les médias, en détectant les commentaires injurieux.
"Les médias veulent encourager l'engagement et la discussion sur leurs contenus, mais ils trouvent que la modération de millions de commentaires pour repérer ceux qui sont abusifs prend beaucoup d'argent, de travail et de temps. Conséquence : de nombreux sites ont fermé les commentaires", regrette dans un post de sur Medium Jared Cohen, président de Jigsaw.
Cet outil repose sur du "machine learning" (auto-apprentissage des machines en continu) - une technologie d'intelligence artificielle. Il évalue le "degré de toxicité" d'un commentaire, sur une échelle de 0 à 100, explique Jigsaw sur son site. L'organisation définit un commentaire nuisible comme "grossier, irrespectueux ou déraisonnable, qui risque de vous faire quitter une discussion". Ce programme est mis gratuitement à la disposition de tous les développeurs en open source.
Pour développer Perspective, la filiale de Google a analysé des millions de commentaires pour se constituer une base de données et repérer les problèmes récurrents. Une collaboration vient d'être instaurée avec The Guardian et The Economist. Jisaw a lancé un partenariat avec le New York Times dès septembre 2016, ainsi qu'avec Wikipedia. "Les commentaires du Times sont gérés par une équipe de 14 modérateurs, qui examinent approximativement 11.000 commentaires par jour", détaille le communiqué de presse de l'époque. Les équipes de Google ont noté la façon dont les commentaires haineux étaient traités par les modérateurs. Les messages étaient également soumis à un panel de dix personnes venant de milieux diverses, précise Wired, pour évaluer leur "degré de toxicité".
"Ce qui est fait avec ce chiffre [de toxicité] est l'affaire des éditeurs", affirme au New York Magazine Jared Cohen, président de Jigsaw. Si elle définit l'échelle de "toxicité", l'organisation dit laisser la main aux sites pour la modération. Plusieurs options sont avancées comme celle de transmettre à des modérateurs humains les commentaires étiquetés injurieux ou demander aux internautes de classer les commentaires selon leur "toxicité". Enfin, l'outil pourrait envoyer un avertissement à l'internaute avant même que ce dernier publie son commentaire. Si cette possibilité peut paraître peu dissuasive, Jared Cohen cite à BBC des études affirmant que de nombreux commentaires haineux sont postés par des gens ayant eu une mauvaise journée. Ces derniers se lâchent alors en ligne.
Chaque jour à 13h, l’essentiel de l’actualité tech.
À lire également
Ce programme présente des failles, reconnaît auprès de Reuters Jared Cohen, président de Jigsaw. Par exemple, il n'est pas en mesure de détecter le sarcasme cher aux trolls. Selon Jared Cohen, l'outil s'améliorera au cours de son utilisation - les nouveaux commentaires analysés rejoignant la base de données, la précision de l'outil devrait s'affiner. Perspective est uniquement disponible en anglais, mais l'outil devrait se développer dans d'autres langues prochainement.
| LIRE AUSSI : Twitter accentue sa lutte anti-trolls
Un incident majeur toutes les deux heures : les risques cyber explosent dans la finance européenne
448 TWh d'électricité par an, 4.500 milliards de litres d’eau : les coûts cachés de la révolution de l’IA
Meta recule sur son outil de surveillance des salariés pour entraîner son IA
Bruxelles dévoile son grand plan pour la souveraineté technologique, avec des instruments encore timides
