Instagram met l'intelligence artificielle (IA) au service de la lutte contre le harcèlement sur sa plate-forme. En effet, c'est l'une des nouvelles fonctionnalités destinées à combattre ce fléau qu'Adrian Mosseri, patron de l'application de partage de photos, détenue par Facebook, a annoncé mardi 9 octobre dans un communiqué de presse. Dans un message adressé aux utilisateurs d'Instagram, le chef d'entreprise a expliqué que la mise en application de l'IA sur Instagram devait notamment permettre de scanner, identifier et signaler automatiquement tout élément de harcèlement.
Le contenu sera ensuite examiné par une équipe chargée des opérations du réseau social. "Cette évolution va nous aider à identifier et à retirer un nombre bien supérieur de (publications constituant) du harcèlement", assure le dirigeant. "C'est une étape supplémentaire fondamentale puisque de nombreuses personnes victimes ou qui assistent à du harcèlement ne le signalent pas".
Un filtre "gentillesse"
Autre changement majeur : l'utilisation de la technologie de reconnaissance de texte déjà en, place sur Facebook dont le but est de détecter les messages haineux dans les photos lorsqu'ils figurent sur des panneaux pris en photo ou que du texte a été ajouté à une image. Par ailleurs, les messages violents sous forme d'image seront désormais filtrés comme le sont déjà les commentaires. Le même type d'épuration sera également appliqué aux commentaires lors des diffusions de vidéos en direct. Ces commentaires seront masqués par défaut.
Autrement, un filtre permettant aux utilisateurs d'Instagram de repérer et de cacher des commentaires considérés comme du harcèlement a été étendu aux remarques sur les vidéos diffusées en direct, a ajouté M. Mosseri. Enfin, un nouveau filtre pour images baptisé "gentillesse" sera mit en place. Il inclut une série de "messages gentils" prédéfinis que les utilisateurs peuvent ajouter à leur photo. L'ensemble de ces mesures ne seront pas directement visibles par les utilisateurs : les menus et les options d'Instagram ne changent pas mais la technologie qui filtre automatiquement les messages agressifs évolue. La mise en oeuvre devrait être progressive au cours des prochaines semaines sur l'ensemble du réseau social.
(Avec AFP)