Les tweets mesquins n'auront bientôt plus à craindre la modération automatisée. C'est en tout cas ce qu'affirme une équipe de chercheurs du Massachusetts Institute of Technology (MIT), qui a développé un algorithme pouvant mieux analyser que les humains la véritable émotion qui se cache derrière les tweets.

Après avoir conçu un algorithme pour repérer les messages à caractère raciste ou discriminatoire, les universitaires se sont rapidement rendus compte que nombre d'entre eux ne pouvaient pas être parfaitement étudiés sans une certaine compréhension du sarcasme des utilisateurs. L'appréhension des émotions humaines par une intelligence artificielle reste toutefois un problème majeur pour les scientifiques qui s'intéressent à la question. Pourtant, d'après eux, la solution se trouvait juste sous leurs yeux : les emojis, ces petits pictogrammes représentant une émotion, un sentiment, ou un objet de la vie courante, allaient leur faciliter la tâche.

Les emojis révélateurs de sarcasmes

Baptisé DeepMoji, l'algorithme utilise une méthode d'apprentissage mécanique ("deep learning") qui s'appuie sur un réseau de "neurones artificiels"  -système qui s'inspire du fonctionnement des neurones biologiques. A partir d'une très grande quantité de données, ce large réseau reconnaît ainsi les "types" d'émotions qui se ressemblent, même les plus subtils. S'aidant d'un système "d'étiquetage émotionnel" basé sur les emojis, les chercheurs ont appris à l'algorithme à lire les émotions, jusqu'à ce que celui-ci soit capable de discerner le sarcasme. Pas moins de 1,2 milliard de tweets - ils ont été sélectionnés parmi plus de 55 milliards - contenant 64 combinaisons d'emojis populaires auront été nécessaires à cet aboutissement. Résultat: l'algorithme est parvenu dans 82% des cas à identifier le sarcasme correctement, contre seulement 76% pour l'homme.

Les créateurs de cet algorithme ont ouvert un site web qui illustre leur découverte, et qui permet à tous de l'utiliser. Il est également possible pour les utilisateurs de contribuer à la recherche en annotant ses propres tweets avec des émotions.

Demain, l'algorithme des universitaires américains pourrait permettre de mieux cibler les messages violents et insultants, et par conséquent aider considérablement la modération des contenus numériques.