L'assassinat du professeur d'histoire Samuel Paty le 16 octobre dernier a relancé le débat autour de la diffusion des messages haineux sur les réseaux sociaux. "Leurs contre-mesures ne sont pas assez efficaces", fustige Baptiste Robert.
Ce hacker toulousain, est plus connu sur Twitter sous le pseudo Elliot Alderson où il réunit plus de 226 000 abonnés et via lequel il a révélé des failles de sécurité majeures sur des applications aux États-Unis, en Inde et en France. S'appuyant sur cette expertise, Baptiste Robert a fondé cet été sa propre société baptisée Predicta Lab pour "écouter les signaux faibles sur les réseaux sociaux" afin de lutter contre les fake news et la haine en ligne.
"Lorsque un événement survient, il y a toujours quelqu'un qui sort son smartphone pour filmer la scène et la partager sur Twitter ou Facebook. L'idée est de capter ce premier signal pour alerter nos clients. Pour y parvenir, j'ai développé des connecteurs sur les réseaux sociaux qui récupèrent de la donnée en fonction de mots-clés prédéfinis. Et ces données sont passées dans un filtre qui est mon modèle de machine learning.Je pensais que ce serait compliqué techniquement mais en réalité j'ai obtenu des résultats très vite avec des gens qui se donnent leur adresse pour aller se battre, un compte d'élève clamant 'avoir trop envie d'égorger son connard de prof sur Twitter', des utilisateurs qui créent des bots pour aller insulter d'autres personnes toutes les 15 minutes, etc. Ce type d'agissements est puni par la loi."
Avec Predicta Lab, Baptiste Robert cible trois types de clients. En premier lieu, les gouvernements en leur donnant des alertes sur ces sujets de haine en ligne, de désinformation et de terrorisme mais aussi sur la détection de catastrophes naturelles. Le deuxième type de clients visé sont les marques pour gérer leur réputation en ligne et adapter leur communication en fonction de ce qui se dit sur les réseaux sociaux. La troisième cible, ce sont les rédactions de médias pour leur livrer des alertes sur de potentielles actualités.