Petit séisme dans l'univers de la tech. Meta, le nouveau nom de l'entreprise de Mark Zuckerberg, a annoncé le 2 novembre l'arrêt du système de reconnaissance faciale de Facebook. Pour Jerome Pesenti, le vice-président chargé de l'intelligence artificielle et auteur de l'annonce, c'est même "un des plus grand virage" de l'histoire de la reconnaissance faciale.
De façon plus modérée, le retrait d'un Gafam sur le sujet est vécu comme une nouvelle victoire pour les ONG - comme l'Electronic Frontier Fondation - qui alertent sur les dérives de cette technologie. Pour l'instant, les régulateurs, américains comme français, n'ont pas finalisé l'encadrement de la reconnaissance faciale. Elle apparaît encore comme un far west numérique, entre biais algorithmiques et usages malveillants.
Jusqu'ici, un milliard d'utilisateurs de Facebook autorisaient l'utilisation de l'outil de reconnaissance faciale introduit en décembre 2011 pour être reconnus automatiquement sur les photos et vidéos publiées sur la plateforme. L'intérêt ? Permettre à leurs amis de plus facilement les identifier sur les photos, ou encore être avertis lorsqu'une personne publie une photo d'eux.
Pas de revenus sur la reconnaissance faciale
Contrairement à d'autres géants de la tech - Microsoft, Amazon, IBM - qui ont arrêté leurs outils de reconnaissance faciale avant lui, Facebook n'a jamais commercialisé sa technologie à un parti tiers. Elle ne venait qu'apporter des fonctionnalités supplémentaires à un de ses produits. Pour rappel, 96% des revenus de Meta proviennent de la publicité, et donc indirectement du temps passé par ses utilisateurs sur Facebook, Instagram et WhatsApp. Si l'entreprise peut remiser la reconnaissance faciale au placard, c'est entre autres parce qu'elle ne lui rapporte pas directement de revenus et qu'elle n'est pas essentielle au fonctionnement de Facebook.
Concrètement, Facebook va supprimer les "modèles" des utilisateurs, des sortes de formule mathématiques qui résument les propriétés du visage comme l'écartement des yeux, la forme du menton ou l'épaisseur des lèvres... En théorie, DeepFace, l'outil de Facebook, crée un modèle unique pour chaque utilisateur, de sorte à ne jamais confondre deux personnes. Mais en pratique, plusieurs outils du même genre n'ont pas réussi à atteindre ce fonctionnement idéal. Dans le cas du réseau social, identifier la mauvaise personne sur une photo aurait des conséquences négligeables, sauf que des technologies similaires sont utilisées dans des affaires policières, avec pour conséquences de fausses accusations.
Un sujet de tension en moins
L'outil de reconnaissance faciale de Facebook était donc critiqué plus par son existence, qui pouvait ouvrir la porte à des dérives futures, que par son utilisation prévue. Il était même cité -de façon connexe- comme une inquiétude dans une enquête de la Federal Trade Commission, le régulateur américain, qui a mené au paiement d'une amende de 5 milliards de dollars en 2020.
Mais le vrai problème, c'est que la confiance accordée à Facebook se trouve aujourd'hui au plus bas, et que l'entreprise n'est pas dans une position où elle peut simplement avancer ses bonnes intentions sur la reconnaissance faciale sans attendre de critiques en retour.
Le groupe se confronte à un scandale sans précédent suite à une fuite de documents organisée par Frances Haugen, une de ses anciennes cadres, qui veut lancer l'alerte sur les dérives du groupe. Nommée "Facebook Files", l'affaire expose l'incapacité du réseau social à modérer les contenus, ou encore son rôle dans la montée des extrémismes. Aussi, l'entreprise a des problématiques à gérer plus urgemment que la reconnaissance faciale.
Facebook n'abandonne pas la reconnaissance faciale
Si Facebook va désactiver la fonctionnalité et supprimer un milliard de modèle, il conserve tout de même DeepFace, l'algorithme avancé qui orchestrait le tout, d'après le New York Times. Et pour cause : ce retrait technologique n'est que temporaire, et le groupe pourrait se repositionner sur des cas d'usages moins risqués.
"Nous devons évaluer le poids des cas d'usages positifs de la reconnaissance faciale par rapport aux inquiétudes sociétales grandissantes, d'autant plus que les régulateurs n'ont pas encore fourni des règles claires", écrit Jerome Pesenti, vice-président chargé de l'intelligence artificielle chez Facebook.
Meta voit encore dans la reconnaissance faciale un "outil puissant" qui pourrait être utilisé pour vérifier l'identité d'un utilisateur ou lutter contre la fraude, des cas d'usages déjà existants. "Nous croyons qu'une utilisation de la reconnaissance faciale limitée à un nombre réduit de cas d'étude est approprié", déclare-t-il.
Avec le sujet de la reconnaissance faciale mise de côté pour un temps, Meta va pouvoir se concentrer sur les accusations autour des "Facebook Files", et sur son virage technologique vers la réalité virtuelle sous le nom de métavers.
Les « dark stores » sont bien des entrepôts, le Conseil d'Etat donne raison au gouvernement
Sujets les + commentés