Pourquoi Facebook met son outil de reconnaissance faciale au placard

En plein scandale autour des "Facebook Files", Meta, nouveau nom de Facebook, a décidé d'arrêter son utilisation de la reconnaissance faciale. L'entreprise ne commercialisait pas cette technologie controversée, mais son outil attirait tout de même les inquiétudes des ONG et des régulateurs. Désormais, elle va se concentrer sur le développement de cas d'usage plus précis et mieux encadrés.
François Manens

5 mn

(Crédits : Reuters)

Petit séisme dans l'univers de la tech. Meta, le nouveau nom de l'entreprise de Mark Zuckerberg, a annoncé le 2 novembre l'arrêt du système de reconnaissance faciale de Facebook. Pour Jerome Pesenti, le vice-président chargé de l'intelligence artificielle et auteur de l'annonce, c'est même "un des plus grand virage" de l'histoire de la reconnaissance faciale.

De façon plus modérée, le retrait d'un Gafam sur le sujet est vécu comme une nouvelle victoire pour les ONG - comme l'Electronic Frontier Fondation - qui alertent sur les dérives de cette technologie. Pour l'instant, les régulateurs, américains comme français, n'ont pas finalisé l'encadrement de la reconnaissance faciale. Elle apparaît encore comme un far west numérique, entre biais algorithmiques et usages malveillants.

Jusqu'ici, un milliard d'utilisateurs de Facebook autorisaient l'utilisation de l'outil de reconnaissance faciale introduit en décembre 2011 pour être reconnus automatiquement sur les photos et vidéos publiées sur la plateforme. L'intérêt ? Permettre à leurs amis de plus facilement les identifier sur les photos, ou encore être avertis lorsqu'une personne publie une photo d'eux.

Pas de revenus sur la reconnaissance faciale

Contrairement à d'autres géants de la tech - Microsoft, Amazon, IBM - qui ont arrêté leurs outils de reconnaissance faciale avant lui, Facebook n'a jamais commercialisé sa technologie à un parti tiers. Elle ne venait qu'apporter des fonctionnalités supplémentaires à un de ses produits. Pour rappel, 96% des revenus de Meta  proviennent de la publicité, et donc indirectement du temps passé par ses utilisateurs sur Facebook, Instagram et WhatsApp. Si l'entreprise peut remiser la reconnaissance faciale au placard, c'est entre autres parce qu'elle ne lui rapporte pas directement de revenus et qu'elle n'est pas essentielle au fonctionnement de Facebook.

Concrètement, Facebook va supprimer les "modèles" des utilisateurs, des sortes de formule mathématiques qui résument les propriétés du visage comme l'écartement des yeux, la forme du menton ou l'épaisseur des lèvres... En théorie, DeepFace, l'outil de Facebook, crée un modèle unique pour chaque utilisateur, de sorte à ne jamais confondre deux personnes. Mais en pratique, plusieurs outils du même genre n'ont pas réussi à atteindre ce fonctionnement idéal. Dans le cas du réseau social, identifier la mauvaise personne sur une photo aurait des conséquences négligeables, sauf que des technologies similaires sont utilisées dans des affaires policières, avec pour conséquences de fausses accusations.

Un sujet de tension en moins

L'outil de reconnaissance faciale de Facebook était donc critiqué plus par son existence, qui pouvait ouvrir la porte à des dérives futures, que par son utilisation prévue. Il était même cité -de façon connexe- comme une inquiétude dans une enquête de la Federal Trade Commission, le régulateur américain, qui a mené au paiement d'une amende de 5 milliards de dollars en 2020.

Mais le vrai problème, c'est que la confiance accordée à Facebook se trouve aujourd'hui au plus bas, et que l'entreprise n'est pas dans une position où elle peut simplement avancer ses bonnes intentions sur la reconnaissance faciale sans attendre de critiques en retour.

Le groupe se confronte à un scandale sans précédent suite à une fuite de documents organisée par Frances Haugen, une de ses anciennes cadres, qui veut lancer l'alerte sur les dérives du groupe. Nommée "Facebook Files", l'affaire expose l'incapacité du réseau social à modérer les contenus, ou encore son rôle dans la montée des extrémismes. Aussi, l'entreprise a des problématiques à gérer plus urgemment que la reconnaissance faciale.

Facebook n'abandonne pas la reconnaissance faciale

Si Facebook va désactiver la fonctionnalité et supprimer un milliard de modèle, il conserve tout de même DeepFace, l'algorithme avancé qui orchestrait le tout, d'après le New York Times. Et pour cause : ce retrait technologique n'est que temporaire, et le groupe pourrait se repositionner sur des cas d'usages moins risqués.

"Nous devons évaluer le poids des cas d'usages positifs de la reconnaissance faciale par rapport aux inquiétudes sociétales grandissantes, d'autant plus que les régulateurs n'ont pas encore fourni des règles claires", écrit Jerome Pesenti, vice-président chargé de l'intelligence artificielle chez Facebook.

Meta voit encore dans la reconnaissance faciale un "outil puissant" qui pourrait être utilisé pour vérifier l'identité d'un utilisateur ou lutter contre la fraude, des cas d'usages déjà existants. "Nous croyons qu'une utilisation de la reconnaissance faciale limitée à un nombre réduit de cas d'étude est approprié", déclare-t-il.

Avec le sujet de la reconnaissance faciale mise de côté pour un temps, Meta va pouvoir se concentrer sur les accusations autour des "Facebook Files", et sur son virage technologique vers la réalité virtuelle sous le nom de métavers.

Lire aussi 3 mnFacebook : le groupe va s'appeler Meta

François Manens

5 mn

En direct I Forum agri innovation de Bordeaux

Sujets les + lus

|

Sujets les + commentés

Commentaires 5
à écrit le 04/11/2021 à 8:11
Signaler
La technologie doit être aboutie pour être mise sur le marché sinon c'est le drame assuré. La Californie sachant que celle-ci est défectueuse l'a interdite tandis que notre gouvernement lui l'a validé. C'est comme les bagnoles autonomes ils se sont t...

à écrit le 04/11/2021 à 1:53
Signaler
tout simplement FB a mis un fric de dingue dans un outil qui ne fonctionne pas. Quand la police a testé la reconnaissance sur les photos des membres du congrès, le système leur a prétendu qu'une bonne douzaine d'entre eux étaient des criminels recher...

à écrit le 03/11/2021 à 22:29
Signaler
Un milliard d'inconscients...une folie.

à écrit le 03/11/2021 à 18:44
Signaler
la reconnaissance faciale passe par cnn actuellement ( plus ou moins evolues; des convolutional neural networks, vision lecun des ann); a titre perso je trouve que ca marche correct chez fb pour des raisons qu'on connait, c'est inefficaces dans bcp d...

le 03/11/2021 à 20:18
Signaler
Il vaudrait mieux que face de bouc s'interesse à la reconnaissance de la valeur faciale du Dollar...

Votre email ne sera pas affiché publiquement.
Tous les champs sont obligatoires.

-

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.