Le gendarme français de la protection des données appelle depuis septembre 2018 à la tenue "d'urgence" d'un débat démocratique pour instituer des "garde-fous" et trouver un "juste équilibre entre les impératifs de sécurisation, notamment des espaces...
DR
Alors que la reconnaissance faciale, couplée à la vidéosurveillance de masse, se généralise en Chine et se déploie en Russie, les réticences sur cette technologie d'intelligence artificielle se font de plus en plus entendre. Après la Cnil française, qui a mis en garde dans une note contre les "risques d'atteintes aux libertés individuelles" et les difficultés liées à la protection des données personnelles, le gouvernement américain lui-même exprime ses réticences, en se penchant sur la question des biais qui induisent des erreurs.
D'après une étude du National Institute of Standards and Technology (NIST), un centre affilié au gouvernement, les systèmes de reconnaissance faciale utilisés aux Etats-Unis sont loin d'être toujours fiables. Et surtout lorsqu'il s'agit de reconnaître des personnes non blanches. Ainsi, sur la base de l'analyse de plusieurs dizaines d'algorithmes, les personnes asiatiques ou noires ont 100 fois plus de risque d'être identifiées à tort que les personnes blanches. Les chercheurs ont également repéré que deux algorithmes attribuent le mauvais sexe à des femmes noires dans 35% des cas...
L'étude souligne qu'une partie des biais pourraient être corrigés si les bases de données utilisées pour la reconnaissance facile étaient plus diverses. Ainsi, les algorithmes développés aux Etats-Unis présentent des taux d'erreur plus élevés pour les Asiatiques, les Afro-Américains et les Amérindiens, d'après l'étude, tandis que d'autres conçus dans des pays asiatiques parviennent à identifier aussi bien les visages asiatiques que blancs. "C'est encourageant car cela montre que l'utilisation d'une base de données plus diverse permet d'arriver à de meilleurs résultats", a déclaré Patrick Grother, le directeur de recherche.
Mais pour l'ONG American Civil Liberties Union (ACLU), cette étude prouve avant tout que la technologie n'est pas au point, ne devrait pas être installée et menace les libertés individuelles.
Aux Etats-Unis, l
a reconnaissance faciale est déjà largement utilisée par les autorités, les forces de l'ordre, les aéroports, les banques, les commerces et les écoles. Elle sert aussi à déverrouiller certains smartphones.Le fait que le NIST, affilié au gouvernement américain, joigne sa voix au cortège des nombreuses études dénonçant les risques de la reconnaissance faciale, laisse présager une réponse politique et législative en 2020. La littérature commence à devenir abondante, notamment depuis l'étude publiée par le Masachussets Iinstitute of Technology (MIT) et l'Université de Stanford en 2018, qui a démontré les biais concernant les femmes et les personnes issues des minorités ethniques. Si bien que plusieurs villes américaines - dont San Francisco - ont interdit l'usage de la reconnaissance faciale par la police et les services municipaux au cours des derniers mois.
Chaque jour à 13h, l’essentiel de l’actualité tech.
portiques et aux guichets des
aéroports à Paris, dans des lycées à Marseille et à Nice... L'Etat a même lancé Alicem, la première solution d'identité numérique régalienne. Il s'agit d'une application pour smartphone développée par le ministère de l'Intérieur et l'Agence nationale des titres sécurisés (ANTS) qui permet à tout particulier de prouver son identité sur Internet.
entre les impératifs de sécurisation, notamment des espaces publics, et la préservation des droits et libertés de chacun."
À lire également
De son côté, le Forum économique mondial et le Conseil national du numérique ont lancé un projet de co-construction d'une régulation de la reconnaissance faciale. Des députés, à commencer par Paula Forteza (LREM), Chritine Hennion (LREM) se saisissent du sujet et veulent mieux encadrer les usages permis et les données utilisées par les logiciels. La députée Marine Brenier (LR) a même déposé en octobre le tout premier texte de loi relatif à la reconnaissance faciale dans les enquêtes terroristes et la prévention des attentats.
