Reconnaissance faciale : vers un nouveau cadre légal en 2020 ?

 |   |  881  mots
Le gendarme français de la protection des données appelle depuis septembre 2018 à la tenue d'urgence d'un débat démocratique pour instituer des garde-fous et trouver un juste équilibre entre les impératifs de sécurisation, notamment des espaces publics, et la préservation des droits et libertés de chacun.
Le gendarme français de la protection des données appelle depuis septembre 2018 à la tenue "d'urgence" d'un débat démocratique pour instituer des "garde-fous" et trouver un "juste équilibre entre les impératifs de sécurisation, notamment des espaces publics, et la préservation des droits et libertés de chacun." (Crédits : DR)
Après la société civile, le gouvernement américain lui-même met en lumière les biais raciaux et les erreurs commises par les logiciels de reconnaissance faciale, jetant un doute sur la pertinence d'un déploiement à grande échelle de ces solutions. Le débat bout aussi en France, dans l'attente d'une réponse politique et législative.

Alors que la reconnaissance faciale, couplée à la vidéosurveillance de masse, se généralise en Chine et se déploie en Russie, les réticences sur cette technologie d'intelligence artificielle se font de plus en plus entendre. Après la Cnil française, qui a mis en garde dans une note contre les "risques d'atteintes aux libertés individuelles" et les difficultés liées à la protection des données personnelles, le gouvernement américain lui-même exprime ses réticences, en se penchant sur la question des biais qui induisent des erreurs.

Lire aussi : Reconnaissance faciale : la France bascule-t-elle sur un terrain glissant ?

Des bases de données pas assez diverses menant à des erreurs potentiellement dangereuses

D'après une étude du National Institute of Standards and Technology (NIST), un centre affilié au gouvernement, les systèmes de reconnaissance faciale utilisés aux Etats-Unis sont loin d'être toujours fiables. Et surtout lorsqu'il s'agit de reconnaître des personnes non blanches. Ainsi, sur la base de l'analyse de plusieurs dizaines d'algorithmes, les personnes asiatiques ou noires ont 100 fois plus de risque d'être identifiées à tort que les personnes blanches. Les chercheurs ont également repéré que deux algorithmes attribuent le mauvais sexe à des femmes noires dans 35% des cas...

L'étude souligne qu'une partie des biais pourraient être corrigés si les bases de données utilisées pour la reconnaissance facile étaient plus diverses. Ainsi, les algorithmes développés aux Etats-Unis présentent des taux d'erreur plus élevés pour les Asiatiques, les Afro-Américains et les Amérindiens, d'après l'étude, tandis que d'autres conçus dans des pays asiatiques parviennent à identifier aussi bien les visages asiatiques que blancs. "C'est encourageant car cela montre que l'utilisation d'une base de données plus diverse permet d'arriver à de meilleurs résultats", a déclaré Patrick Grother, le directeur de recherche.

Mais pour l'ONG American Civil Liberties Union (ACLU), cette étude prouve avant tout que la technologie n'est pas au point,  ne devrait pas être installée et menace les libertés individuelles.

"Même les scientifiques du gouvernement confirment que cette technologie de surveillance est défectueuse et biaisée", a réagi Jay Stanley, un analyste de ACLU. "Une mauvaise identification peut faire rater un vol, entraîner des interrogations sans fin, un placement sur des listes de personnes à surveiller, des tensions avec des agents de police, des arrestations sans fondement ou pire".

Lire aussi : Reconnaissance faciale : le jeu astucieux des Gafa

Vers un nouveau cadre légal en 2020 en France ?

Aux Etats-Unis, la reconnaissance faciale est déjà largement utilisée par les autorités, les forces de l'ordre, les aéroports, les banques, les commerces et les écoles. Elle sert aussi à déverrouiller certains smartphones.

Le fait que le NIST, affilié au gouvernement américain, joigne sa voix au cortège des nombreuses études dénonçant les risques de la reconnaissance faciale, laisse présager une réponse politique et législative en 2020. La littérature commence à devenir abondante, notamment depuis l'étude publiée par le Masachussets Iinstitute of Technology (MIT) et l'Université de Stanford en 2018, qui a démontré les biais concernant les femmes et les personnes issues des minorités ethniques. Si bien que plusieurs villes américaines - dont San Francisco - ont interdit l'usage de la reconnaissance faciale par la police et les services municipaux au cours des derniers mois.

En France, les expérimentations autour de la reconnaissance faciale se multiplient. Des dispositifs ont été mis en place aux portiques et aux guichets des aéroports à Paris, dans des lycées à Marseille et à Nice... L'Etat a même lancé Alicem, la première solution d'identité numérique régalienne. Il s'agit d'une application pour smartphone développée par le ministère de l'Intérieur et l'Agence nationale des titres sécurisés (ANTS) qui permet à tout particulier de prouver son identité sur Internet.

Des associations comme La Quadrature du Net, qui défend les libertés des internautes, et surtout, des organismes comme le Conseil national du numérique, la Cnil (Commission nationale de l'informatique et des libertés) et même des industriels comme Thales ou Safran, montent au créneau pour réclamer un cadre légal adapté aux enjeux de la reconnaissance faciale. Le gendarme français de la protection des données appelle depuis septembre 2018 à la tenue "d'urgence" d'un débat démocratique pour instituer des "garde-fous" et trouver un "juste équilibre entre les impératifs de sécurisation, notamment des espaces publics, et la préservation des droits et libertés de chacun."

De son côté, le Forum économique mondial et le Conseil national du numérique ont lancé un projet de co-construction d'une régulation de la reconnaissance faciale. Des députés, à commencer par Paula Forteza (LREM), Chritine Hennion (LREM) se saisissent du sujet et veulent mieux encadrer les usages permis et les données utilisées par les logiciels. La députée Marine Brenier (LR) a même déposé en octobre le tout premier texte de loi relatif à la reconnaissance faciale dans les enquêtes terroristes et la prévention des attentats.

Lire aussi : Etats-Unis : les villes s'attaquent à la régulation de la reconnaissance faciale

Réagir

Votre email ne sera pas affiché publiquement
Tous les champs sont obligatoires

Commentaires
a écrit le 01/01/2020 à 19:05 :
Le débat est inutile car le nerf de la guerre est l’argent ,cette technologie va passer car des haleurs chinois ont réussi à démanteler la sécurité à 2 chiffres , reste plus que la reconnaissance faciale ... avec les abus qui attendent les populations...
C’était bien la vie sans tout ça dans les années 1980 , c’est vrai que certains n’ont pas connu ça ...
a écrit le 22/12/2019 à 11:39 :
Aux USA Google avait son projet de reconnaissance faciale, qu'il avait pratiquement vendu aux services de police.

Et puis ils ont réalisé un petit test sur les membres du congrés.... 15 ont été formellement identifiés par le système comme des criminels recherchés.

Forcément ça calme. Sans trahir aucun secret les cabines anthropométriques de Roissy sont des passoires. Il a été prouvé que des individus de corpulence proche passaient très bien avec le même passeport, alors que parfois un individu était bloqué malgré un passeport en règle.

Généraliser la biométrie est une impasse pour ce qui est des infractions les plus graves. Ça servira surtout à coincer les voleurs de pomme et les petits délinquants, pour un prix délirant et un risque majeur pour la liberté des gens respectueux de la loi (soit 95% de la population).

Pratiquement tous les pirates de l'air du 11 septembre étaient connus des services US, et ils sont montés à bord des avions sans problème sous leur identité réelle.
Inversement très peu des tueurs du bataclan et des autres attentats étaient connus des services, et avoir leur trombine n'aurait rien changé.
a écrit le 21/12/2019 à 18:44 :
alors si l'on a les traits d'un sud américain en mode arabe pour certains, voir libanais, avec des traits de ceux qui ne me reconnaissent pas ou comme le disait de vieux a buenos aires, oh un blanc pas tout a fait blanc, la ou je suis noir comme tel Avec une partie du corps germaine et une autre africaine? c'est une vaste question, celle de l'altérité du coup....

ça fait bien longtemps que je suis en rupture d'altérité, sauf que tout cela sera un tiers....

Je vous regarderai en me marrant !

Puis pour authentifier, le sang? l'adn?

la machine donne a ses mandats serviteur de l'incontinence étique le choix qu'il est que les données existent avec ou sans consentement dès l'utilisation d'internet.

J'avais oublié les empreintes, mais je pense qu'il sera possible de pouvoir les changer, et lorsque l'on sera dans la machine. Le lien d'interopérabilité, du fait même que celui ci s'est fait pour kadafi, n'est ce pas messieurs a permit une certaine efficacité répréssionnaire!

Car au fait de la robotisation la virtualisation, cela veut dire aussi ce que nous voyons actuellement comme réalités données. Et l'ordinateur quantique! l'oseille fera la belle aux données y compris pour décider de ce que nous sommes.

J'ai testé l'appatridie pour tous avant, bon que dire si ce n'est que nous sommes l'un des pays qui a développé des systèmes de cette nature, alors pensons juste qu'il est un fait du lien qu'il pourra être fait entre les écrits et les personnes. C'est plus efficace que de s'affronter a la populass mais de savoir qui.

Ce qui est rigolo en même temps, c'est que la police française souhaite interdire de filmer des policiers masqués, sans rio....

Donc il n'est pas difficile de comprendre ce que sera le couplage d'autres technologies pour venir apporter l'expérience chinoise, pour ceux qui , classe laborieuse classe dangereuse se verra dans le rapport que nous constatons et constaterons.

Car il semble une évidence, c'est l'accès pour ceux qui disposent des clefs donc de l'argent permettant de payer, c'est déjà le cas sur le net.

Seul ceux disposant d'espace pourra ne pas se voir forcer de s'identifier a tout les moments.

Actuellement en ce qui se passe en France, si un ministre ne respecte plus la constitution, que le consensus semble extrêmement inexistant, disons qu'après les retraites pour les aussurances, l'état reprendra la main de ce que l'on appel la vie privée.

L'état français étant éducateur, c'est le rêve absolu !
Réponse de le 22/12/2019 à 10:15 :
Quel monde merveilleux, pour une analyse de pipi quelques gouttes sur Alexia et il suffira de cracher sur l'écran pour déverrouiller son ordinateur.. Pendant ce temps là de la bonne oseille passera très discrètement sous la table.
a écrit le 21/12/2019 à 12:23 :
Ça pourrait aider la SNCF et la RATP à ne plus recruter des grévistes professionnels ? Parce que leurs DRH ont besoin de faire des efforts...
a écrit le 21/12/2019 à 11:23 :
Cette atteinte aux libertés individuelles c'est une folie mais de quoi ont ils peur ? Vite un bon orage solaire pour tester ce système.
Réponse de le 21/12/2019 à 18:45 :
Pertinent ! Un bon piratage des données convergentes permet l'anticipation!
a écrit le 20/12/2019 à 17:37 :
Le projet Aadhaar, porté par le gouvernement indien, a déjà numérisé les empreintes digitales, les iris et le visage de plus d’un milliard d’habitants. Objectif annoncé : intégrer l’ensemble des Indiens dans les registres de l’administration, ce qui faciliterait la redistribution d’aides sociales. Mais le système éveille les craintes d’une surveillance de masse destinée, un jour, à contrer toute contestation sociale ou politique. Dans le même temps, les acteurs de ce secteur en pleine expansion, comme l’entreprise française Safran qui a raflé le marché indien, exportent leurs systèmes de fichage biométrique sur tous les continents.Les empreintes digitales et des iris peuvent être collectées à partir de l’âge de 5 ans. La photo n’est efficace qu’à partir de 15 ans. De nombreuses maternités ont ouvert leurs portes à ces « registrars » chargés de la collecte des données. Les nouveau-nés y sont scannés dès leur naissance. Les bébés reçoivent un numéro indépendant rattaché à la carte des parents jusqu’à l’âge de 5 ans. Ils devront ensuite se plier à une mise à jour biométrique jusqu’à 15 ans.

Le coût de cette gigantesque opération est estimé à 850 millions d’euros. C’est une entreprise française, Safran, qui a gagné le marché. Deux de ses filiales, Safran Identity & Security et L1 assurent 75 % des enregistrements. L’entreprise japonaise Nec se charge du quart restant de la population. Le groupe français fournit les scanners biométriques et le système permettant de ne pas enregistrer deux fois un même individu. Celui-ci serait capable de répondre à un million de requêtes par jour, 24h sur 24 et 7 jours sur 7.
a écrit le 20/12/2019 à 13:13 :
Encore une mauvaise innovation mise quand même sur le marché en force par des marchés financiers du seul fait de leur cupidité et de rien d'autre, c'est pas la première ni la dernière.
a écrit le 20/12/2019 à 13:04 :
"Il s'agit d'une application pour smartphone développée par le ministère de l'Intérieur et l'Agence nationale des titres sécurisés (ANTS) qui permet à tout particulier de prouver son identité sur Internet" : sachant que les smartphones sont les appareils les moins sûrs qui existent avec les objets connectés et les tablettes, on appréciera d'autant plus la contre-vérité d'une telle phrase !!
Réponse de le 20/12/2019 à 18:11 :
chez moi zone blanche, pas de portable, connexion internet bas débit, exemple ne cherchez pas à regarder un film...... remarquez le premier feu tricolore est à 47 km, tant qu'à toutes ces conneries de smart, reconnaissance faciale, nous arrivons à survivre sans tous ces moyens policiers.... d'ailleurs c'est peut être pour cela que vous y venez en vacances pour débrancher comme vous dites.. balancez toutes ces conneries électroniques et vous verrez qu'il y à un monde derrière tout cela.

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.

 a le à :