Le logiciel de recrutement d'Amazon qui n'aimait pas les femmes
reuters.com
Le logiciel de recrutement d'amazon qui n'aimait pas les femmes
Pascal Rossignol
American Airlines lève la suspension de ses vols aux États-Unis
Dépêches
reuters.com
Le logiciel de recrutement d'amazon qui n'aimait pas les femmes
Pascal Rossignol
par Jeffrey Dastin
SAN FRANCISCO (Reuters) - Amazon a mis au point en 2014 un programme informatique secret basé sur l'intelligence artificielle (IA) pour le recrutement de ses effectifs mais le géant informatique y a renoncé trois ans plus tard après avoir découvert une faille majeure dans le système : il n'aimait pas les femmes.
L'automatisation, utilisée dans les entrepôts ou la prise de décision en matière de prix, a été la clé de la domination d'Amazon dans le commerce électronique et le groupe américain a voulu adapter cette technologie aux embauches.
"Tout le monde voulait ce Saint Graal", a déclaré à Reuters l'une des cinq sources ayant rapporté l'information. "Ils voulaient littéralement que ce soit un moteur dans lequel on met 100 CV et il ressort les cinq meilleurs en vue de leur recrutement".
Le programme était capable d'examiner le curriculum vitae des candidats afin d'automatiser le processus de recrutement en attribuant une note d'une à cinq étoiles selon les profils.
En 2015, Amazon s'est cependant rendu compte que le système notait les candidats aux postes de développeur de logiciel et aux autres postes techniques de manière sexiste.
Cela s'expliquait par le fait que le modèle informatique utilisé par Amazon s'appuyait sur les CV reçus par le groupe sur une période de dix ans, qui étaient pour la plupart ceux des hommes, reflet de la prédominance masculine dans le secteur des nouvelles technologies.
En étudiant ces CV, le système en est venu à déduire que les candidats masculins pour ces postes étaient préférables, ce qui l'amenait à rejeter les candidatures où figuraient une référence aux "femmes", comme dans la phrase "capitaine de club d'échecs féminin".
L’actualité qui compte pour vous, chaque jour dans votre boîte mail.
Le système a aussi abaissé les notes de deux candidates diplômées d'universités exclusivement féminines, selon les sources.
Amazon a modifié son programme pour qu'il ne prenne plus en compte ces références, mais cela ne garantissait pour autant que le système soit empêché de trouver d'autres de moyens de trier les candidats de manière potentiellement discriminatoire, notent les sources.
Le géant du commerce en ligne a finalement dissout l'équipe au début de l'année dernière, les dirigeants ayant perdu tout espoir sur le projet, selon les sources.
Le service des ressources humaines d'Amazon ont pu consulter le classement préconisé par le système lors des phases de recrutement, mais il ne s'est jamais appuyé sur ce seul critère, ont-elles fait valoir.
LIMITES DE L'APPRENTISSAGE AUTOMATIQUE
Amazon, qui a réaffirmé son engagement en faveur de la diversité et de l'égalité au travail, n'a pas souhaité faire de commentaires sur son outil de recrutement.
L'échec du groupe de Seattle en la matière témoigne des limites de l'apprentissage automatique et constitue aussi une mise en garde pour nombre de grandes entreprises comme Hilton Worldwide Holdings et Goldman Sachs Group qui cherchent à automatiser une partie de leur processus de recrutement.
D'après un sondage réalisé en 2017 par le site d'emploi CareerBuilder, environ 55% des responsables des ressources humaines aux Etats-Unis ont considéré que l'intelligence artificielle ferait partie de leur travail régulier dans les cinq prochaines années.
Les employeurs caressent depuis des années l'espoir de tirer parti des nouvelles technologies pour étendre leur réseaux de recrutement et diminuer la part de subjectivité dans les embauches, mais des informaticiens tels que Nihar Shah, qui enseigne l'apprentissage automatique à la Carnegie Mellon University, estiment qu'il reste encore beaucoup à faire.
"Comment s'assurer que l'algorithme est juste, comment s'assurer que l'algorithme est vraiment interprétable et explicable? On en est encore assez loin", a-t-il déclaré.
PROBLÈME OU REMÈDE?
Malgré l'abandon du système automatisé de recrutement d'Amazon, d'autres entreprises continuent de miser sur l'intelligence artificielle.
Pour Kevin Parker, directeur général de HireVue, une startup basée à Salt Lake City, l'automatisation permet aux entreprises de regarder au-delà des réseaux de recrutement sur lesquels elles s'appuient depuis longtemps.
Le groupe, qui a pour clients des entreprises comme Unilever et Hilton, analyse les discours et les expressions faciales des candidats lors d'entretiens vidéo afin de réduire le recours aux CV.
Goldman Sachs pour sa part a créé son propre outil d'analyse de curriculum vitae qui tente de placer les candidats dans la division où ils seraient les "mieux adaptés".
LinkedIn, le réseau social professionnel détenu par Microsoft propose aux employeurs un classement des candidats sur la base d'algorithmes.
John Jersin, vice-président de LinkedIn Talent Solutions, a cependant déclaré que ce service ne saurait remplacer les recruteurs traditionnels.
"Je ne ferais certainement pas confiance à un système d'IA aujourd'hui pour prendre tout seul la décision de recruter", a-t-il déclaré. "La technologie n'est pas encore prête."
Certains associations de défense des libertés civiles comme The American Civil Liberties Union (ACLU) expriment des inquiétudes sur l'équité de l'intelligence artificielle.
L'ACLU et d'autres organismes comme Amnesty International estiment cependant qu'il pourrait être extrêmement difficile de poursuivre un employeur en justice pour une embauche automatisée: les candidats pourraient ne jamais savoir que le système a été utilisé.
(Claude Chendjou pour le service français, édité par Benoit Van Overstraeten)
reuters.com
