Algorithme : l'éducation nationale doit faire la transparence

Ma belle-fille passe son bac cette année et nous avons ainsi eu l'occasion de découvrir les méandres du service APB ou Admission Post-Bac. Ce service mis en place par le ministère de l'Enseignement supérieur et de la recherche a pour but de permettre à ces centaines de milliers d'élèves de s'inscrire dans des formations post-bac.

La plateforme indique que le service a été mis en place pour simplifier les démarches des futurs étudiants. J'avoue qu'en matière de simplification, il y a mieux. Cela fait des mois que nous nous penchons sur la question. Nous ne comptons plus les heures passées à peser les alternatives, évaluer les chances d'obtenir son premier choix, discuter des stratégies gagnantes. C'est sur ce dernier point que le sujet est particulièrement intéressant car encore aujourd'hui on ne sait toujours pas comment cet algorithme fonctionne vraiment.

La chose peut sembler dérisoire mais, comprise dans le contexte du rôle croissant que jouent les algorithmes dans nos prises de décision quotidiennes, ce manque de transparence de la part du ministère indique, non seulement un manque d'exemplarité, mais aussi un problème dans la bonne gestion de ces outils.

Une plainte déposée

Il a, en effet, fallu que l'Association des droits des Lycéens porte plainte pour qu'en octobre 2016 le ministère fournisse une partie du code source de l'algorithme APB. Et, comme le souligne l'étudiant Guillaume Ouatara sur son blog L'ingénu-ingénieur, le document fourni a consisté en un courrier papier d'une vingtaine de page qu'il a fallu numérisé et qui surtout ne propose « aucune notice explicative pour détailler le fonctionnement du programme ». Si bien qu'au final, nombre de questions continuent de se poser et la divulgation des documents ne permet toujours pas de se faire une bonne idée de la façon dont l'algorithme fonctionne.

Et pourtant, il est crucial que cela puisse être le cas. En effet, nombre d'experts et analystes soulignent à quel point nous assistons aujourd'hui à un transfert d'autorité des humains vers les algorithmes. Comme l'exprime Yuval Noah Harari auteur de Homo Deus : A brief History of Tomorrow (septembre 2016, Harvill Secker), « le monde est si compliqué, il y a tellement de données, les choses changent tellement vite que, l'être humain qui a évolué pendant des centaines de milliers d'années dans la savane africaine, pourrait bien se révéler incapable de faire face aux réalités du 21e siècle. Les algorithmes pourraient être les seuls capables de gérer le volume d'information et de données aujourd'hui disponibles » (Ted talk février 2017). Un constat que ne renierait pas le ministère de l'Education et qui semble être une tendance de fond dans nos sociétés.

Utilisés dans le domaine du recrutement

Les exemples abondent effectivement de situations dans lesquelles les algorithmes viennent au secours de la prise de décision. Les algorithmes ont ainsi commencé à s'imposer dans le domaine du recrutement avec - pour trouver la perle rare et éviter les erreurs de casting - l'utilisation de modèles prédictifs. Assessfirst.com offre ainsi ses services de recrutement aux entreprises à la recherche de solutions dites objectives.

Dans un autre ordre d'idées, le neuroscientifique Mariano Sigman et le chercheur à IBM Guillermo Cecchi travaillent sur des algorithmes capables de prédire différentes maladies mentales à partir d'analyses des discours des personnes étudiées. Si l'on en croit ces auteurs, les résultats seraient impressionnants. Dans le domaine de la justice, les algorithmes, tels Compas de la société Northpointe, sont aussi à l'honneur lorsqu'il s'agit de déterminer la peine ou la mise en liberté sous conditions de certains condamnés. Et bien sûr, c'est sans compter les algorithmes de Google, Amazon et consors.

Nouveaux défis institutionnels

Or, comme l'explique la sociologue des technologies Zeynep Tufecki, cette montée en puissance des algorithmes dans l'aide à la décision pose de nouveaux défis institutionnels. En effet, dans de très nombreux cas, ces algorithmes constituent des boîtes noires. Leur complexité nous échappe. Pourtant quand ils impliquent des questions de justice ou lorsqu'ils décident de notre avenir professionnel, il serait utile de mieux comprendre leur mode de fonctionnement.

La bonne attitude à l'égard des algorithmes est de cultiver le scepticisme et d'abandonner l'idée qu'ils représentent nécessairement un choix objectif. Ils peuvent être nécessaires à la prise de meilleures décisions mais il faut reconnaître que cela ne va pas de soi. Par conséquent, la transparence en la matière devrait être la règle et on ne peut que s'étonner de ce que le ministère de l'Education ne montre pas l'exemple en publiant l'algorithme APB dans sa totalité, avec les notices explicatives. C'est à ce prix qu'il sera possible de faire confiance à ces nouveaux outils.

(*) IEM (Institut économique Molinari).