Plateformes numériques : un rapport du Sénat demande la publication des algorithmes

Alors que les plateformes numériques sont pointées du doigt pour le manque de transparence de leurs algorithmes, un rapport du Sénat, publié mercredi 15 décembre, veut les obliger à rendre publics leurs algorithmes. Une proposition qui ne manque pas de faire réagir les représentants des plateformes, mais qui pourrait bien se traduire prochainement par une loi à l'échelle européenne. La France assurera en effet la présidence tournante de l'Union européenne dès janvier 2022, et aura ainsi un rôle majeur à jouer pour convaincre les autres Etats membres d'adopter une telle mesure, alors qu'un règlement européen sur la question des algorithmes (le "Digital Services Act") est actuellement en préparation et devrait être adopté courant 2022.

5 mn

Les travailleurs de plateformes de livraison s'apprêtent à aller livrer un repas commandés sur les applications.
Les travailleurs de plateformes de livraison s'apprêtent à aller livrer un repas commandés sur les applications. (Crédits : Reuters)

À quelques jours du début de la présidence française de l'Union européenne pour six mois, un rapport sénatorial - paru le 15 décembre - émet une série de propositions pour la régulation du numérique. Principale mesure souhaitée par le Sénat : obliger les plateformes numériques à rendre publics leurs algorithmes, afin de pouvoir détecter la présence de risques potentiels pour les droits fondamentaux.

À l'image de l'évaluation des risques avant la mise sur le marché d'un médicament, les plateformes devraient de ce fait se voir imposer de « rendre publics (leurs) algorithmes, aux fins de recherche par des tiers des risques potentiels pour les droits fondamentaux, avant leur première utilisation et après chaque modification substantielle », estiment ainsi les sénatrices Florence Blatrix Contat (Ain, PS) et Catherine Morin-Desailly (Seine-Maritime, UDI), à l'origine du rapport. Elles devraient également se voir imposer des « audits réguliers des algorithmes auto-apprenants », ajoutent-elles.

« Le modèle économique des grandes plateformes repose sur l'exploitation par des algorithmes, aussi puissants qu'opaques, de très grandes quantités de données - en particulier de données à caractère personnel -», soulignent ainsi les sénatrices françaises.

Lutter contre l'opacité et les biais potentiels des algorithmes

Aujourd'hui, les plateformes de livraison notamment, dont l'usage s'est accéléré lors de la crise sanitaire et n'a pas fléchi depuis, sont en effet régies par un "management algorithmique", qui pose de véritables problématiques, d'ordre économique, social mais aussi psychologique, puisque les travailleurs subissent une forte pression à la connexion et s'exposent même, chez Uber, à des licenciements automatiques en refusant certaines courses.

La question des algorithmes avait animé de nombreux débats lors de la mission d'information sur l'ubérisation qui s'est tenue au sénat du 22 juin au 29 septembre dernier.

« Il ne s'agit pas d'un outil neutre », avait alors martelé le rapporteur de la mission Pascal Savoldelli, à propos des algorithmes. Et d'ajouter : « ils constituent un outil que nous considérons comme politique, avec tous les biais que cela comporte, notamment en termes de discrimination ».

Parmi les principaux problèmes : les biais discriminatoires, que les algorithmes ne détectent pas forcément, et peuvent conduire à des notations biaisées défavorables aux travailleurs des plateformes. Avec des implications conséquentes puisque ces notations biaisées sont ensuite susceptibles d'entraîner un blocage du compte des travailleurs concernés, et donc d'aboutir à des licenciements automatiques abusifs.

En 2020, certains chauffeurs britanniques travaillant pour Uber avaient d'ailleurs porté plainte contre la plateforme aux Pays-Bas (où se trouve son siège numérique), accusant Uber de les avoir licenciés automatiquement.

Lire aussi 12 mnQuand l'algorithme contrôle tout : un danger pour les travailleurs des plateformes

Une mesure farouchement combattue par les plateformes

La mesure proposée mercredi par le Sénat concorde avec les aspirations qu'avait exprimées la mission d'information sur l'ubérisation au cours des trois mois où elle s'est tenue au Sénat, et va même encore plus loin puisqu'il s'agirait de rendre les algorithmes publics à tous.

La mission s'était en effet dite favorable à permettre aux représentants élus des travailleurs des plateformes d'accéder à un document expliquant clairement et simplement le fonctionnement de l'algorithme auquel leurs collègues et eux-mêmes sont soumis. En effet, comme le pointait la mission, les algorithmes sont « conçus et générés par des humains dont les stéréotypes, en se répétant automatiquement, peuvent engendrer des discriminations ».

En revanche, la mesure est farouchement combattue par les plateformes, qui reposent aujourd'hui en grande partie sur les algorithmes pour fonctionner et rejettent même la notion de management algorithmique. Contacté par La Tribune mi-octobre, le porte-parole de Deliveroo Damien Steffan avait ainsi contesté l'idée que les travailleurs seraient soumis à un encadrement et une évaluation constante par des algorithmes.

« La notion même de "management algorithmique" est une erreur de diagnostic », avait expliqué Damien Steffan.

Selon les représentants des plateformes de livraison, les algorithmes ne sont que de simples outils permettant d'agréger des données et de mettre en relation clients et travailleurs.

Œuvrer à un renforcement du règlement européen en préparation (DSA)

À noter que le rapport sénatorial est consacré au Digital services act (DSA), un règlement européen sur les services numériques en préparation qui prévoit d'encadrer l'utilisation des algorithmes sur les plateformes internet. Présenté aux Etats membres en décembre 2020, le « Digital Services Act » (DSA), doit être adopté par les Etats membres en 2022.

Le rapport du Sénat, tel « un aiguillon » visant l'exécutif Français qui prendra la tête de la présidence de l'Union européenne en janvier, propose d'aller au delà des mesures aujourd'hui comprises par le DSA et de renforcer davantage le régime de responsabilité des hébergeurs des plateformes.

A LIRE AUSSI  | Régulation du numérique : l'Europe avance pour reprendre le pouvoir face aux Gafam

Car si le texte européen (DSA) prévoit d'augmenter les obligations concrètes des plateformes en matière notamment de modération des contenus illicites, et d'imposer des obligations de vigilance pour les autres contenus, il ne prévoit en revanche pas pour l'heure d'imposer la publication des algorithmes.

Les deux sénatrices françaises à l'origine du rapport publié mercredi déplorent donc que le DSA n'aille pas aussi loin qu'elles le souhaiteraient et appellent à inclure la publication des algorithmes à l'agenda de ce règlement européen.

« Le DSA est une occasion manquée de réformer réellement le cadre juridique pour les géants du net », regrettent-elles.

Mais si elles poussent pour une transparence absolue du fonctionnement des algorithmes des plateformes, les sénatrices ont toutefois rappelé que leur souhait le plus profond était avant tout, « au vu de l'urgence pour l'Union, à établir un cadre efficace de lutte contre les contenus illicites et préjudiciables en ligne », de favoriser « une adoption rapide (du DSA, ndlr), sous présidence française de l'Union européenne ».

5 mn

Sujets les + lus

|

Sujets les + commentés

Commentaires 2
à écrit le 18/12/2021 à 10:20
Signaler
et j'oubliais! pour le reste ( ( SVM, decomposition de matrices, som, modeles generatifs, noyaux, et autres), monsieur le senateur n'a qu'a reduire les inegalites en allant d'abord se former et en faisant lui meme les tests; prendre des modeles et f...

à écrit le 18/12/2021 à 9:46
Signaler
Ces algorithmes ne tombent ils pas sous le coup du secret des affaires que ces branquignoles ont voté?

Votre email ne sera pas affiché publiquement.
Tous les champs sont obligatoires.

-

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.