À quelques jours du début de la présidence française de l'Union européenne pour six mois, un rapport sénatorial - paru le 15 décembre - émet une série de propositions pour la régulation du numérique. Principale mesure souhaitée par le Sénat : obliger les plateformes numériques à rendre publics leurs algorithmes, afin de pouvoir détecter la présence de risques potentiels pour les droits fondamentaux.
À l'image de l'évaluation des risques avant la mise sur le marché d'un médicament, les plateformes devraient de ce fait se voir imposer de « rendre publics (leurs) algorithmes, aux fins de recherche par des tiers des risques potentiels pour les droits fondamentaux, avant leur première utilisation et après chaque modification substantielle », estiment ainsi les sénatrices Florence Blatrix Contat (Ain, PS) et Catherine Morin-Desailly (Seine-Maritime, UDI), à l'origine du rapport. Elles devraient également se voir imposer des « audits réguliers des algorithmes auto-apprenants », ajoutent-elles.
« Le modèle économique des grandes plateformes repose sur l'exploitation par des algorithmes, aussi puissants qu'opaques, de très grandes quantités de données - en particulier de données à caractère personnel -», soulignent ainsi les sénatrices françaises.
Lutter contre l'opacité et les biais potentiels des algorithmes
Aujourd'hui, les plateformes de livraison notamment, dont l'usage s'est accéléré lors de la crise sanitaire et n'a pas fléchi depuis, sont en effet régies par un "management algorithmique", qui pose de véritables problématiques, d'ordre économique, social mais aussi psychologique, puisque les travailleurs subissent une forte pression à la connexion et s'exposent même, chez Uber, à des licenciements automatiques en refusant certaines courses.
La question des algorithmes avait animé de nombreux débats lors de la mission d'information sur l'ubérisation qui s'est tenue au sénat du 22 juin au 29 septembre dernier.
« Il ne s'agit pas d'un outil neutre », avait alors martelé le rapporteur de la mission Pascal Savoldelli, à propos des algorithmes. Et d'ajouter : « ils constituent un outil que nous considérons comme politique, avec tous les biais que cela comporte, notamment en termes de discrimination ».
Parmi les principaux problèmes : les biais discriminatoires, que les algorithmes ne détectent pas forcément, et peuvent conduire à des notations biaisées défavorables aux travailleurs des plateformes. Avec des implications conséquentes puisque ces notations biaisées sont ensuite susceptibles d'entraîner un blocage du compte des travailleurs concernés, et donc d'aboutir à des licenciements automatiques abusifs.
En 2020, certains chauffeurs britanniques travaillant pour Uber avaient d'ailleurs porté plainte contre la plateforme aux Pays-Bas (où se trouve son siège numérique), accusant Uber de les avoir licenciés automatiquement.
Une mesure farouchement combattue par les plateformes
La mesure proposée mercredi par le Sénat concorde avec les aspirations qu'avait exprimées la mission d'information sur l'ubérisation au cours des trois mois où elle s'est tenue au Sénat, et va même encore plus loin puisqu'il s'agirait de rendre les algorithmes publics à tous.
La mission s'était en effet dite favorable à permettre aux représentants élus des travailleurs des plateformes d'accéder à un document expliquant clairement et simplement le fonctionnement de l'algorithme auquel leurs collègues et eux-mêmes sont soumis. En effet, comme le pointait la mission, les algorithmes sont « conçus et générés par des humains dont les stéréotypes, en se répétant automatiquement, peuvent engendrer des discriminations ».
En revanche, la mesure est farouchement combattue par les plateformes, qui reposent aujourd'hui en grande partie sur les algorithmes pour fonctionner et rejettent même la notion de management algorithmique. Contacté par La Tribune mi-octobre, le porte-parole de Deliveroo Damien Steffan avait ainsi contesté l'idée que les travailleurs seraient soumis à un encadrement et une évaluation constante par des algorithmes.
« La notion même de "management algorithmique" est une erreur de diagnostic », avait expliqué Damien Steffan.
Selon les représentants des plateformes de livraison, les algorithmes ne sont que de simples outils permettant d'agréger des données et de mettre en relation clients et travailleurs.
Œuvrer à un renforcement du règlement européen en préparation (DSA)
À noter que le rapport sénatorial est consacré au Digital services act (DSA), un règlement européen sur les services numériques en préparation qui prévoit d'encadrer l'utilisation des algorithmes sur les plateformes internet. Présenté aux Etats membres en décembre 2020, le « Digital Services Act » (DSA), doit être adopté par les Etats membres en 2022.
Le rapport du Sénat, tel « un aiguillon » visant l'exécutif Français qui prendra la tête de la présidence de l'Union européenne en janvier, propose d'aller au delà des mesures aujourd'hui comprises par le DSA et de renforcer davantage le régime de responsabilité des hébergeurs des plateformes.
A LIRE AUSSI | Régulation du numérique : l'Europe avance pour reprendre le pouvoir face aux Gafam
Car si le texte européen (DSA) prévoit d'augmenter les obligations concrètes des plateformes en matière notamment de modération des contenus illicites, et d'imposer des obligations de vigilance pour les autres contenus, il ne prévoit en revanche pas pour l'heure d'imposer la publication des algorithmes.
Les deux sénatrices françaises à l'origine du rapport publié mercredi déplorent donc que le DSA n'aille pas aussi loin qu'elles le souhaiteraient et appellent à inclure la publication des algorithmes à l'agenda de ce règlement européen.
« Le DSA est une occasion manquée de réformer réellement le cadre juridique pour les géants du net », regrettent-elles.
Mais si elles poussent pour une transparence absolue du fonctionnement des algorithmes des plateformes, les sénatrices ont toutefois rappelé que leur souhait le plus profond était avant tout, « au vu de l'urgence pour l'Union, à établir un cadre efficace de lutte contre les contenus illicites et préjudiciables en ligne », de favoriser « une adoption rapide (du DSA, ndlr), sous présidence française de l'Union européenne ».
