Plateformes numériques : un rapport du Sénat demande la publication des algorithmes
latribune.fr
Les travailleurs de plateformes de livraison s'apprêtent à aller livrer un repas commandés sur les applications.
Reuters
latribune.fr
Les travailleurs de plateformes de livraison s'apprêtent à aller livrer un repas commandés sur les applications.
Reuters
... ement européen sur la question des algorithmes (le "Digital Services Act") est actuellement en préparation et devrait être adopté courant 2022.
À quelques jours du début de la présidence française de l'Union européenne pour six mois, un rapport sénatorial - paru le 15 décembre - émet une série de propositions pour la régulation du numérique. Principale mesure souhaitée par le Sénat : obliger les plateformes numériques à rendre publics leurs algorithmes, afin de pouvoir détecter la présence de risques potentiels pour les droits fondamentaux.
À l'image de l'évaluation des risques avant la mise sur le marché d'un médicament, les plateformes devraient de ce fait se voir imposer de « rendre publics (leurs) algorithmes, aux fins de recherche par des tiers des risques potentiels pour les droits fondamentaux, avant leur première utilisation et après chaque modification substantielle », estiment ainsi les sénatrices Florence Blatrix Contat (Ain, PS) et Catherine Morin-Desailly (Seine-Maritime, UDI), à l'origine du rapport. Elles devraient également se voir imposer des « audits réguliers des algorithmes auto-apprenants », ajoutent-elles.
Aujourd'hui, les plateformes de livraison notamment, dont l'usage s'est accéléré lors de la crise sanitaire et n'a pas fléchi depuis, sont en effet régies par un "management algorithmique", qui pose de véritables problématiques, d'ordre économique, social mais aussi psychologique, puisque les travailleurs subissent une forte pression à la connexion et s'exposent même, chez Uber, à des licenciements automatiques en refusant certaines courses.
La question des algorithmes avait animé de nombreux débats lors de la mission d'information sur l'ubérisation qui s'est tenue au sénat du 22 juin au 29 septembre dernier.
Parmi les principaux problèmes : les biais discriminatoires, que les algorithmes ne détectent pas forcément, et peuvent conduire à des notations biaisées défavorables aux travailleurs des plateformes. Avec des implications conséquentes puisque ces notations biaisées sont ensuite susceptibles d'entraîner un blocage du compte des travailleurs concernés, et donc d'aboutir à des licenciements automatiques abusifs.
En 2020, certains chauffeurs britanniques travaillant pour Uber avaient d'ailleurs porté plainte contre la plateforme aux Pays-Bas (où se trouve son siège numérique), accusant Uber de les avoir licenciés automatiquement.
Alertes en temps réel sur les informations économiques majeures.
La mesure proposée mercredi par le Sénat concorde avec les aspirations qu'avait exprimées la mission d'information sur l'ubérisation au cours des trois mois où elle s'est tenue au Sénat, et va même encore plus loin puisqu'il s'agirait de rendre les algorithmes publics à tous.
La mission s'était en effet dite favorable à permettre aux représentants élus des travailleurs des plateformes d'accéder à un document expliquant clairement et simplement le fonctionnement de l'algorithme auquel leurs collègues et eux-mêmes sont soumis. En effet, comme le pointait la mission, les algorithmes sont « conçus et générés par des humains dont les stéréotypes, en se répétant automatiquement, peuvent engendrer des discriminations ».
En revanche, la mesure est farouchement combattue par les plateformes, qui reposent aujourd'hui en grande partie sur les algorithmes pour fonctionner et rejettent même la notion de management algorithmique. Contacté par La Tribune mi-octobre, le porte-parole de Deliveroo Damien Steffan avait ainsi contesté l'idée que les travailleurs seraient soumis à un encadrement et une évaluation constante par des algorithmes.
Selon les représentants des plateformes de livraison, les algorithmes ne sont que de simples outils permettant d'agréger des données et de mettre en relation clients et travailleurs.
À noter que le rapport sénatorial est consacré au Digital services act (DSA), un règlement européen sur les services numériques en préparation qui prévoit d'encadrer l'utilisation des algorithmes sur les plateformes internet. Présenté aux Etats membres en décembre 2020, le « Digital Services Act » (DSA), doit être adopté par les Etats membres en 2022.
Le rapport du Sénat, tel « un aiguillon » visant l'exécutif Français qui prendra la tête de la présidence de l'Union européenne en janvier, propose d'aller au delà des mesures aujourd'hui comprises par le DSA et de renforcer davantage le régime de responsabilité des hébergeurs des plateformes.
Car si le texte européen (DSA) prévoit d'augmenter les obligations concrètes des plateformes en matière notamment de modération des contenus illicites, et d'imposer des obligations de vigilance pour les autres contenus, il ne prévoit en revanche pas pour l'heure d'imposer la publication des algorithmes.
Les deux sénatrices françaises à l'origine du rapport publié mercredi déplorent donc que le DSA n'aille pas aussi loin qu'elles le souhaiteraient et appellent à inclure la publication des algorithmes à l'agenda de ce règlement européen.
À lire également
Mais si elles poussent pour une transparence absolue du fonctionnement des algorithmes des plateformes, les sénatrices ont toutefois rappelé que leur souhait le plus profond était avant tout, « au vu de l'urgence pour l'Union, à établir un cadre efficace de lutte contre les contenus illicites et préjudiciables en ligne », de favoriser « une adoption rapide (du DSA, ndlr), sous présidence française de l'Union européenne ».
latribune.fr
Pêche : la transformation artisanale, une solution pour survivre ?
Japon, États-Unis, Europe… Les pays où le nombre de millionnaires a le plus augmenté en 2025
17 colis par an par Francilien : l'impact massif des livraisons en Île-de-France
La pérennisation du dispositif zéro chômeur longue durée à l’épreuve des contraintes budgétaires