Ouvrons les « boîtes noires » : les Européens ne doivent pas être à la merci des algorithmes

Les outils et services que nous utilisons en ligne reposent sur des systèmes complexes que la plupart d'entre nous ne comprennent pas. Les technologies opaques de ces systèmes posent des risques évidents pour notre société. C'est le cas des « boîtes noires », ces obscurs algorithmes qui décident du contenu proposé aux utilisateurs.

Être exposés à des contenus nuisibles

Les « boîtes noires » peuvent filtrer des masses d'informations complexes afin de nous proposer un contenu intelligible. Mais elles peuvent également nous présenter une vision déformée de la réalité en ne sélectionnant que des informations partielles et biaisées pour nos fils d'actualités. Les groupes les plus vulnérables, comme les enfants, peuvent être exposés à des contenus nuisibles. Les consommateurs peuvent se voir proposer des produits contrefaits.

Le manque de compétences numériques, l'absence de règles communes pour la gestion des risques et le peu d'outils disponibles pour signaler la désinformation en ligne aggravent la situation.

La transparence algorithmique

Les plateformes numériques, en particulier celles qui comptent des millions d'utilisateurs, ne peuvent plus prétendre être de simples « intermédiaires » pour le contenu qu'elles hébergent. Ces plateformes développent et appliquent les algorithmes qui orientent le contenu vers leurs utilisateurs. Elles sont responsables.

La nouvelle législation européenne sur les services numériques a pour objectif de rendre transparentes la conception et l'utilisation de ces « boîtes noires ». La création du Centre européen pour la transparence algorithmique est un pas dans cette direction.

Le centre, qui a été inauguré à Séville ce mardi, rassemblera une communauté dynamique de chercheurs en sciences des données, en intelligence artificielle et en systèmes algorithmiques, qui s'efforceront d'ouvrir au grand jour les « boîtes noires ». Ces spécialistes aideront la Commission à s'assurer que les grandes plateformes et moteurs de recherche assument leurs responsabilités envers la société et cessent de proposer du contenu nuisible ou illégal.

Afin de protéger et de préparer nos enfants, la Commission a également mis en œuvre des campagnes de sensibilisation à la désinformation et aux menaces en ligne, par le biais d'initiatives telles que le plan d'action pour l'éducation numérique.

L'approche de l'UE repose sur notre conviction que le progrès technologique ne devrait jamais se faire au détriment de nos valeurs démocratiques. Les opportunités offertes par le numérique doivent profiter à tous.

Avec cette vision et grâce à notre législation et nos actions qui défendent les droits des citoyens, l'UE est bien placée pour devenir un modèle mondial à l'ère numérique.