C'est le président Barack Obama qui l'affirme dans un discours donné à l'université de Stanford en Californie le 25 avril dernier. C'est dans un contexte de tension démocratique sans précédent que le président s'est exprimé sur les menaces que peuvent porter les réseaux sociaux sur la vie de la cité, alors même que ces outils sont également source d'innovation inéluctable. Mais alors comment faire? Il faut que les acteurs de ce monde, peu importe leur position sur l'échiquier social, économique et technologique, agissent dans la bonne direction. Propriétaires de ces innovations, concepteurs, ingénieurs, scientifiques, utilisateurs, citoyens et dirigeants politiques, chacun doit saisir ses droits, ses devoirs et ses obligations.

Parmi les algorithmes qui tournent sur les réseaux sociaux, on peut citer les algorithmes de recommandation de contenus - qui vous proposent des posts à voir ou des utilisateurs à suivre -, les algorithmes de classification des utilisateurs - qui catégorisent les individus en fonction de leur profil et de leurs agissements sur l'outil -, ou encore les algorithmes de détection de contenus violents ou pornographiques par exemple. N'étant pas passée derrière la Machine, il est difficile d'affirmer avec certitude les dessous algorithmisés de ces outils, mais tentons ensemble une exploration.

Algorithmes de catégorisation et de recommandation

Les algorithmes de catégorisation construisent par apprentissage statistique des classes d'individus aux profils similaires qu'ils soient statiques - leur âge, leur région, le nombre de connexions -  ou dynamique - la fréquence de partage des contenus, le sentiment moyen des contenus aimés et partagés -. Les algorithmes de suggestion de contenus quant à eux s'appuient entre autres sur votre profil - à travers votre classe - et sur le type de contenu en question. Ils peuvent vous proposer des posts que d'autres utilisateurs de votre classe ont aimé en supposant qu'ils vous plairont en retour. Lorsque ces algorithmes sont mal conçus ou mal testés, ils peuvent vous enfermer dans des bulles d'observation du monde, vous limitant aux contenus que ceux qui vous ressemblent consomment. C'est ainsi que le complotisme et la propagation de fausses nouvelles explosent sur les réseaux, mettant en danger la démocratie.

Les algorithmes de recommandation peuvent également mettre en avant des contenus - peu importe vos comportements sur la plateforme - qui se partagent massivement sur des temps courts - avec l'idée en théorie qu'ils vous engageront davantage -. En effet, nous tendons à partager, commenter ou aimer des contenus qui font polémiques. C'est ainsi que les propos haineux et transgressifs contaminent avec une certaine nervosité en temps et en espace les réseaux. Ces algorithmes fonctionnent ainsi car ils confortent un modèle économique qui s'appuie majoritairement - pour ne pas dire uniquement - sur l'économie de notre attention à tous.

Prenons à présent les algorithmes qui détectent les contenus inappropriés tels que les posts violents et pornographiques. Ce problème est bien plus compliqué qu'il n'y paraît. Tout d'abord les contenus inappropriés que nous voyons sont ceux qui n'ont pas été détectés semi-automatiquement - on sait qu'il y a aussi une intervention humaine de modération - et qui représentent peut-être une petite part de tous ces posts envoyés sur  la toile. Même si on détectait 90% de ces contenus, les 10% restants seraient toujours, à raison, insupportables pour les utilisateurs. Cela étant dit, on admettra qu'il y a parfois une posture de la part des propriétaires de ces réseaux, plus proche de l'idéologie que de l'analyse objective, comme lorsque Méta décide qu'un simple mamelon est synonyme de pornographie.

Concevoir des bonnes pratiques de développement

Mais alors comment résoudre ces nombreux problèmes afin de protéger la démocratie? Tout d'abord ce ne sont pas ces algorithmes qui sont en tort mais bien ceux qui les pensent, les conçoivent, les vendent et les utilisent. La solution n'est pas dans le rejet de ces technologies mais bien dans la façon dont on les construit et on les utilise. Les solutions à explorer induisent tous les types d'acteurs (géants techniques, utilisateurs, dirigeants politiques,..) sur toutes les échelles (de l'individu à l'État). Elles doivent également coexister au risque de diminuer fortement leur efficacité mutuelle. Il est fondamental que les États construisent des régulations pertinentes qui protègent les droits fondamentaux des individus - et donc la démocratie - tout en encourageant l'innovation.

Ce que l'Europe et les États-Unis ont réussi à réaliser avec le RGPD (Règlement Général sur la Protection des Données) et le CCPA (California Consumer Privacy Act), respectivement, doit être reproduit au cas des systèmes algorithmiques. Pour cela il faut imposer aux acteurs technologiques de concevoir et d'appliquer des bonnes pratiques de développement, de tests et d'usages de ces technologies. Ce qui implique aussi d'expliquer aux utilisateurs le type d'algorithmes qui tournent sur ces réseaux - sans dévoiler la propriété intellectuelle -, ainsi que le type de données collectées pour les faire fonctionner. Avec comme choix possible pour les utilisateurs de désactiver certaines composantes algorithmiques telle que la recommandation et donc l'éditorialisation personnalisée des contenus.

Pour espérer éliminer 100% des posts inappropriés à une erreur près,  les géants techniques doivent partager la conception et le code source de ces algorithmes - qui n'est en aucun cas un différentiateur économique - avec le reste de la communauté scientifique et technologique du monde, incluant les chercheurs des laboratoires universitaires. Les dirigeants doivent en parallèle construire des politiques publiques de financement de la recherche et du développement privés et publics pour soutenir l'innovation impulsée par l'État, à l'échelle européenne également.

Accompagnées bien évidemment de grands projets et de plans nationaux sur l'éducation à l'algorithmique des prochaines générations de citoyens pour qu'ils puissent défendre leurs droits et comprendre leurs devoirs. Ces solutions dessinent la gouvernance algorithmique des personnes morales et physiques, acteurs de l'échiquier. La solution complémentaire à envisager serait que les propriétaires de ces outils revisitent leur modèle économique. On rappelle que certains GAFAM ont des chiffres d'affaires pantagruéliques - 1,567 milliard de dollars en 2021 pour Twitter -. Faire moins pour faire mieux semble alors raisonnable. Force est de reconnaître que c'est ce que nous faisons en écrasante majorité à l'échelle individuelle dans nos vies professionnelles et sociales sans le conceptualiser de la sorte.

Transformation du système

Bien construits et bien utilisés, les réseaux sociaux sont des vecteurs puissants de communication, de partages et de découvertes. Il suffit de voir le nombre de personnes qui se sont rencontrées sur ces plateformes par des accointances intellectuelles et émotionnelles, ou encore le nombre d'individus talentueux et d'initiatives inspirantes qui ont été révélés, pour affirmer que ces réseaux ont raison d'exister. Mais cela supposera inévitablement une transformation du système avec à la clé un monde sainement connecté. L'innovation pourra même dans ce cas précis soutenir la démocratie, en libérant la parole et en confrontant les idées pour des avancées sociales profondes.