Méfiez-vous lorsque vous téléchargerez vos photos et vidéos sur les serveurs des géants du Web. Vous pourriez, au mieux, vous apercevoir que votre compte a été arbitrairement fermé du jour au lendemain ou, au pire, avoir à faire à la justice alors que vous n'avez rien à vous reprocher. Cet avertissement ne relève pas d'un mauvais film de science-fiction ou d'un État totalitaire mais d'une réalité dans une société de plus en plus dépendante de grandes plates-formes qui gèrent les réseaux sociaux. Pour ces derniers, entièrement pilotés par des algorithmes qui ne font pas la différence entre ce qui relève de publications culturelles ou familiales et ce que leurs conditions générales d'utilisation (CGU) autorisent ou pas, le risque existe d'être littéralement pris en otage par ces outils numériques.

Plusieurs exemples attestent que les machines automatisées qui pilotent le fonctionnement des réseaux sociaux peuvent conduire à des décisions absurdes, voire radicales. En 2011, l'affaire défraya déjà la chronique lorsque Facebook décida, unilatéralement, de fermer la page d'un enseignant au motif que celle-ci affichait l'œuvre de Gustave Courbet, «L'Origine du monde», représentant un sexe féminin. La justice française jugea illicite la clause établie par Facebook qui lui donnait le droit de désactiver le compte d'une personne sans nécessairement avoir à se justifier.

Contenus censurés

Récemment, aux États-Unis, dans l'État très conservateur du Nebraska, ce même réseau social a été à l'origine de l'interpellation de deux femmes : la première accusée d'avoir aidé sa fille adolescente à mettre fin à sa grossesse. Le motif de l'inculpation ? La transmission aux autorités de conversations privées sur Facebook dans lesquelles mère et fille avaient échangé sur le recours à des pilules abortives, et cela, passée la vingtième semaine de grossesse de l'adolescente, un délit dans cet État, en droite ligne avec la révocation du droit fédéral à l'interruption volontaire de grossesse entérinée en juin dernier par la Cour Suprême[1].

En Chine, il y eut aussi ce cas de censure manifeste lorsqu'un auteur, au motif que ses écrits stockés en ligne présentaient des «contenus illégaux », a vu son manuscrit bloqué par la société WPS Office qui développe des solutions bureautiques « sur le cloud »[2].

Enfin, cet autre cas où un internaute de San Francisco ayant transmis à son médecin, via la messagerie Google, des photos du pénis enflé de son fils, a vu son compte fermé et ce cas signalé à la police[3]. Son erreur ? Avoir suivi le conseil de l'infirmière ayant apporté des soins à son enfant qui lui avait demandé d'avoir en urgence l'avis d'un médecin. L'algorithme de reconnaissance automatique d'images de Google fit le reste et identifia automatiquement ces images comme étant de nature pédopornographique. L'affaire fut classée sans suite, mais elle démontre que les machines n'ont pas toujours pour principale qualité le discernement.

Surveillance totale

Bien sûr, il faut se féliciter que les nouvelles technologies puissent efficacement lutter contre les déviances les plus sordides (en 2021, rien qu'aux États-Unis, Google a signalé aux autorités plus de 620.000 cas et désactivé 270.000 comptes liés à des contenus d'abus sexuels sur des enfants[4]) ou les cas de discriminations; mais, et c'est le revers de la médaille, sur le Net, la protection de la vie privée est de moins en moins une évidence du fait que les machines scannent en permanence, sans la moindre assistance humaine, les contenus les plus divers qui transitent sur les serveurs. S'ensuit logiquement que des décisions automatisées sont prises par les machines et que celles-ci aboutissent parfois à des cas d'abus de pouvoir et, au final, de recul des libertés individuelles.

Le numérique, enjeu décisif pour les libertés

Depuis l'émergence du numérique dans nos vies et de ses multiples extensions tel que le Web 2.0 qui marque à la fois l'apparition des grands réseaux sociaux et la possibilité laissée à tout un chacun de publier sans limite, la question de la définition des critères permettant de dépublier, déréférencer voire de supprimer un contenu ou un compte n'est toujours pas tranchée. Si, dans les États autoritaires, la censure des réseaux sociaux est la norme, ailleurs, le balancier oscille entre le fait de confier ce pouvoir à une autorité judiciaire ou à un acteur privé.

Depuis l'exclusion de Donald Trump de Facebook suite à l'attaque du Capitole le 6 janvier 2021, de nombreux débats existent sur la légitimité des grandes plates-formes à modérer certains tweets, articles, vidéos, alors que d'autres propos restent en ligne. Ces épineuses questions de « Qui est légitime pour fixer les règles de ce qui peut figurer sur le Web ? » et du « Comment rendre les algorithmes explicables, plus transparents? » sont des questions qui se posent aux gouvernements démocratiques.

Si, pour Elon Musk, la réponse semble évidente lorsqu'il déclara, à l'annonce de son intention de racheter de Twitter pour 44 milliards de dollars, vouloir faire de ce réseau social « la plateforme mondiale de la liberté d'expression » en remettant la modération entre les mains des utilisateurs, la tendance peu rassurante, à l'exclusion du travail de la Commission européenne qui entend faire plier les géants du Net en vertu du règlement sur les marchés numériques[5] (DMA), c'est de constater que ces entreprises privées sont, d'une certaine façon, quasiment devenues délégataires de la loi en imposant la leur...

La conséquence de ce nouveau rapport de pouvoir, c'est que les institutions et les citoyens se trouvent à la merci de ces acteurs du numérique tentés de s'ériger en arbitres de nos libertés et de notre vie privée.

___

NOTES

1 https://fr.euronews.com/2022/08/11/avortement-une-adolescente-poursuivie-au-nebraska-sur-la-base-de-message-facebook

2https://www-technologyreview-com.cdn.ampproject.org/c/s/www.technologyreview.com/2022/07/15/1056042/chinese-novel-censored-before-shared/amp/

3https://news.yahoo.com/dad-photographed-sick-sons-penis-133414267.html?guccounter=1&guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAAJH7UToxO7C-xphHPtYhmlogldF0GHL4tr2aLlIaHhaXTBUdCSs7Q7XAn7olfo55GVk88SVunwhOV1qTCl5XO3GPxbHpOgFk0pp-6p8ie3NwTwx76tYTuxrWshAEvcwZVJyqk1ZDRIMoiaTzaCLpq0_MPWM9Hc81iCIXsieLo4T9

4https://transparencyreport.google.com/child-sexual-abuse-material/reporting?lu=total_accounts_disabled&total_cybertipline_reports=product:GOOGLE;period:2021H1&total_content_reported=period:2021H1&total_accounts_disabled=period:2021H1

5 https://www.vie-publique.fr/eclairage/284907-dma-le-reglement-sur-les-marches-numeriques-ou-digital-markets-act

Philippe Boyer

20 Sept 2022, 10:30

Partager :