Discours haineux, liberté d’expression : la Silicon Valley sort de sa neutralité

À la suite des violences qui ont eu lieu à Charlottesville, où Heather Heyer a été tuée, certaines entreprises de l'industrie du numérique ont commencé à supprimer l'accès à certains de leurs services à des groupes associés à l'extrême droite.

Apple a ainsi désactivé son service Apple Pay à des sites vendant des marchandises avec des logos nazis et des slogans de suprémacistes blancs. GoDaddy et Google ont cessé de fournir leurs services au « Daily Stormer », un site Internet néonazi. Des entreprises comme Uber, Facebook, Twitter, MailChimp et Wordpress ont également pris, à des degrés divers, des mesures similaires.

Un dilemme : protéger ou censurer ?

Les actions des entreprises du numérique provoquent le débat. Faut-il réguler les propos incitant à la haine, ou bien préserver la sacro-sainte liberté d'expression, notamment aux États-Unis ?

Si l'Electronic Frontier Foundation (EFF) s'est félicitée de ces actions menées contre les groupes néonazis, elle a également exprimé ses inquiétudes concernant une possible atteinte à la liberté d'expression. L'EFF est en effet préoccupé par le fait que les utilisateurs de ces plates-formes numériques ne pourront plus exercer correctement leurs droits, leurs voix étant ainsi réduites au silence. Aux États-Unis, le droit à la liberté d'expression est consacré par le premier amendement de la Constitution.

Mais la situation est plus complexe et confuse que cela, et, surtout, elle ne se limite pas aux actions prises par ces entreprises à la suite des violences de Charlotesville. Facebook a été récemment critiqué pour la censure de billets écrits par des membres de la communauté LGBTQ (lesbiennes, gays, bisexuel-le-s, trans, queer), car ils contiennent des mots et des propos que l'entreprise a jugé offensants. D'un autre côté, la communauté LGBTQ se trouve souvent ciblée par des discours de haine sur la plate-forme.

Dans la charte des standards de la communauté Facebook, il est écrit que l'entreprise supprimera les publications qu'elle considère comme des discours incitant à la haine. Cependant, malgré ce positionnement, Facebook a lutté contre une loi allemande qui souhaitait réguler les discours incitant à la haine sur les réseaux sociaux. La loi a promulgué le fait que les plates-formes de réseaux sociaux se verraient infliger une amende pouvant aller jusqu'à 50 millions d'euros s'ils ne parvenaient pas à supprimer des contenus illégaux (dont des discours incitant à la haine) de leurs sites dans les jours qui suivaient leur notification.

Mais, lors de sa lutte contre la loi, l'entreprise Facebook a affirmé qu'elle ne disposait pas de la technologie pour filtrer et traiter le volume total d'images et de contenu affiché sur sa plate-forme. L'entreprise a également affirmé que la régulation des discours incitant à la haine sur sa plate-forme n'était pas de sa responsabilité... mais de celle du « public et de l'État ».

Une pancarte contre les discours racistes et haineux, lors d'une manifestation en 2011. janinsanfran/Flickr, CC BY-NC-ND

Un problème difficile à résoudre

Il est facile de penser que les entreprises du numérique veulent seulement afficher leur volonté de faire quelque chose, tout en limitant leur responsabilité dans la résolution systématique du problème des discours incitant à la haine sur leurs plates-formes.

À première vue, il s'agit d'un défi considérable. Concrètement, comment permettre la liberté d'expression tout en arrêtant les discours incitant à la haine, qui ciblent des personnes en fonction de leur race, religion, origine ethnique, origine nationale, orientation sexuelle, sexe, identité sexuelle, infirmité ou encore leur état de santé ?

En Allemagne, Facebook a expliqué qu'il lui faudrait engager des milliers d'avocats pour examiner les messages qui lui ont été signalés. Pourtant, l'entreprise commercialise sa plate-forme à des annonceurs sur la base du fait qu'il est capable de leur fournir des informations personnelles détaillées en fonction de ce que ses 2 milliards d'utilisateurs mensuels publient et lisent.

De plus, Facebook évoque souvent ses progrès en matière d'apprentissage automatique et de reconnaissance de texte et d'image. L'entreprise est donc au moins capable de mettre en évidence des messages ou des copies d'images jugées problématiques, afin qu'ils soient examinés par un humain.

Distinguer la liberté d'expression du discours haineux

Ce dilemme existe-t-il seulement aux États-Unis ? Non, car le droit à la liberté d'expression est universel. Il est également consacré par l'article 19 de la Déclaration universelle des droits de l'homme. D'ailleurs, les lois d'autres pays (comme l'Allemagne) et des conventions internationales, limitent explicitement la liberté d'expression lorsqu'elle est utilisée lors de discours incitant à la haine.

L'illégalité du discours haineux est explicite dans l'article 13 de la Convention américaine des droits de l'homme ainsi que dans la Convention internationale sur l'élimination de toutes les formes de discrimination raciale des Nations Unies. Les tribunaux nationaux et internationaux ont déjà traité de nombreux cas qui ont abouti à une détermination des différences entre liberté d'expression et discours incitant à la haine.

Les entreprises du numérique pourraient créer des règles claires sur leurs plates-formes, sur ce qui est et n'est pas autorisé en termes de liberté d'expression. Cela signifierait que les entreprises américaines devraient être de plus en plus conscientes des différences existantes entre la culture américaine et la législation des autres pays.

Il est toujours triste de constater que c'est la mort d'une personne qui risque d'inciter les entreprises du numérique à changer leur comportement. Il reste à savoir si elles seront capables de changer, et si les changements persisteront. Car, par la suite, Facebook ou d'autres entreprises pourraient très bien déclarer que, finalement, ce n'est pas leur problème.

Par David Glance, Director of UWA Centre for Software Practice, University of Western Australia

La version originale de cet article a été publiée sur The Conversation