« Black Mirror » ou l’ambiguïté du pire

Les séries sont en train de devenir une référence culturelle centrale, y compris pour les philosophes. En éthique de la technologie, la série Black Mirror (Channel 4 entre 2011 et 2014, Netflix en 2016, le miroir noir étant un écran, éteint et même brisé dans le générique), constitue plus qu'un réservoir d'exemples : un répertoire de questions non-simplistes. Le principe de la série est efficace : un léger décalage futurologique produit des conséquences catastrophiques, humaines et sociales, dans de nombreux domaines - médias (S01E01, S01E02, S02E03), surveillance et data (S01E03, S02E01, S03E03, S03E06), « notations sociales » (S01E02, S03E01) et dénonciation sur les réseaux numériques (S03E06), politique (S01E01, S02E03), guerre (S03E05), punitions cruelles (S02E02, S03E03, S03E06), vie virtuelle (S03E04), etc. Chaque épisode est parfaitement indépendant des autres, n'ayant en commun que le thème des nouvelles technologies et de leur influence sur les comportements humains.

Tous les épisodes mettent en scène une forme de dystopie - le contraire de l'utopie - et la série a pour intention évidente de lancer un avertissement moral, différent à chaque épisode. Un savoir-faire typiquement britannique en matière de fiction angoissante fait de la plupart de ces épisodes de vraies « expériences de pensée morale ». Mais cette expérience de pensée est ambiguë.

Avertissements moraux

Chaque épisode semble en effet conduire à un avertissement moral simple et direct : abus du pouvoir des médias qui corrompent le politique (S01E01), totalitarisme des moyens de surveillance (épisode spécial Noël 2014), tyrannie mortifère des réseaux numériques (S03E01), cruauté des punitions que permet une technologie « neuronale » (S02E02), fabrication de combattants post-humains déshumanisés (S03E05), enfermement dans des vies numériques (S03E04), possibilités de chantage par le hacking de la vie numérique la plus intime (S03E03).

Pourtant, les technologies et les situations humaines évoquées par ces épisodes conservent une certaine attractivité, et même une relative acceptabilité, en particulier aux yeux des étudiants avec lesquels il m'arrive de réfléchir sur ces fictions. Il en va de même dans les autres pays du monde, me confirment mes collègues. Une partie des spectateurs, surtout les jeunes, ne sont pas réellement effrayés, ou plus exactement pas seulement effrayés. Ils comprennent la volonté de leçon morale mais ils n'en concluent pas nécessairement qu'il faut changer de trajectoire.

Il est toujours intéressant de se demander pourquoi une tentative de leçon de morale échoue : je propose ici plusieurs hypothèses.

Des évolutions technologiques inéluctables

On peut penser qu'il est tout simplement impossible que notre civilisation change de trajectoire, ce qui correspond à l'hypothèse déterministe sur la technologie. Les philosophes la considèrent depuis longtemps comme faible mais elle est bien implantée dans les esprits. Puisqu'on « n'arrête pas le progrès », alors il faut l'accepter, et puisque les extrapolations technologiques de Black Mirror sont vraisemblables, le prix moral à payer pour le développement technologique ne peut qu'être accepté.

Cette hypothèse suppose une autonomie déterministe de la technologie, mais il se trouve que très souvent, la série parle de technologies qui existent déjà ou presque. Les scénaristes disent même avoir poussé certaines situations plus loin qu'ils ne le souhaitaient au départ, car la réalité les rattrapait en cours d'écriture.

Il s'agit bien du présent réel et pas d'un avenir prédéterminé, et ce que montre la série est donc bien plus inquiétant : cette dystopie angoissante existe déjà. On pense par exemple à l'effroyable fragilité sociale et narcissique que produit un système de notation socionumérique obsessionnel dans l'épisode S03E01 « Chute libre » (Nosedive), qui anticipe très peu sur le pouvoir actuel de LinkedIn ou de Facebook. Le système d'étoiles de notation qui y est mis en scène, calqué sur celui d'Uber, nous est déjà familier. La série ne décrit donc pas une trajectoire immuable qui nous conduit vers cet avenir angoissant : non seulement nous y sommes déjà, mais nous l'avons accepté.

L'absence de préjugés technophobes

Imaginons que ce qui est supposé inacceptable par un scénariste « moralement correct » ne corresponde pas aux intuitions morales d'une nouvelle génération, notamment parce que les intuitions morales des nouvelles générations ne se focalisent pas sur les mêmes points, mais s'appuient sur une vision plus large qui tient compte des risques mais aussi des opportunités, donc sans préjugé technophobe.

L'épisode S03E04 « San Junipero » raconte une histoire d'amour particulièrement émouvante (je ne spoile pas tous les détails) entre deux femmes, histoire qu'elles vivent dans un univers virtuel où elles décident de « s'installer », quittant du même coup le monde réel. Certes, le plan final montre des ordinateurs, on comprend qu'elles n'existent plus que dans cette réalité-là, mais à l'intérieur de cette réalité virtuelle, l'authenticité de leur amour - qui est aussi charnel - est incontestable.

Si tout n'est que jeu, pourquoi s'inquiéter ? Netflix

Une fiction totalement décorrélée du réel

Une plus grande largeur de vue éthique peut également être due à une perception différente des fictions, qui s'appuie sur l'expérience intensive des jeux vidéo : il y a une gratuité de l'imaginaire qui permet de « vivre » les pires situations en tant que fictions, strictement décorrélées du réel, donc une expérience éthique spécifique des jeux vidéo. Tuer ou torturer dans Grand Theft Auto correspond pour certains joueurs à des actions spécifiques du monde vidéoludique, non corrélées aux actions correspondantes dans la « vie réelle ». Dans cette hypothèse l'expérience de pensée morale proposée par un épisode de Black Mirror ne fonctionne pas, parce que le mode fictionnel est décorrélé du mode réel, et permet même d'en exorciser les scénarios les plus sombres.

On peut se « débrancher moralement » par exemple dans l'épisode S03E02 « Playtest » le personnage perd la raison en testant un jeu vidéo qui le place dans des univers parallèles, en réalité augmentée... mais il est lui-même le jouet d'un univers parallèle bien contrôlé, celui d'un épisode de fiction. Juste un jeu, juste une fiction.

Une série qui flatte nos passions tristes

En pensant aux diverses formes du ludique dans le numérique, parfois très sombres (« agressions » sur les réseaux sociaux portant sur la réputation, sur la confidentialité ou l'intégrité des données personnelles, cyberbullying ou harcèlement numérique, les formes perverses de pornographie...), on peut avouer qu'on éprouve devant certains épisodes un « plaisir ambigu du mal » (Schadenfreude pour les psys, lulz pour les geeks). Il correspond à une passion triste, suscitée par une puissance technologique qui fascine, y compris lorsqu'elle détruit l'intégrité humaine et le lien social.

Et si vous pouviez revoir n'importe quelle scène de votre passé ? Netflix

Dans cette hypothèse, bien adaptée aux traits souvent sadomasochistes (moralement) des scénarios de Black Mirror, l'acceptation du mal technologique ne serait pas inconscience mais perversité. Le voyeurisme de l'épisode S01E03 « Retour sur image/The Entire History of You », dans lequel chacun dispose d'un greffon (le « grain », derrière l'oreille) qui lui permet de revisualiser les scènes de son passé, est largement jouissif et fantasmatique, pour les personnages comme pour le spectateur.

Ainsi, ce que démontre la série - loin du simplisme dystopique qui limiterait la réflexion - se rapporte à la 1er « Loi de Kranzberg » : une technologie n'est ni bonne, ni mauvaise, ni neutre. « Ni neutre » signifie que sa puissance impose une prise de conscience éthique, un projet qui prend la mesure de cette puissance comme nouvelle donne, sans se limiter à la répétition des systèmes de valeur déjà installés. Relèvent de cette approche par exemple les armements nucléaires, l'Internet, l'intelligence artificielle, les technologies de transformation génétique, et bien d'autres.

La philosophie contemporaine de la technologie montrant dans un premier temps que le pire n'est pas du tout inévitable, n'en déplaise au moralisme technophobe, une éthique contemporaine de la technologie peut explorer ensuite, à travers des fictions souvent, ce qui est inacceptable ou pas, et plus ambigu encore : ce qui est déjà tacitement accepté.

Par Michel Puech, Associate Professor, Philosophy (ethics of technology, modernity, wisdom), Université Paris-Sorbonne - Sorbonne Universités

La version originale de cet article a été publiée sur The Conversation