Florine Galéron
Ce contenu est réservé aux abonnés La Tribune
Après avoir travaillé pour le prestigieux MIT, César Hidalgo a décidé de poursuivre ses recherches à Toulouse au sein d'Aniti.
Rémi Benoit
Vous publiez un nouveau livre How Humans Judge Machines (Comment les humains jugent les machines) disponible gratuitement en version digitale et à paraître en version papier aux éditions MIT Press début 2021. Quelle a été votre méthodologie et quels sont les grands enseignements de vos travaux ?
César Hidalgo : Nous avons présenté à un groupe de 200 personnes une série de 80 scénarios pour observer comment ils réagissaient à la même décision prise par un homme ou une machine. A partir de ces données, nous avons essayé d'analyser ce qui explique les différences de perception entre les agissements des humains et des machines. Nos travaux montrent que lorsque les humains jugent les machines, ils font avant tout attention au résultat, au niveau de préjudice subi. Mais quand ils jugent des hommes, ils vont davantage regarder l'intention de la personne. Si quelqu'un a l'intention de blesser, il sera évalué sévèrement. Au contraire, en cas d'accident, les humains sont plus facilement pardonnés alors que dans la même situation les machines seront évaluées très négativement.
Pouvez-vous donner quelques exemples de scénarios ?
Scénario du tsumani issu du livre How Humans Judge Machines.
Par exemple, nous avons testé un scénario de tsunami dans lequel le maire ou l'algorithme a le choix entre évacuer tout le monde et risquer de faire beaucoup de victimes ou évacuer seulement la moitié de la population avec un succès garanti. Dans la première option, l'homme et la machine sont jugés de la manière équivalente.
À lire également
En revanche, dans le cas où l'on prend le risque d'évacuer l'ensemble de la population en parvenant à les sauver, le maire sera évalué beaucoup plus positivement que la machine. Les participants considèrent comme acquis que cette dernière ait réussi sa mission alors que le maire sera vu comme un héros. En cas d'échec, l'homme politique sera toujours mieux jugé que l'algorithme parce que l'on considère qu'il a pris le risque de sauver tout le monde.
Florine Galéron
