IA, l'erreur restera humaine !

L'automatisation des décisions grâce à l'IA pose la question des conséquences économiques, des enjeux éthiques, et de l'encadrement juridique de cette évolution. Par Vincent Berthet, Université de Lorraine
(Crédits : Pixabay (CC0 Creative Commons))

Dans les années 1950, Paul Meehl mit en exergue le fait que des formules objectives sont souvent plus performantes que le jugement humain pour des décisions et des prédictions récurrentes. Par exemple, si une université dispose d'une base de données historiques comportant pour chaque étudiant des informations telles que ses résultats au lycée, son score à un test d'aptitude, son résultat final en première année, etc., un modèle statistique permettra de capturer les relations entre ces variables.

On peut alors montrer qu'un modèle basé seulement sur les résultats au lycée et le score à un test d'aptitude prédit mieux la réussite des étudiants qu'un conseiller scolaire. Depuis, les progrès technologiques ont donné à ce phénomène une tout autre dimension. D'un côté, l'explosion de la quantité d'informations disponibles fait que les bases de données historiques sont devenues gigantesques, ce que l'on appelle le big data. D'un autre côté, l'intelligence artificielle (IA) rend les outils automatisés de traitement de l'information toujours plus performants. Grâce à des techniques statistiques sophistiquées telles que l'apprentissage profond (le deep learning), les algorithmes actuels sont capables de capturer les régularités cachées dans de larges bases de données historiques. Ce couplage de l'IA et du big data tend à automatiser un nombre croissant de décisions humaines récurrentes dans tous les secteurs d'activités. Cette automatisation de décisions routinières - simples et répétitives - permet notamment le recentrage des professionnels sur des tâches où leur valeur ajoutée est la plus forte.

Algorithmes prédictifs

Tout comme le modèle simple de prédiction de la réussite des étudiants, les algorithmes qui ont appris une relation critère-indices en parcourant une base de données historiques peuvent être utilisés comme des outils prédictifs. Les sociétés modernes ont ainsi fait place au recrutement prédictif, la police prédictive, la justice prédictive, la médecine prédictive, etc. qui permettent aujourd'hui d'anticiper (et peut-être demain de remplacer) des décisions humaines. En particulier, le développement récent d'algorithmes prédictifs dans le domaine du droit, où la jurisprudence constitue une base de données historiques, a bousculé les codes et les habitudes de la profession. L'ouverture des bases de jurisprudence dans le cadre de l'open data a permis à une nouvelle génération de startup (les Legal Tech) de développer des logiciels qui scannent la jurisprudence et délivrent un pronostic sur les risques et les chances de succès des justiciables (par exemple, l'évaluation des indemnisations octroyées à un salarié dans le cadre de l'application des barèmes en matière de licenciement). Cette augmentation de la prédictibilité des décisions de justice par les algorithmes de justice prédictive permet d'accélérer le règlement des litiges.

Cependant, si cette approche est particulièrement adaptée aux pays de common law (comme le Royaume-Uni) où la source principale du droit est la jurisprudence, elle est moins pertinente pour les pays de droits de tradition civiliste (comme la France) où la source principale du droit est le droit codifié. Quoi qu'il en soit, les algorithmes prédictifs font et feront évoluer les pratiques, en droit comme ailleurs, et ces évolutions - inévitables - devront être encadrées afin qu'elles soient maîtrisées plutôt que subies.

L'automatisation croissante de décisions jusque-là assurées par des humains soulève des interrogations. Outre les considérations économiques, une première question importante concerne le caractère figé de telles décisions. Autrement dit, le traitement automatisé des décisions écarte la singularité de chaque décision. Dans son intervention sur la justice prédictive le 12 février 2018, Jean‑Marc Sauvé, Vice-président du Conseil d'État, attire l'attention sur ce point en soulignant que le propre de la justice est que chaque affaire soit examinée pour ce qu'elle est, avec sa part d'originalité et d'irréductible complexité qui ne saurait être systématisée par un logiciel, aussi puissant soit-il.

À son époque, Paul Meehl releva cette limite et l'illustra au travers du « cas de la jambe cassée ». Prenez une personne qui se rend tous les mardis soir au même cinéma. Une règle actuarielle simple consiste à prédire que chaque mardi soir, la probabilité que cette personne se rende dans le cinéma est très élevée. Un lundi, cependant, cette personne se casse la jambe. Dans ce cas précis, un humain pourra ajuster sa prédiction en revoyant la probabilité à la baisse alors que le modèle actuariel continuera à faire la même prédiction, qui en l'occurrence sera absurde.

La morale des histoires

Une seconde question posée par l'automatisation des décisions renvoie aux considérations éthiques. Ces considérations sont d'abord générales, elles concernent par exemple la question de l'autonomie et de l'identité humaines face aux machines, les biais et les discriminations, et le respect des droits et libertés fondamentaux. Mais les considérations morales renvoient aussi à des questions concrètes que pose l'utilisation de dispositifs automatisés. Par exemple, en cas d'accident inévitable, un véhicule autonome doit-il être programmé pour sacrifier la vie des passagers ou bien celle des piétons ? Dans le cadre du projet « Moral Machine » mené en partenariat avec des universités américaines et débuté en 2016, le psychologue Jean‑François Bonnefon et ses collaborateurs ont mis en ligne des tests qui simulent des situations où une voiture autonome doit choisir entre différents cas d'accidents inévitables. Ces tests, qui ont été passés par des millions de personnes à travers le monde, permettent de mesurer les préférences morales des individus.

La programmation des véhicules autonomes en cas d'accident inévitable est un exemple de cas concret qui traduit inévitablement un choix moral. La recherche scientifique sur les préférences morales des individus peut aider à identifier les critères éthiques pour fonder ce choix moral. L'automatisation des décisions grâce à l'IA peut donner lieu à de réels progrès, tels que des décisions plus transparentes et moins partiales. Aussi, se posent des questions fondamentales sur les conséquences économiques, les enjeux éthiques, et l'encadrement juridique de cette évolution.

__

Nous publions ici un extrait du livre de Vincent Berthet, « L'erreur est humaine. Aux frontières de la rationalité », qui vient de paraître à CNRS Editions.

The Conversation _______

Par Vincent BerthetMaître de conférences à l'Université de Lorraine. Chercheur associé au Centre d'Economie de la Sorbonne, Université de Lorraine.

La version originale de cet article a été publiée sur The Conversation

Sujets les + lus

|

Sujets les + commentés

Commentaires 4
à écrit le 23/09/2018 à 12:53
Signaler
Vous devriez vous renseigner sur ce qu'est l'IA... Cet article parle pas d'IA mais d'algorithme prédictif ce qui est totalement différent: - Les algorithmes permettent de faire un choix "prédéfini" par des possibilité futur - L'IA est une intel...

à écrit le 22/09/2018 à 15:14
Signaler
L'erreur est humaine mais la correction de l'erreur l'est également. L'homme est en amont et en aval des machines, le titre devrait être "l'IA est humaine".

à écrit le 22/09/2018 à 11:28
Signaler
le big data , le deep learning ne sont que les prémisses d'une Intelligence, les caractères prédictifs mentionnés ne sont que des caractères particuliers qui ne font pas appel à la spécificité de l'IH à savoir le point de vue cognitif.Celui ci fait ...

à écrit le 22/09/2018 à 11:22
Signaler
C'est pour ça que nous les lapins finirons par être les maîtres du monde Yark yark yark Rabitt Power Suprématie Lapin

Votre email ne sera pas affiché publiquement.
Tous les champs sont obligatoires.

-

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.