De l'expertise : compétente ou biaisée, deux approches complémentaires

En tant que présidente d'un institut de recherche, le sujet de l'expertise m'intéresse au plus haut point parce que nous exerçons nous même une forme d'expertise et que, d'autre part, nous nous intéressons à des sujets qui traitent justement de cette question, qu'il s'agisse de décider de remplacer les jugements humains par des algorithmes ou d'évaluer la qualité de notre système éducatif. De très nombreux sujets touchent de près ou de loin à cette question. Or, un article rédigé en 2009 par deux figures majeures dans ce domaine est particulièrement éclairant et permet, avec nuance, de cerner le contour entre de bonnes intuitions et d'autres qui s'avèrent erronées de façon systématique.

"Moins de connaissances sur le monde que les chimpanzés"

La question de l'expertise peut générer des sentiments ambivalents. On reste bouche bée devant le pompier qui parvient à contrôler un incendie dans un immeuble sauvant ainsi tous ses habitants ou devant le pilote Sully Sullenberger qui en 2009 parvient à poser en urgence son avion sur l'Hudson river et sauve ainsi ses 150 passagers. Dans un cas comme dans l'autre, leur expertise est exceptionnelle. Mais le sentiment est inverse quand on constate que les prévisions d'un certain nombre d'experts se révèlent moins fiables que celles réalisées par des modèles statistiques. Dans des Ted talk célèbres, Hans Rosling, médecin et statisticien, montrent à quel point nous pouvons être ignorants de faits importants tout en étant convaincus de la véracité de nos dires. Dans l'un d'eux, il dit : « J'ai démontré que les étudiants suédois les plus brillants avaient, statistiquement parlant, moins de connaissances sur le monde que les chimpanzés. »

Ces deux phénomènes font l'objet d'analyses approfondies au sein de communautés dont les chefs de file sont pour l'une Daniel Kahneman, lauréat du prix Nobel d'économie en 2002 et auteur du livre Système 1 / Système 2. Les deux vitesses de la pensée et pour l'autre, Gary Klein, psychologue renommé auteur notamment de Sources of Power: How People Make Decisions (1999). Ce dernier est un pionnier dans l'approche dite de la prise de décision naturaliste tandis que le second développe l'approche des biais cognitifs et des heuristiques. Tout semble opposer ces deux approches, sauf que les deux auteurs respectent immensément leur travail respectif et ont donc cherché pendant plusieurs années à comprendre leurs points de convergence et de divergence.

Débat scientifique exemplaire

Au-delà d'être exemplaire de ce que le débat scientifique peut faire de mieux, leur article permet de décrire deux phénomènes aussi réels l'un que l'autre qui ne s'appliquent pas aux mêmes situations. De fait, la plupart de nos jugements sont intuitifs et nous permettent d'agir dans le monde. Certains de nos jugements sont bons tandis que d'autres sont assez systématiquement erronés. Comment l'expliquer ? De fait, le développement d'une réelle expertise, celle de ces infirmières qui détectent des septicémies chez de très jeunes nourrissons avant même que les résultats sanguins reviennent positifs, nécessite que certaines conditions soient réunies. Il faut d'abord que l'environnement présente un certain niveau de régularités, d'invariants. Il faut ensuite que le futur expert puisse les découvrir, les discerner en accumulant de l'expérience. Enfin, il faut aussi qu'il reçoive un feedback rapide qui lui permette de lier perception et action dans un sens ou dans un autre. Lorsque ces conditions font défaut, il est difficile de développer une expertise. Le développement de l'expertise est tout à fait compatible avec un univers incertain comme dans le cas du poker ou des conflits armés. Il faut néanmoins pouvoir y décerner des régularités.

C'est ainsi que les astronomes, les pilotes d'essai, les physiciens, les mathématiciens, les infirmières, les médecins sont typiquement des professions dont le niveau d'expertise peut être très élevé tandis que dans des professions comme celles de courtiers, de psychologues cliniques, de juges, de recruteurs ou d'analystes du renseignement, cette expertise serait beaucoup plus rare.

Savoir les limites de ses compétences

Une caractéristique de l'expert compétent c'est qu'il sait en général les limites de ses compétences et requiert l'avis d'autres experts quand il sort de son domaine. La difficulté vient de ce que nos jugements - bons ou mauvais - sont tous intuitifs, automatiques, rapides, formulés presque sans effort et il n'est pas aisé d'être bon juge en la matière. Car nos intuitions suivent facilement des opérations mentales qui peuvent nous induire en erreur.

Les auteurs donnent l'exemple de l'erreur que commettent la plupart des personnes lorsqu'ils essaient de résoudre le problème suivant : une balle et une batte de baseball coûtent à elles deux 1,10 euro. La batte coûte 1 euro de plus que la balle. Combien coûte la balle ? Réponse à la fin de l'article. Il est fort probable qu'intuitivement vous ayez envie de répondre 10 centimes. Ce n'est malheureusement pas la bonne réponse. L'approche par les biais cognitifs abonde de ces exemples où nous tombons dans le panneau parce que plutôt que de faire une analyse rigoureuse qui nécessite des efforts, nous recourrons à des intuitions qui donnent la mauvaise réponse ou la mauvaise évaluation. Quand il s'agit d'évaluer des cas en psychiatrie ou de recruter des officiers, la chose est d'importance.

Méthode premortem

Ce constat - qui n'est d'ailleurs pas nié par les tenants de l'approche naturaliste - conduit à formuler un certain nombre de recommandations visant à améliorer la prise de décision. Notamment, les théoriciens des biais cognitifs sont très favorables aux algorithmes là où il est pertinent d'y recourir comme dans l'octroi de crédits bancaires. Côté approche naturaliste, beaucoup plus méfiante à l'égard des algorithmes, la méthode premortem est considérée comme un outil utile. Il s'agit pour un groupe d'établir un plan puis de considérer a priori qu'il a échoué et d'analyser les raisons de cet échec. Cet exercice permet de générer plus de critiques et d'éviter la suppression des opinions dissonantes, phénomène que l'on observe quand une organisation se lance dans un projet.

L'analyse de l'expertise doit donc être nuancée et suppose une compréhension fine de l'environnement dans lequel elle opère. Les deux courants ont des leçons à nous enseigner, en particulier dans l'adoption avisée des algorithmes ou dans le domaine éducatif, a priori le champ rêvé de l'expertise.

Réponse : 5 centimes puisque la batte de baseball vaut un euro de plus, soit 1,05 euro.