François Manens
Ce contenu est réservé aux abonnés La Tribune
Photo d'illustration
iStock
L'intelligence artificielle prend de plus en plus de place dans les décisions stratégiques des entreprises. Ses champs d'applications vont de l'identification des chantiers prioritaires pour les entreprises du BTP, à l'évaluation du risque de défaut au moment d'émettre un prêt pour les banques, en passant par l'identification des meilleurs prospects dans le recrutement. Les logiciels permettent d'économiser de précieuses heures, voire jours, en plus de rendre les choix plus pertinents... dans la majorité des cas. Car l'intelligence artificielle n'échappe pas aux biais. En 2016, des journalistes de l'ONG ProPublica avaient révélé qu'un logiciel d'évaluation des risques de récidive, Compas, très utilisé dans les tribunaux américains, se trompait deux fois plus pour les condamnés noirs que pour les blancs. Le problème est que les biais des algorithmes sont difficilement repérables.
À lire également
Si le logiciel repose sur l'apprentissage machine, alors on ne sait pas retracer, étape par étape, les décisions qui ont mené à la recommandation finale. C'est le phénomène de la boîte noire : on connaît la problématique et sa solution, mais pas ce qu'il se passe entre les deux. Bien sûr, les développeurs savent ce qu'est censé faire le programme, mais ils ne peuvent que deviner l'arbre de décision qui a mené au résultat. Dès lors, difficile de faire confiance aux intelligences artificielles pour des décisions critiques, à moins de pouvoir les auditer et tracer leurs choix. En France, le projet TransAlgo, mené par l'Inria, a été lancé en 2018 pour répondre à cette demande, avec deux axes de recherche. D'un côté, des méthodes d'« auditabilité » des algorithmes, et de l'autre, une nouvelle génération d'algorithmes, construits pour être transparents. La notion de transparence, au sens de l'Inria, induit que l'on a accès au code de l'algorithme, que l'on connaît la provenance des données et que l'on peut retracer ces calculs.
François Manens
