Le groupe américain pionnier dans l'intelligence artificielle lance la première solution logicielle ouverte capable de détecter les biais des algorithmes et d'expliquer en temps réel les décisions de l'IA. Destinée aux entreprises, cette sous-couche logicielle s'intègre avec IBM Cloud mais aussi avec les solutions concurrentes et open source.
Pour que l'intelligence artificielle ne fasse plus peur et qu'on accepte qu'elle prenne des décisions à notre place sur la base de modèles prédictifs et auto-apprenants, il faut que les hommes soient capables de la comprendre et la maîtriser. C'est aujourd'hui le plus grand frein à son déploiement, à la fois au sein des entreprises, mais aussi dans la société tout entière. Car l'IA, comme le big data d'ailleurs, fonctionne comme une boîte noire : conçus dans l'opacité, les algorithmes aboutissent à des décisions que leurs concepteurs n'expliquent pas, ou dans un langage inaccessible au grand public. Le scandale autour de Parcours Sup', dont l'algorithme fonctionne avec des données mais sans IA, montre bien que la confiance et la transparence sont le plus grand défi de l'ère de la donnée-reine.
Une solution qui explique en temps réel le processus de décision
L'entreprise américaine IBM, pionnière de l'intelligence artificielle avec son programme Watson, a décidé de s'attaquer au problème en commercialisant, à partir du 19 septembre, une nouvelle solution logicielle capable "d'ouvrir la boîte noire" de l'IA. Cette sous-couche destinée aux entreprises s'appuie sur une technologie maison. Elle est capable de détecter automatiquement les biais des algorithmes afin d'en diminuer l'influence, et d'expliquer en temps réel, dans des termes "faciles à comprendre" comment l'IA prend les décisions, ce qui permet à l'utilisateur d'en "garder la maîtrise", explique Jean-Philippe Desbiolles, vice-président Cognitive Solutions chez IBM France :
"L'utilisateur pourra comprendre en temps réel comment le modèle d'IA a abouti à une décision. Il pourra accéder, dans des termes clairs, aux éléments de recommandation utilisés par l'IA, et comprendre sur quels faits et données ils sont basés. C'est comme un audit en temps réel de l'IA, une traçabilité qui permet de donner du sens aux décisions sur des éléments dignes de confiance et à valeur ajoutée, la décision pouvant être refusée si le processus est jugé insatisfaisant."
Ces nouvelles capacités de confiance et de transparence fonctionnent avec des modèles construits à partir d'une grande variété de "framework" (systèmes) de machine learning tels que IBM Watson, AzureML, AWS SageMaker, Tensorflow et SparkML, soit la plupart des cadres d'IA populaires utilisés par les entreprises. Le service peut aussi être programmé pour "surveiller les facteurs de décision uniques de tout flux de travail de l'entreprise, ce qui permet de l'adapter à l'utilisation spécifique de chaque organisation".
Les biais des algorithmes détectés et atténués
L'autre particularité du logiciel, c'est-à-dire sa capacité à déceler et à expliquer les biais des décisions algorithmiques en temps réel et pour toutes les organisations, est une première mondiale, d'après IBM.
"Les biais sont inhérents à l'IA dans la mesure où elle est programmée par des hommes et des femmes. Notre système permet de détecter le biais au moment même où il apparaît. Par exemple, lorsqu'il suggère une décision sur les bases des jeux de données qu'il a à disposition, par exemple refuser une police d'assurance à une personne de 22 ans, il va aussi informer l'assureur que cette police a été approuvée à 91% pour les clients entre 31 ans et 55 ans, mais seulement à 52% pour les 18-24 ans. Cette information devient enfin visible, en temps réel, ce qui permet au client de la prendre en compte", ajoute Jean-Philippe Desbiolles, qui travaille sur l'IA pour IBM depuis une dizaine d'années.
Le logiciel recommande aussi des données à ajouter au modèle pour atténuer tout biais qu'il a détecté. IBM indique aussi mettre à disposition de la communauté open source la boîte à outils AI Fairness 360, une bibliothèque d'algorithmes, de codes et de tutoriels inédits, destinés à fournir des outils aux universitaires, aux chercheurs et aux spécialistes des données, pour intégrer des solutions de détection des biais dans les futurs modèles d'IA.
Newsletter
Tech & IA
Chaque jour à 13h, l’essentiel de l’actualité tech.
35% des décideurs ont un niveau de confiance "acceptable" dans l'IA
IBM espère que sa solution va lui permettre de développer son activité IA et populariser Watson, tout en faisant progresser l'ensemble de l'industrie sur la question de la transparence des algorithmes et de la lutte contre les biais. L'enjeu business est fort pour le géant américain, qui a mené une étude auprès de 5.000 décideurs en 2018 sur la confiance qu'ils accordent dans l'IA.
Verdict : "Si 94% des sondés sont convaincus que l'IA est un sujet de compétitivité stratégique majeur et un atout pour se différencier de la concurrence, à peine 35% ont un niveau de confiance élevé, donc acceptable, dans leur propre organisation pour tout ce qui touche à l'analytics ou à l'IA", décrit Jean-Philippe Desbiolles. Il reste du pain sur la planche.
