Israa Lizati
Ce contenu est réservé aux abonnés La Tribune
Airbus va mettre à profit son expertise en matière d'intelligence artificielle sur des systèmes critiques pour aider l'Oncopole à mieux prédire les pannes sur les équipements de radiothérapie
Rémi Benoit
Avec plus de 200 chercheurs spécialisés, une formation d'excellence et un vivier de talents, Toulouse s'impose comme l'une des capitales françaises de l'IA. À l'heure où les « boîtes noires » du deep learning soulèvent des questions sur leur opacité - sorte d'espions pour recueillir des informations -, la Ville rose mise sur une IA robuste, explicable et de confiance. Des prérequis indispensables pour l'intégrer dans des systèmes critiques comme les avions ou les voitures.
L'institut interdisciplinaire toulousain Aniti (Artificial and Natural Intelligence Toulouse Institute) place l'IA dite « de confiance » au cœur de ses travaux. L'objectif est de garantir que les décisions prises par les systèmes d'IA soient explicables, équitables, fiables et robustes, pour permettre leur utilisation, notamment dans les secteurs à haut risque tels que le transport, l'industrie du futur et l'environnement.
Le cluster labellisé par l'État, développe une nouvelle génération d'intelligence artificielle hybride, associant des techniques d'apprentissage automatique à partir de données et des modèles permettant d'exprimer des contraintes et d'effectuer des raisonnements logiques. Cette approche permet d'apporter de meilleures garanties en matière de fiabilité et de capacité d'expliquer et d'interpréter les résultats des algorithmes utilisés, tout en veillant à l'acceptabilité sociale et la viabilité économique.
À lire également
« Certes plus performantes que des algorithmes reposant sur des connaissances humaines, les boîtes noires sont opaques dans le sens où l'humain ne peut pas comprendre le processus de décision de l'algorithme. En y ajoutant de l'IA de confiance, cela amène des garanties de robustesse et de compréhension des biais. Au sein d'Aniti, nous avons mis au point des méthodes qui permettent de savoir à quel point l'algorithme est confiant par rapport à la décision prise et de comprendre comment les prédictions sont réalisées par l'algorithme », explique Romaric Redon, directeur opérationnel d'Aniti.
Israa Lizati
