Avion, voiture : Toulouse veut rendre l’IA plus fiable

"Les industriels ont aujourd'hui un fort besoin d'embarquer de l'intelligence artificielle sans quoi ils se feront disrupter par d'autres. En même temps, ils ne le feront pas à n'importe quel prix. L'aéronautique est un secteur phare dans le domaine de la certification et on ne fera pas voler un avion avec de l'IA sans être sûr que le taux de panne est infime. C'est l'image de marque des industriels qui est en jeu", résume Grégory Flandin. Ce salarié d'Airbus est mis à disposition pour diriger le programme Deel depuis l'IRT Saint-Exupéry à Toulouse.

Lancé en septembre 2018, ce projet est mené en partenariat avec l'université de Montréal et une poignée d'industriels de part et d'autre de l'Atlantique : Airbus, Thales, Continental et Safran côté France, Bombardier notamment côté Canada... Objectif : rendre plus fiables les systèmes d'IA.

Expliquer les décisions de l'IA

Une nécessité pour détecter de mauvais raisonnements de la machine.

La robustesse des systèmes est également à améliorer. En 2017, une équipe académique américaine ajoute des Post-it sur un panneau de signalisation et fait prendre à un algorithme un panneau "sens interdit"  pour une "vitesse limitée à 50 km/h".

Jeu de casse-brique, simulateur de drones

Dans les labos toulousains, différents types d'expériences sont menés. David Bertoin, ingénieur, s'est penché sur un jeu de casse-briques pour savoir sur quelles parties de l'écran se focalisent les algorithmes pour emporter la partie : "Celui qui obtient le moins bon résultat s'est concentré sur le score, ce qui ne sert à rien. Le meilleur regarde à la fois la balle et les briques à casser. Et il creuse un tunnel pour casser les briques par le haut en rebondissant". Le jeu pourrait trouver des applications dans les voitures sans chauffeur. "Nous pourrions identifier les parties de la route sur lesquelles un véhicule s'est focalisé pour prendre une décision. A-t-il freiné à cause d'un piéton ou parce qu'il a confondu un sac plastique avec un humain ?", illustre-t-il.