La certification est depuis bientôt 100 ans un pilier de l'aéronautique, qui lui a permis de s'imposer comme le moyen de transport le plus sûr. Assez conservatrice par nature, cette réglementation se doit d'être à même de s'adapter aux évolutions technologiques sans affaiblir les exigences en matière de sécurité
Or l'irruption à grande vitesse de l'intelligence artificielle vient chambouler tout cela : les standards actuels ne sont pas en mesure de garantir la bonne intégration d'applications d'IA, notamment de machine learning (apprentissage automatique), dans des systèmes critiques aéronautiques - des systèmes pour lesquels toute défaillance peut entraîner des conséquences dramatiques. D'où la nécessité d'établir rapidement de nouvelles normes de certification adaptées.
« Nous avons bien identifié de longue date les atouts que représentait l'IA pour apporter des nouvelles fonctionnalités à nos systèmes. Mais, du fait de notre expérience dans les systèmes critiques, nous avons aussi identifié le fait qu'il y avait des verrous inhérents à l'IA qu'il faudra lever pour pouvoir intégrer ces nouvelles fonctionnalités sans rien perdre en termes d'exigence de fiabilité et de sécurité sur nos produits », détaille Patricia Besson, responsable d'une équipe de recherche au sein de Cortaix, structure par Thales il y a un an pour accélérer le développement de l'IA.
Alors que les industriels avancent de plus en plus sur les concepts d'intelligence artificielle et travaillent à lever ces verrous, ils ont désormais besoin d'un cadre fixe pour aller vers des applications opérationnelles et industrialisables. C'est le cas pour Thales avec son concept d'IA de confiance qui se veut, entre autres, capable d'être conforme aux normes, comme l'explique encore Patricia Besson : « En matière d'IA de confiance, nous visons d'aller jusqu'à la capacité à certifier nos produits, ce qui est impératif dès lors que nous sommes dans un contexte aéronautique. » Mais encore faut-il que ces normes existent. Le fait est que le temps presse.
