OPINION. Les « logiciels prouvables », une solution au défi de l'opacité des IA
latribune.fr
Ce contenu est réservé aux abonnés La Tribune
Jérémy Beaufils, directeur de la Chaire Digital Disruption de l'ESSEC et cosignataire de cette tribune.
DR
latribune.fr
Ce contenu est réservé aux abonnés La Tribune
Jérémy Beaufils, directeur de la Chaire Digital Disruption de l'ESSEC et cosignataire de cette tribune.
DR
La déferlante d'annonces dans le domaine de l'intelligence artificielle ne cesse de s'accélérer. L'arrivée récente du modèle chinois DeepSeek, proposé à un coût défiant toute concurrence, cristallise une inquiétude grandissante : comment garantir la fiabilité et la transparence d'algorithmes dont l'usage se généralise, alors même que leur fonctionnement nous échappe ?
Cette question n'est pas que théorique. Les systèmes d'IA qui façonnent aujourd'hui notre quotidien - qu'ils soient américains, européens ou chinois - restent des boîtes noires dont les décisions peuvent avoir des conséquences bien réelles : discrimination à l'embauche, biais dans l'octroi de crédits, ou recommandations médicales contestables. L'opacité de ces systèmes soulève aussi des questions cruciales sur la protection des données ayant servi à leur entraînement et le respect de la propriété intellectuelle.
Face à ces défis, deux approches semblent s'opposer. D'un côté, une course effrénée à la puissance et à la performance, incarnée par la multiplication des modèles toujours plus imposants. De l'autre, une volonté de régulation, dont l'AI Act européen est l'exemple le plus abouti. Mais une troisième voie émerge, fondée sur des principes mathématiques rigoureux : les preuves à divulgation nulle.
À lire également
Cette technologie cryptographique, développée depuis les années 1980, connaît aujourd'hui une renaissance inattendue. Son principe est aussi simple qu'élégant : prouver qu'une affirmation est vraie sans en révéler les détails. Appliquée à l'IA, elle ouvre des perspectives fascinantes : vérifier qu'un modèle respecte certaines propriétés éthiques sans compromettre ses secrets industriels, garantir la confidentialité des données d'entraînement tout en certifiant leur qualité, ou encore s'assurer de l'absence de biais discriminatoires sans exposer le fonctionnement interne du système.
latribune.fr
OPINION. « Face aux GAFAM, la souveraineté numérique passera par l’interopérabilité »
OPINION. « Si le G7 veut corriger les déséquilibres économiques mondiaux, il doit commencer par traiter ceux dont il est directement responsable »
OPINION. « Torture animale en ligne : la France ne peut pas rester spectatrice du commerce de la cruauté »
OPINION. IPO de SpaceX : « La souveraineté ne se décrète pas, elle se finance »