Smart City : "il faut concevoir une IA avec ses utilisateurs et non pas pour eux"

Faut-il avoir peur de l'intelligence artificielle et des technologies qui l'utilisent ? Depuis plusieurs années, ce débat anime la place publique entre les potentiels emplois qu'elle peut faire disparaître, ou encore l'exploitation des données que cette intelligence récolte sur ses utilisateurs, sans parler des robots intelligents qui pourraient remplacer les hommes ? Face à ces inquiétudes, le Forum Smart City, organisé par La Tribune, a consacré une table ronde sur le sujet, vendredi 13 décembre, à l'occasion de sa 5ème édition.

L'IA sera au cœur de la ville intelligente de demain (Crédits : Rémi Benoit).

De plus, la Ville rose a obtenu il y a quelques mois un institut interdisciplinaire 3IA, initié par le rapport Villani, grâce à son projet Aniti basé sur l'intelligence artificielle appliquée sur les mobilités et la santé. Ce projet regroupe ainsi des dizaines de chercheurs du monde entier, des laboratoires, des collectivités, des grands groupes industriels et des startups.

Il faut une IA explicable et transparente

Le chercheur Rachid Alami travaille sur le développement de robots autonomes et leurs interactions avec les hommes (Crédits : Rémi Benoit).

Certains tentent déjà de l'expliquer auprès du grand public comme le Toulousain Luc Julia. Cet ingénieur, passé par Apple et HP au sein de la Silicon Valley, dirige la division IoT de Samsung et a récemment sorti un livre nommé "L'intelligence artificielle n'existe pas" aux éditions First. Dans une interview accordée à La Tribune quelques semaines après, il dénonçait les discours alarmistes de certains sur l'IA tout en appelant à écouter ceux qui font vraiment de l'intelligence artificielle et qui la maîtrisent. Dans ce sens, des chercheurs appellent à mettre en avant la transparence de cette technologie pour la faire accepter de tous.

En partenariat avec la startup Soben, Enedis a développé ce robot à base d'IA qui suit à la trace l'opérateur sur le terrain et qui se présente comme un sac à dos (Crédits : Rémi Benoit).

Un besoin de politiques régulatrices ?

Pour insuffler ce besoin d'éthique et de transparence sur qui doivent compter les citoyens ? Au-delà des industriels, un cadre politique sera nécessaire à l'image de la charte signée entre le moteur de recherche Qwant et les collectivités d'Occitanie pour promouvoir un numérique éthique et souverain.

Pour l'élu, les collectivités doivent fixer les limites de ce que deviendra l'IA (Crédits : Rémi Benoit).

"On donne des règles à la machine que seul l'humain établit ! Ce n'est pas la machine qui va établir des règles de manière autonome", avait également précisé Luc Julia dans son entretien. Pour établir ces règles, Rachid Alami évoque la possible création "d'un équivalent du GIEC pour l'intelligence artificielle afin de réfléchir sur cette technologie de manière responsable". Sera-t-il entendu ? Les années à venir donneront la réponse.