Les quarante habitants de la métropole de Montpellier participant à la convention citoyenne sur les enjeux de l’intelligence artificielle au sein des services publics métropolitains ont remis leur copie. Cet avis va servir de base de travail en vue de l’élaboration de la stratégie Data et IA de la collectivité.En novembre 2023, la Métropole de Montpellier lançait la première convention citoyenne sur l'intelligence artificielle (IA) en France à l'échelle d'une collectivité territoriale. Encadrée par un comité de six experts, parmi lesquels le mathématicien Cédric Villani, auteur en 2018 du rapport sur l'IA commandé par Emmanuel Macron, elle a embarqué 40 citoyens pour répondre à une question : « Quelle intelligence artificielle au service des habitants et du territoire ? », en vue de contribuer à l'élaboration de sa stratégie de l'IA et de la donnée. Elle vient de rendre son avis.
Parmi les huit recommandations qu'il comporte, le premier insiste sur l'utilité de l'IA à l'action du service public.
«Du côté des agents, cela signifie par exemple que beaucoup de tâches rébarbatives et chronophages pourraient être effectuées par l'IA, comme vérifier les pièces à fournir pour refaire ses papiers, et du côté des citoyens, l'IA pourrait permettre de raccourcir les délais d'obtention des papiers en question »,explique Arthur Dupuy, 27 ans, l'un des porte-parole de la convention citoyenne.
L'agent, l'usager et l'IA
Autres préoccupations : le souci de l'impact environnemental de l'IA ainsi que la protection de la vie privée des citoyens et le contrôle sur leurs données personnelles. Outre l'anonymisation des données pour l'apprentissage des algorithmes et le non-croisement de celles jugées sensibles (comme la santé et la situation financière, par exemple), la convention citoyenne recommande ainsi l'installation d'un comité d'éthique. Consulté en amont de chaque projet important d'IA, il serait composé exclusivement d'experts et de citoyens, sans représentants politiques.
Autre point primordial pour les participants à la convention citoyenne, la transparence en cas d'usage d'une l'IA : l'usager doit systématiquement être prévenu. Pour garantir la totale maîtrise des données utilisées pour entraîner l'IA, la convention citoyenne suggère également la création d'un data-center dédié à la Métropole ou de privilégier des data-centers locaux.
«Il est important de mettre en place une équipe IA au sein même de la collectivité, on ne peut pas prendre le risque de prendre un prestataire extérieur qui pourrait mettre la clé sous la porte», estime Arthur Dupuy.