Se confier à un chatbot est devenu une habitude pour certains, et pléthore d'entreprises se positionnent sur le marché de l'IA dédiée à la santé mentale. Si ces technologies représentent une opportunité dans un contexte d'explosion des besoins de soins en santé mentale, elles ne sont pas sans risques.Chatbots psychothérapeutes, détection des troubles mentaux, prévention des rechutes... L'intelligence artificielle semble offrir des solutions pour combler les lacunes du système de santé mentale. Et ce, alors que l'état psychique des Français se dégrade - d'après une étude d'Axa Prévention, plus d'un tiers seraient en souffrance psychologique - et que les ressources manquent dans le secteur médical.
Cependant, le collectif MentalTech - qui réunit des start-up et des professionnels de santé - met en garde contre les risques liés à une utilisation non-encadrée de ces technologies. Son rapport, publié à l'occasion de la journée de la santé mentale, brosse un état des lieux des différents usages de l'IA dans ce domaine et fait plusieurs recommandations.
L'organisation plaide pour la mise en place d'une « numéricovigilance ». À l'image de la pharmacovigilance existante pour les médicaments, ce système permettrait de surveiller l'usage de l'IA dans ce domaine.
« Cela pourrait passer par des moyens pour les patients de reporter de potentiels effets indésirables liés à l'utilisation de ces technologies et la création d'une autorité de santé capable de surveiller ces nouveaux outils thérapeutiques et de les contrôler », explique le Dr David Labrosse, président du collectif et cofondateur de Tricky, qui propose notamment des escape games afin de sensibiliser aux troubles psychiques.
Un énorme marché non-encadré
Des applications dédiées à la santé mentale existaient avant la dernière vague de l'intelligence artificielle. On compte notamment pléthore d'applications de méditation, comme Petit Bambou ou Calm, d'autres permettant d'arrêter de fumer ou de boire... Mais le Dr Geoffrey Post, psychiatre à Colmar et co-auteur du rapport, estime que « les récents progrès de l'intelligence artificielle, et la manière dont ces outils sont rendus accessibles au plus grand nombre » rendent la nécessité d'une évaluation d'autant plus urgente.