Les grands modèles de langage (type ChatGPT ou Gemini) sont très savants mais ne progressent pas avec l’expérience. Chaque nouvelle version de ChatGPT ou Gemini repose encore sur un réentraînement massif, énergivore et coûteux. Pour sortir de cette impasse, un champ de recherche revient sur le devant de la scène : le continual learning, ou l’art d’apprendre sans tout oublier.ChatGPT est un élève étrange. Il a appris par cœur un nombre astronomique de leçons à un instant T, mais ne sait pas s'instruire au fur et à mesure des exercices. La connaissance des grands modèles de langage, moteurs de l’IA dite générative, reste figée, contrairement à un cerveau humain, qui s’affûte d’expérience en expérience, d’interaction en interaction, de livre en livre… Dans leur quête pour se rapprocher d’une intelligence artificielle identique à celle des humains, les têtes pensantes de l’industrie se penchent donc sur ce sujet appelé « continual learning » dans le jargon.
Ce thème était particulièrement présent lors de la conférence NeurIPS qui a réuni les scientifiques spécialistes de l’apprentissage automatique à San Diego en décembre dernier. « Les modèles doivent pouvoir se souvenir de leurs interactions et s’améliorer avec l’expérience. Toute l’industrie travaille sur ce sujet », nous expliquait Aidan Gomez, co-auteur de l’article scientifique fondateur de l’IA dite générative et à la tête de la start-up canadienne Cohere, il y a quelques mois.
S’il suscite un regain d’intérêt, le domaine du continual learning n’est pas neuf. Il existe depuis 30 ans, rapporte la chercheuse Elisa Fromont, professeure en informatique à l’Université de Rennes. « C’est donc un sujet qui préexistait aux grands modèles de langage qui eux datent d'il y a dix ans », souligne-t-elle.
Il y a déjà des solutions pour apprendre des modèles de manière continue spécifiques à certains types de changement dans les données utilisées. « Par exemple, un modèle pourrait être entrainé à analyser des éléments sur des photographies professionnelles et, à une autre étape d'entrainement, il serait entrainé en utilisant des données obtenues avec une webcam par exemple. Ces changements nécessitent d'utiliser des techniques d'apprentissage continue pour que le modèle reste bon à analyser les deux types de données et surtout, qu'il n'oublie pas.» En revanche, il n’existe pas de solution universelle de continual learning qui fonctionne avec n’importe quel type de données ou n’importe quel modèle. La recherche commence tout juste à s'intéresser à l'application des techniques de continual learning aux cas particulier des grands modèles de langage.
