La prochaine fois que vous écrirez à ChatGPT que votre couple bat de l'aile ou que vous détestez la coriandre, sachez qu'il pourra bientôt s'en souvenir lors de vos prochaines conversations. Et en tenir compte dans ses réponses. OpenAI a annoncé mardi 13 février une nouvelle fonctionnalité, pour le moment accessible à quelques premiers utilisateurs (payants et gratuits), permettant à son programme de garder en mémoire les données de ses utilisateurs d'une session à l'autre. Elle sera déployée prochainement, sans qu'OpenAI ne précise de date.
Le chatbot a déjà ce que l'on pourrait appeler une mémoire court terme. Lors de la même conversation, ChatGPT conserve un historique lui permettant de rebondir d'une question à l'autre. Mais toutes ces informations sont perdues au démarrage d'une nouvelle session.
Une mémoire plus efficace au fil des conversations
Avec cette mise à jour, l'utilisateur pourra demander explicitement à ChatGPT de se souvenir de certains éléments, ou alors de le « laisser collecter des détails » sur ses préférences. « Plus vous l'utiliserez, plus sa mémoire sera efficace », explique l'entreprise dans son billet de blog. Des exemples sont donnés : si vous précisez au chatbot que votre fille aime les méduses, il vous suggérera de créer l'image d'une méduse lorsque vous le solliciterez pour élaborer sa carte d'anniversaire. Autre situation : vous précisez à ChatGPT que vous préférez que vos comptes-rendus de réunions soient toujours écrits façon « bullet points ». Le chatbot privilégiera toujours ce format.
Cette nouvelle fonction devrait rendre vos conversations plus « utiles », dixit OpenAI. Cela permet aussi de personnaliser davantage le produit. Une stratégie que l'entreprise a déjà mise en place avec le lancement en novembre 2023 des « Custom GPT ». Depuis cette date, les abonnés payants ont la possibilité de créer et de paramétrer des chatbots en leur donnant une fonction ou une « personnalité » particulière. Il est possible de leur fournir des documents à lire, définir un ton précis, préciser un champ d'expertise...
Plus de données pour OpenAI
L'entreprise de Sam Altman reprend ainsi la stratégie qui a été celle des plateformes du web (Facebook, Google en tête) : la collecte de données personnelles. Pour le moment, l'entreprise n'y associe pas un modèle publicitaire mais rappelons qu'elle noue des partenariats avec des marques comme Kayak, Expedia, Klarna ou encore OpenTable, qui pourraient se montrer intéressées par des profils détaillés d'utilisateurs.
Cette nouvelle fonctionnalité a, à ce titre, de quoi préoccuper. D'une part car l'entreprise reste secrète sur la manière dont elle réutilise les données de ses utilisateurs pour entraîner ses modèles. Elle propose tout de même depuis avril un paramètre permettant de refuser l'utilisation des conversations pour la formation de ses algorithmes.
D'autre part, parce qu'OpenAI a montré à plusieurs reprises que sa sécurité était faillible. En mars 2023, un bug a conduit à la divulgation de titres d'historiques de conversation. En décembre 2023, le New York Times, à l'aide d'experts en cybersécurité, a aussi montré qu'il était assez facile de contourner les garde-fous mis en place par l'entreprise pour obtenir des informations personnelles en conversant avec le chatbot. Inquiètes, plusieurs entreprises dont Apple, Verizon ou encore Samsung, ont interdit son utilisation aux salariés.
Les autorités du numérique sont également sur leurs gardes. Fin janvier, l'équivalent de la Cnil italienne a conclu que l'IA d'OpenAI violait le règlement européen sur les données personnelles (RGPD), suite à une enquête lancée en mars 2023. Elle a laissé 30 jours à l'entreprise pour répondre à cette décision. La décision finale - qui pourrait conduire à un blocage de l'application en Italie et une amende pour OpenAI - est attendue pour fin février.
La notion de mémoire et la tentation de l'anthropomorphisme
Par ailleurs, avec cette annonce, OpenAI anthropomorphise un peu plus sa technologie en précisant qu'elle se dote « d'une mémoire ». De quoi agacer une partie des observateurs. Ce vocabulaire humanisant sert le discours d'OpenAI, à savoir la mise en avant d'une « intelligence artificielle générale », capable d'égaler voire de surpasser les humains. Un objectif décrié par une partie de la communauté scientifique.
Pour réarmer l’Ukraine, l’Union européenne prête à utiliser les avoirs russes gelés
Sujets les + commentés