Le robot conversationnel d’Open AI est la cible de deux plaintes dans l’Hexagone. Ces appels à la justice ont pour origine un manque de clarté et un soupçon de non-respect des règles européennes sur la récolte de données personnelles. Ce problème de non-respect de la protection des données des utilisateurs est aussi pointé du doigt en Italie, au Canada ou encore aux Etats-Unis.
ChatGPT devra-t-il répondre à des juges dans un tribunal? Ce ne sera probablement pas le cas contrairement à Open AI, la société américaine à l'origine du robot conversationnel, accusée de ne pas respecter le Règlement européen de protection des données (RGPD).
D'après des informations du site L'Informé, deux plaintes auraient été déposées en France, auprès de la Cnil, le gendarme français des données personnelles mardi 4 avril contre Open AI et ChatGPT.
Soupçon de collecte illégale de données personnelles
La première provient de l'avocate Zoé Vilain, présidente de l'association de sensibilisation aux enjeux du numérique Janus International. « On n'est pas anti-tech, mais on souhaite une technologie éthique », a déclaré celle-ci à l'AFP. Dans sa plainte consultée par l'AFP, Zoé Vilain explique avoir créé un compte sur le site d'OpenAI, l'entreprise californienne à l'origine du logiciel, afin d'utiliser ChatGPT et avoir constaté l'absence de « conditions générales d'utilisation » à accepter et « d'une quelconque politique de confidentialité ». Elle demande à la Cnil de l'aider à exercer son droit d'accès à ses informations personnelles collectées par OpenAI, après une tentative infructueuse effectuée auprès de l'entreprise.
Chaque jour à 13h, l’essentiel de l’actualité tech.
Une deuxième plainte a été déposée par David Libeau, développeur très investi dans la protection des données personnelles. Il explique dans sa plainte avoir repéré des informations personnelles le concernant en interrogeant ChatGPT sur son profil. « Lorsque je demandais plus d'informations, l'algorithme a commencé à affabuler et à m'attribuer la création de sites web ou l'organisation de manifestations en ligne, ce qui est totalement faux », écrit-il. L'intelligence artificielle générative, une technologie utilisée par ChatGPT pour générer des réponses et qui a été entraînée sur de gigantesques corpus de textes glanés sur internet, a tendance à inventer certains faits, de l'aveu même de ses concepteurs.
Selon David Libeau, cela contrevient à l'article 5 du RGPD, selon lequel les informations sur des personnes doivent être exactes, et tout traitement de données doit être loyal.
Open AI rattrapé par les régulateurs aux quatre coins du monde
Si ces plaintes sont une première en France, les déboires d'Open AI commencent à s'accumuler dans le monde.
Vendredi 31 mars, l'Italie est devenue le premier pays à bloquer provisoirement ChatGPT, en raison notamment de craintes sur la sécurité des données personnelles, l'absence d'une note d'information aux utilisateurs, et l'absence de filtre pour vérifier l'âge des utilisateurs. D'autres autorités européennes, dont celles de la France, de l'Irlande ou de l'Allemagne se sont depuis rapprochées de leur homologue italienne pour établir une position commune sur ChatGPT.
Mardi 4 avril, ce fut au tour du Commissariat à la protection de la vie privée du Canada d'annoncer qu'il ouvrait une enquête sur l'entreprise américaine. Cette enquête « a été lancée à la suite d'une plainte selon laquelle des renseignements personnels ont été recueillis, utilisés et communiqués sans consentement », a indiqué l'organe gouvernemental. Le commissaire à la protection de la vie privée Philippe Dufresne a aussi ajouté dans le communiqué que « nous devons suivre la rapide évolution des avancées technologiques, et même conserver une longueur d'avance sur ce plan ».
Joe Biden a de son côté évoqué, mardi 4 avril, les risques potentiels de l'intelligence artificielle, lors d'une réunion avec des conseillers. Le président démocrate a de nouveau demandé au Congrès de mettre en place des « limites strictes » sur les données personnelles collectées par les groupes de la tech, et d'interdire la publicité ciblée visant les enfants.
Enfin, l'IA générative est également sous le coup de plaintes d'artistes et de photographes de presse qui veulent pouvoir accepter ou refuser que leurs œuvres soient utilisées pour l'entraînement d'un modèle.
