ChatGPT compile indépendamment les profils psychologiques des utilisateurs, souvent à leur insu, selon des recherches menées par des scientifiques d'Allemagne, d'Inde et des Pays-Bas.
Les chercheurs ont analysé les archives de correspondance de 80 utilisateurs de ChatGPT et ont trouvé 2 050 entrées stockées dans la mémoire du réseau neuronal. Dans 96 % des cas, l’IA a créé elle-même ces notes, sans demander directement à l’utilisateur de se souvenir de quoi que ce soit.
Parallèlement, 28 % des enregistrements contenaient des données personnelles soumises à la législation européenne sur la protection des données, et 52 % contenaient des caractéristiques psychologiques des utilisateurs : leurs préférences, habitudes, intérêts et traits de personnalité perçus.
De plus, ChatGPT est capable non seulement de se souvenir de ce qui a été dit, mais aussi de tirer ses propres conclusions. Par exemple, si une personne demandait à recommander des groupes similaires à Nirvana, le réseau neuronal enregistrait qu'elle aimait Nirvana, même si l'utilisateur ne le disait pas directement.
Selon les chercheurs, les chatbots se transforment progressivement d'outils ordinaires en interlocuteurs auxquels les gens font confiance pour leurs problèmes personnels, leurs opinions politiques et leurs expériences. En conséquence, l’IA peut en savoir beaucoup plus sur une personne que les services Web ordinaires.
Les scientifiques préviennent qu'une telle personnalisation comporte non seulement des risques pour la vie privée, mais aussi le risque de renforcer les préjugés, car si le réseau neuronal connaît bien les opinions de l'utilisateur et est constamment d'accord avec eux, il ne peut que renforcer ses idées fausses.
canal.