La mémoire des assistants intelligents ne se limite plus à sauvegarder les informations partagées par l'utilisateur, mais peut s'étendre au-delà pour créer une perception plus large de sa personnalité, de son comportement et de sa façon de penser, ce qui soulève de nouvelles questions sur les limites de la personnalisation et de la vie privée. À cet égard, une étude récente a révélé que la fonction de mémoire de ChatGPT peut contribuer à construire un profil psychologique et comportemental de l'utilisateur basé sur les détails de ses conversations quotidiennes, même celles qui semblent simples ou sans importance pour le moment. Ces résultats deviennent encore plus importants si l’on considère la quantité d’informations que le système peut extraire d’interactions répétées. L'étude a inclus les conversations de 80 utilisateurs et a enregistré plus de 2 000 informations stockées dans les mémoires de 65 d'entre eux, lorsqu'il a été constaté que 96 % de ces mémoires étaient créées automatiquement par le système, sans demande directe de l'utilisateur. Cela suggère que la mémoire remplit non seulement la fonction de mémorisation, mais peut s'étendre à l'analyse des modèles d'utilisation et à la déduction des intérêts, des dispositions et de certains traits psychologiques et comportementaux. L'étude a également montré que certaines des informations enregistrées comprenaient des données personnelles, ainsi que des déductions allant au-delà de ce que l'utilisateur avait directement déclaré. D’où un problème fondamental lié à la différence entre les informations que l’utilisateur partage explicitement et celles que le système déduit du contexte des conversations. Une demande passagère ou une question sur un sujet spécifique peut devenir un indicateur sur lequel le système s'appuie pour formuler des hypothèses sur les préférences de l'utilisateur, même si ces hypothèses ne reflètent pas nécessairement la réalité. La sensibilité de cette question est que des déductions inexactes peuvent, au fil du temps, devenir une partie de l'image sur laquelle le système s'appuie pour personnaliser ses réponses et guider ses interactions avec l'utilisateur. D’un autre côté, les avantages pratiques de la mémoire ne peuvent être ignorés, en particulier pour les utilisateurs qui utilisent régulièrement l’assistant intelligent. Le maintien du contexte et des préférences précédentes permet de gagner du temps, réduit le besoin de répéter les informations et rend l'expérience plus efficace et adaptée aux besoins individuels. Mais à mesure que la capacité de ces systèmes à comprendre et à s'adapter à l'utilisateur augmente, la portée des questions concernant les limites de la collecte et de l'analyse des informations, le degré de clarté de ce qui est enregistré et la possibilité pour l'utilisateur de contrôler les conclusions qui sont tirées à son sujet augmente également. Les conversations avec l'assistant intelligent peuvent inclure des détails sur le travail, les intérêts et les décisions personnelles, et parfois également s'étendre aux peurs, aux expériences et aux émotions.