ChatGPT به طور مستقل پروفایل های روانشناختی کاربران را اغلب بدون اطلاع آنها جمع آوری می کند - تحقیقات دانشمندان آلمانی، هندی و هلندی.
محققان آرشیو مکاتبات 80 کاربر ChatGPT را تجزیه و تحلیل کردند و 2050 مدخل ذخیره شده در حافظه شبکه عصبی را پیدا کردند. در 96٪ موارد، هوش مصنوعی این یادداشت ها را به تنهایی ایجاد می کند، بدون اینکه مستقیماً از کاربر بخواهد چیزی را به خاطر بسپارد.
در همان زمان، 28٪ از سوابق حاوی داده های شخصی بود که مشمول قوانین حفاظت از داده های اروپا بود، و 52٪ حاوی ویژگی های روانی کاربران بود: ترجیحات، عادات، علایق و ویژگی های شخصیتی درک شده آنها.
علاوه بر این، ChatGPT نه تنها قادر است آنچه گفته شد را به خاطر بسپارد، بلکه می تواند نتیجه گیری های خود را نیز انجام دهد. به عنوان مثال، اگر شخصی بخواهد باندهایی مشابه نیروانا را توصیه کند، شبکه عصبی ثبت کرد که او نیروانا را دوست دارد، حتی اگر کاربر مستقیماً این را بیان نکرده باشد.
به گفته محققان، چت بات ها به تدریج از ابزارهای معمولی به گفتگوهایی تبدیل می شوند که مردم با مشکلات شخصی، نظرات و تجربیات سیاسی به آنها اعتماد می کنند. در نتیجه، هوش مصنوعی می تواند بسیار بیشتر از خدمات وب معمولی در مورد یک شخص بداند.
دانشمندان هشدار می‌دهند که چنین شخصی‌سازی نه تنها خطرات حریم خصوصی را به همراه دارد، بلکه خطر تقویت سوگیری‌ها را نیز به همراه دارد، زیرا اگر شبکه عصبی نظرات کاربر را به خوبی بشناسد و همیشه با آنها موافق باشد، ممکن است تصورات غلط آنها را تقویت کند.
کانال