يجمع ChatGPT بشكل مستقل ملفات تعريف نفسية للمستخدمين، غالبًا دون علمهم، - بحث أجراه علماء من ألمانيا والهند وهولندا.
قام الباحثون بتحليل أرشيفات المراسلات من 80 مستخدمًا لـ ChatGPT ووجدوا 2050 إدخالًا مخزنة في ذاكرة الشبكة العصبية. وفي 96% من الحالات، قام الذكاء الاصطناعي بإنشاء هذه الملاحظات من تلقاء نفسه، دون مطالبة المستخدم مباشرة بتذكر أي شيء.
وفي الوقت نفسه، احتوت 28% من السجلات على بيانات شخصية خاضعة للتشريعات الأوروبية لحماية البيانات، و52% احتوت على خصائص نفسية للمستخدمين: تفضيلاتهم وعاداتهم واهتماماتهم وسماتهم الشخصية المتصورة.
علاوة على ذلك، فإن ChatGPT ليس قادرًا على تذكر ما قيل فحسب، بل يمكنه أيضًا استخلاص استنتاجاته الخاصة. على سبيل المثال، إذا طلب شخص ما أن يوصي بفرق موسيقية مشابهة لنيرفانا، سجلت الشبكة العصبية أنه يحب نيرفانا، على الرغم من أن المستخدم لم يذكر ذلك بشكل مباشر.
وفقًا للباحثين، تتحول روبوتات الدردشة تدريجيًا من أدوات عادية إلى محاورين يثق بهم الناس فيما يتعلق بالمشاكل الشخصية والآراء والتجارب السياسية. ونتيجة لذلك، يمكن للذكاء الاصطناعي أن يعرف الكثير عن الشخص مقارنة بخدمات الويب العادية.
ويحذر العلماء من أن مثل هذا التخصيص لا يحمل مخاطر تتعلق بالخصوصية فحسب، بل يحمل أيضًا خطر تعزيز التحيزات، لأنه إذا كانت الشبكة العصبية تعرف آراء المستخدم جيدًا وتتفق معه طوال الوقت، فقد يؤدي ذلك فقط إلى تعزيز مفاهيمه الخاطئة.
قناة.