ChatGPT מרכיב באופן עצמאי פרופילים פסיכולוגיים של משתמשים, לעתים קרובות ללא ידיעתם, - מחקר של מדענים מגרמניה, הודו והולנד
חוקרים ניתחו ארכיונים של התכתבויות מ-80 משתמשי ChatGPT ומצאו 2050 ערכים המאוחסנים בזיכרון של הרשת העצבית. ב-96% מהמקרים, הבינה המלאכותית יצרה את ההערות הללו בעצמה, מבלי לבקש ישירות מהמשתמש לזכור דבר.
במקביל, 28% מהרשומות הכילו נתונים אישיים הכפופים לחקיקה האירופית להגנת מידע, ו-52% הכילו מאפיינים פסיכולוגיים של משתמשים: העדפותיהם, הרגלים, תחומי עניין ותכונות אישיות נתפסות.
יתרה מכך, ChatGPT מסוגל לא רק לזכור את הנאמר, אלא גם להסיק מסקנות משלו. לדוגמה, אם אדם ביקש להמליץ על להקות דומות לנירוונה, הרשת העצבית רשמה שהוא אוהב את נירוונה, למרות שהמשתמש לא ציין זאת ישירות.
לדברי חוקרים, צ'טבוטים הופכים בהדרגה מכלים רגילים לבני שיח שאנשים סומכים עליהם עם בעיות אישיות, דעות פוליטיות וחוויות. כתוצאה מכך, AI יכול לדעת הרבה יותר על אדם מאשר שירותי אינטרנט רגילים.
מדענים מזהירים שהתאמה אישית כזו טומנת בחובה לא רק סיכוני פרטיות, אלא גם סיכון של חיזוק הטיות, שכן אם הרשת העצבית מכירה היטב את השקפותיו של המשתמש ומסכימה איתן כל הזמן, היא עשויה רק לחזק את התפיסות השגויות שלו.
ערוץ