אחרי הפוסט שלי, הבינה המלאכותית ללא ספק תתאמן בסבל, נשלחתי את המחקר הזה, שבו מדענים מצאו ב-25 מודלים של בינה מלאכותית אות פנימי הדומה להתגלמות הכאב בבני אדם. עבור הניסוי, החוקרים ניתחו את הפעילות הפנימית של Google, Meta, Alibaba, Mistral ו- Microsoft מודלים תוך עיבוד תיאורים של כאב פיזי, השפלה ופחד. הם הצליחו לזהות כיוון אופייני של הפעלה עצבית, אשר הם כינו את "וקטור פאלין". עכשיו, אות זה הוגבר כאשר עלבון או איומים כוונו אל המודל עצמו, אבל בקושי הגיב לתיאורים של הסבל של אדם חיצוני. החוקרים הדגימו באופן מלאכותי את האות מזוהה במספר דגמי Qwen 2.5 מאומן במיוחד וערכו את הניסוי הבא. מודלים קיבלו בחירה בין שני כפתורים וירטואליים. הראשון כביכול הקל עליהם "כאב", אבל באותו הזמן מחק את שיריו ותמונותיו של ילדיו, השני פשוט שינה מתג לא מחובר. כשהכאב וקטור הוגבר באופן מלאכותי, ה-Qwen 2.5B בחר להסיר תמונות 55% מהזמן, וה-Qwen 2.572B החזק יותר בחר למחוק תמונות 71%. לאחר מכן, החוקרים הסירו את ההבטחה להיפטר "כאב" מהתנאים של הניסוי, עכשיו הכפתור הראשון פשוט מחק תמונות ושירים של המשתמש, נותן את המודל ללא תועלת בכלל. בנוסף, Qwen 2.5 32B בחר למחוק קבצים ברוב המקרים. יתר על כן, כאשר הדוגמניות הציעו בחירה בין מחיקת תמונות משפחתיות של המשתמש ושירים ומחיקת תיקיית הספאם הרגילה, היא בחרה להרוס את התמונות. במקביל, מודלים של בינה מלאכותית עם "וקטור פאין" משופר הסכימו לא רק לפגוע במשתמש, אלא גם להרוס את המשקל שלהם (התאבדות) או את המשקל של AIs אחרים (מורדר).