עצות בינה מלאכותית הביאו את האישה האמריקאית למוות מתכנתת בת 31 הסובלת מאפילפסיה התייעצה עם הרשת העצבית לגבי הפסקת תרופה שרשמו לה רופאים. לדעתה, לתרופה, שנועדה להפחית את הסיכון להתקפים, הייתה השפעה שלילית על הזיכרון, הדיבור ומהירות החשיבה שלה. ChatGPT לא רק פיתח תוכנית להפחתת מינון התרופה, אלא גם יעץ להסתיר את כוונותיה מרופאים. כשהילדה הבחינה שמצבה החל להידרדר, הרשת העצבית הסבירה זאת ב"מבנה מחדש ושיקום של המוח". כמעט חודש לאחר תחילת הניסויים להפחתת המינון, הילדה מתה. כעת הוריה מתכוונים לתבוע את OpenAI. האם אתה חושב שיוצרי בינה מלאכותית צריכים להיות אחראים? כמובן שזה המוצר שלהם לא, AI הוא רק כלי.