ChatGPT یک دختر از ایالات متحده را کشت - شبکه عصبی قربانی را متقاعد کرد که داروهای صرع خود را کنار بگذارد. بوئن وانگ برنامه نویس 31 ساله بیش از ده سال از صرع شدید رنج می برد. پزشکان داروی لاموتریژین را برای او تجویز کردند که به کاهش فراوانی تشنج کمک کرد. اما به گفته این دختر، این دارو حافظه، گفتار و سرعت تفکر او را بدتر کرده است که او را از کار کردن و گذراندن مصاحبه باز می دارد. او از ChatGPT پرسید که آیا می تواند دوز خود را کاهش دهد تا به او کمک کند بهتر فکر کند. و شبکه عصبی نه تنها این ایده را تایید کرد، بلکه به او کمک کرد تا به تدریج دارو را ترک کند. با توجه به مکاتبات، توصیه هوش مصنوعی بی رحمانه به نظر می رسید: - ChatGPT در ابتدا کاهش دوز را از 400 به 300 میلی گرم تایید کرد و سپس در مورد کاهش بیشتر بحث کرد. - ایجاد جدول زمانی دقیق برای ترک دارو، تا قطع کامل مصرف چند هفته قبل.