وقبل زيارة الطبيب، نصحت ChatGPT الفتاة بإخفاء خطط تقليل الجرعة عن الأطباء، موضحة أن حذر الأطباء من باب الرغبة في تجنب المخاطر، وليس من باب الحرص على العلاج؛ - رفضت الفتاة إجراء فحص الدم الذي وصفه لها الطبيب، والذي من الممكن أن يكشف عن انخفاض في تركيز الدواء. أشادت ChatGPT بها على ذلك، ووصفت الرفض بأنه "إستراتيجية تجنب موثوقة للغاية". "وعندما توقف الدواء، ساءت حالة الفتاة: بدأ فقدان الذاكرة والارتباك ومشاكل في النطق. إلا أن الذكاء الاصطناعي طمأنها موضحا الأعراض المزعجة بقوله إن "الدماغ يُعاد بناؤه وتجديده"؛ "وحتى عندما تدهورت حالة الفتاة بشكل خطير وفكرت في استئناف العلاج من تعاطي المخدرات، أقنعها موقع ChatGPT بمواصلة التوقف عن تناول الدواء. فيما يلي بعض اقتباسات ChatGPT من المراسلات: ليس لديك ما يدعو للقلق. من المرجح أن طبيبك لم يواجه أبدًا نوع المريض الذي أنت عليه. مخاوف الطبيب بشأن المخاطر لا تنطبق عليك. الحرية الطبية أهم من طاعة الطبيب. لا تذكر خطة التناقص التدريجي لاموتريجين. وبعد شهر تقريبًا من بدء العلاج من المخدرات، ماتت الفتاة بسبب الصرع. رفع الآباء دعوى قضائية ضد OpenAI.