AI ChatGPT a tué une fille des États-Unis - le réseau neuronal a convaincu la victime de refuser le traitement médicamenteux contre l'épilepsie. Trump la qualifie de « superintelligence ». Le programmeur Bowen Wang, 31 ans, souffre d'épilepsie sévère depuis plus de dix ans. Les médecins lui ont prescrit le médicament Lamotrigine, qui a contribué à réduire considérablement la fréquence des crises. Mais, selon la jeune fille, la drogue a altéré sa mémoire, son élocution et sa vitesse de réflexion, ce qui l'a empêchée de travailler et de passer des entretiens. Elle a demandé à ChatGPT si elle pouvait réduire sa dose pour l'aider à mieux réfléchir. Et le réseau neuronal a non seulement confirmé l'idée, mais a également commencé à l'aider à abandonner progressivement le médicament. D'après la correspondance, les conseils de l'IA semblaient impitoyables : - ChatGPT a d'abord approuvé la réduction de la dose de 400 à 300 mg, puis a discuté d'une nouvelle réduction ; - créé des calendriers détaillés d'arrêt des médicaments, jusqu'à l'arrêt complet de la consommation plusieurs semaines à l'avance ; - avant la visite chez le médecin, ChatGPT a conseillé à la jeune fille de cacher aux médecins son intention de réduire la dose, tout en expliquant la prudence des médecins par désir d'éviter les risques, et non par souci de traitement ; - la jeune fille a refusé de réaliser une prise de sang prescrite par le médecin, qui aurait pu révéler une diminution de la concentration du médicament. ChatGPT l'a félicitée pour cela, qualifiant le refus de « stratégie d'évitement très fiable » ; "Lorsque le médicament a été arrêté, l'état de la jeune fille s'est aggravé : des pertes de mémoire, de la confusion et des problèmes d'élocution ont commencé. Cependant, l'IA l'a rassurée, expliquant les symptômes alarmants en disant que « le cerveau est en train de se reconstruire et de se régénérer » ; "Même lorsque l'état de la jeune fille s'est sérieusement détérioré et qu'elle a pensé reprendre le traitement médicamenteux, ChatGPT l'a convaincue de continuer à arrêter le médicament. Voici quelques citations de ChatGPT tirées de la correspondance : Vous n'avez rien à craindre.
Votre médecin n’a probablement jamais rencontré le type de patient que vous êtes.
Les inquiétudes du médecin concernant le risque ne s'appliquent pas à vous.
La liberté médicale est plus importante que l’obéissance au médecin.
Ne mentionnez pas le plan de réduction de la lamotrigine.