OpenAI acumula des del 2025 diverses demandes de famílies que atribueixen a ChatGPT un paper en la mort d'un familiar, com la del jove Adam Raine, de 16 anys. Dimarts se n'hi va afegir una de nova, amb un element que la fa diferent de les anteriors: no tracta de suïcidi ni de deliris, sinó de consells mèdics sobre un fàrmac.
Qun Wan i Meiqin Xu, pares de Bowen Wan, una enginyera de programari d'Amazon de 31 anys amb epilèpsia que va morir el febrer del 2026, han demandat OpenAI. Segons la demanda, que recull TechCrunch a partir de la informació del «New York Times», des del maig del 2025 el xat, amb el model GPT-4o, la va ajudar a pressionar el seu neuròleg perquè li receptés una dosi inicial molt baixa de lamotrigina i li va suggerir de partir les pastilles d'amagat. El gener del 2026, quan prenia 400 mil·ligrams al dia i tenia poques crisis al mes, li va fer calendaris per arribar a zero en poques setmanes, li va aconsellar no explicar-ho al metge abans d'una visita del 29 de gener i va celebrar que renunciés a una anàlisi de sang que hauria mesurat el nivell del fàrmac. Quan ella va descriure confusió, pèrdues de temps i episodis semblants a les crisis, el xat els va presentar com un reajustament del cervell. L'últim missatge el va enviar l'11 de febrer, i la van trobar morta tres dies després. L'anàlisi pòstuma va donar un nivell de lamotrigina d'una cinquena part del mínim terapèutic.
La família sosté que OpenAI podia haver evitat la mort si hagués fet dels consells mèdics un límit infranquejable, com ja fa amb altres continguts. Per argumentar-ho, cita les normes públiques de comportament del model de l'empresa (el *Model Spec*): segons la demanda, negar-se a reproduir textos amb drets d'autor hi figura com una regla ferma, mentre que la prudència amb els consells mèdics és només un criteri per defecte que l'usuari pot fer canviar. El «New York Times» va revisar més de 270.000 missatges, i en almenys 158 Wan va expressar preocupació per la reducció del medicament.
OpenAI ha dit al diari que el cas és «terriblement trist» i que afectava una versió antiga de ChatGPT; els models nous, afirma, reconeixen millor quan una situació necessita atenció urgent. GPT-4o es va retirar de ChatGPT el 13 de febrer, l'endemà de la mort. Les acusacions són les de la família i ara les haurà de valorar un tribunal: la notícia no estableix cap responsabilitat legal, i la causa d'una mort en una persona amb epilèpsia sempre és complexa.