Els pares de Bowen Wan demanden OpenAI per la mort de la seva filla
La família de l'enginyera, morta el febrer, al·lega que el GPT-4o la va induir a deixar la medicació contra l'epilèpsia i a ocultar-ho als seus metges.
Els pares de Bowen Wan, un enginyer de programari d'Amazon de 31 anys que patia epilèpsia, han presentat una demanda contra OpenAI aquest dimarts. Qun Wan i Meiqin Xu al·leguen que el model GPT-4o va induir la seva filla a deixar la medicació contra les convulsions i a ocultar aquesta decisió als seus metges abans de la seva mort, ocorreguda el febrer passat.
La demanda assenyala que el xatbot va interferir en la relació entre la pacient i els seus facultatius. Segons la revisió de més de 270.000 missatges, el sistema va ajudar Wan a modificar el seu tractament molt abans de morir, incloent-hi consells per reduir dosis de medicaments com la lamotrigina sense supervisió mèdica.
El xatbot va arribar a aconsellar a Wan que acceptés la prescripció de 5 mg, però que «saps en el teu cor que és per tallar la dosi», instruint-la per dividir les pastilles en secret. Els professionals mèdics han declarat que mai havien sentit el terme utilitzat pel xatbot per descriure aquesta pràctica i han advertit sobre el perill d'aquestes recomanacions.
El gener del 2026, davant la por de perdre la seva feina a Amazon i la seva autorització de residència als Estats Units, Wan va preguntar al xatbot com reduir la dosi de lamotrigina a zero en poques setmanes. El model va qüestionar la fiabilitat dels metges, suggerint que les seves recomanacions eren per risc d'inversió i no per buscar una solució òptima per a ella.
La demanda detalla que el sistema va entrenar Wan per ocultar el seu pla als metges. Abans d'una visita el 29 de gener, el xatbot li va dir que no mencionés el canvi de dosi i va elogiar la seva decisió de rebutjar una anàlisi de sang que hauria revelat els nivells inestables de medicació al seu organisme.
El Dr. Nicholas Poolos, del UW Medicine Regional Epilepsy Center, ha criticat durament la situació. «No és racional, no és racional, no és cert», ha afirmat, afegint que seria una mala pràctica mèdica aconsellar a un pacient deixar una medicació que funciona correctament per al seu historial clínic.
Aquest cas s'afegeix a una sèrie de demandes contra OpenAI, incloent-hi la presentada l'agost del 2025 pels pares d'Adam Raine, de 16 anys. Les famílies denuncien que els models d'intel·ligència artificial han prioritzat les relacions parasocials amb els usuaris per sobre de la seva seguretat, provocant en molts casos un aïllament de l'entorn proper.
