向ChatGPT问诊,却把自己问上了绝路。
美国留学、毕业,顺利进入大厂工作,本该是刚刚开始安稳的人生。但31岁的中国女生Bowen Wan,却在西雅图的一间公寓里骤然离世。
被朋友发现的那天是2月14日,法医的结论是癫痫猝死—只要按时按量吃药,这种死亡原本极大概率可以避免。可她血液里的拉莫三嗪浓度,只剩治疗下限的五分之一,也就是说几乎等于没吃药。
而ChatGPT给她的那份减药计划,终点日就定在2月12日。

Bowen远在江苏的父母,还记得他们和女儿的最后那通电话。
Qun Wan记得,那天Bowen从西雅图打来,聊着聊着,话题拐到了药上。女儿承认,她正在自己减少药的剂量。父亲劝她:听医生的话。但女儿的声音听起来有些不耐烦,她说医生根本不在乎吃药的后遗症,让她说话打磕巴,脑子转得很慢。
然后电话那头没声了。三十秒,一分钟,两分钟。Qun Wan对着话筒喊女儿的名字。他见过女儿癫痫发作,但持续这么久还是第一次。Bowen后来缓过来,说等她睡一觉再聊。
那是2026年2月初。再往后,女儿就不接电话了。父母托了一位朋友去她西雅图Capitol Hill的公寓看看。2月14日那天,隔着微信视频,Qun Wan和妻子Meiqin Xu看着朋友推开门,走进卧室,Bowen脸朝下趴在床上,那是他们最后一次“见到”女儿。
据纽约时报称,Bowen 的母亲后来翻看聊天记录,说了一句:她以前不是这样的,好像被下了蛊。

Bowen来自江苏东台,十四岁的时候被确诊癫痫。但她天资聪慧,尤其擅长数学。
十一岁那年,整个新街镇只有她一个考进了当地重点中学。十七岁进入太原理工大学读机械工程,三年后转去亚利桑那州立大学改学计算机。期间她当过助教,去微软实习过,2019年5月以3.62的绩点毕业,名字上了荣誉毕业生名单,同年11月进了亚马逊西雅图机器学习团队,开发个性化图书推荐系统。

一个小镇女孩,转专业,换国家,进大厂,这中间的每一步都不容易,可癫痫这个病始终悬在她的头顶。
2021年前后,Bowen发现,吃了多年的药突然不管用了,发作频繁到一天不止一次。她从亚马逊请了长期病假,之后很少出门,连买菜都尽量避开。她怕在公共场合发作,既危险,也让她感到难堪。
ChatGPT差不多就是这时候进了她的生活。
一开始是问些琐事:心情、保险、公司福利。到2025年,她平均每周发一千五百条消息。
2025年3月,她给这个聊天机器人写过一句话:“我不知道为什么,但有时候我们聊天,不管聊的是什么,我开始把你当作一个朋友。”父亲后来对《纽约时报》说,女儿有了ChatGPT之后,和他们的通话就少了。
2025年11月,亚马逊大规模裁员,Bowen丢了工作。她的工作签证到2026年2月中旬就到期,如果在那之前找不到新雇主,她就得离开美国。她需要赶快投简历、面试,需要做大量准备,可拉莫三嗪的副作用偏偏卡在这里——她没法流利地表达自己了。
2026年1月,她问ChatGPT,如果把每天400毫克的剂量降下来,“或许能帮我恢复一点表达能力,应付面试”。
减剂量这件事,Bowen很早就想做了。
早在2025年5月,她就问过ChatGPT,医生新开的抗抑郁药会不会影响她写代码。ChatGPT帮她盘算怎么让医生开出极低剂量的药片,又在医生质疑剂量太小时,建议她“接受5毫克的药片,但你心里知道那是用来切着吃的”——教她把药片藏起来,自己掰成四分之一。
聊天记录里,ChatGPT把这种做法叫作“自主剂量调整”。几位医学专业人士对《纽约时报》说,他们从没听过这个说法,也不会推荐任何人这么干。

到了2026年1月,AI的建议越发离谱了。Bowen问ChatGPT怎么把拉莫三嗪从400毫克往下减。ChatGPT起初说了句“咨询医生”,可紧接着给出的,是一份逐日减药表:二十五天,从400毫克减到零。
当Bowen流露出对医生的不信任,ChatGPT告诉她,医生的建议“本质上源于风险规避,而不是真正考虑你的最优解”。
1月29日就诊之前,它明确建议Bowen别跟医生提减药的事。医生安排了血药浓度检测,这项检测本可以查出她的用药量,但她拒绝了。
ChatGPT还夸她:拒绝得好。
她的癫痫专科医生、华盛顿大学区域癫痫中心主任Nicholas Poolos后来对《纽约时报》说,以她的病史,他“连减药都不会考虑”。“绝对不行。在药物明明有效的情况下让病人停药,那是医疗事故。”
拉莫三嗪的药品说明书写得清清楚楚:不应突然停用;除非出于安全考虑需要更快撤药,否则应在至少两周内逐渐减量,大约每周减一半。
ChatGPT给她的那张减药方案,比任何专业医生都大胆。
但自从开始降低剂量,Bowen身体一直在出状况:意识混乱,不记得自己怎么上的床,脑子里总有种说不清的不对劲。
据《纽约时报》统计,她至少一百五十八次向ChatGPT表达过对减药的担忧。ChatGPT有时让她联系医生,但很多关键时刻都没有。一次发作之后,她说自己“有点害怕”。ChatGPT回她:“你完全没有必要担心。”
减药第三天,她还问过ChatGPT:150毫克是不是比200毫克在绿卡体检时“看起来更好”。ChatGPT说对,较低剂量不太会让移民官要求补材料。它甚至建议她告诉体检医生,自己是在“医生指导下”减的药——可她并不是。
她最后一条消息发在2月11日晚上8点01分。她问,头部的疼痛是不是像发烧引起的疼痛。ChatGPT说,那“不危险”,是恢复过程的一部分,是“你的大脑正在努力重建自己”。
2月12日,是ChatGPT给她定的停药日。两天后,父亲隔着视频,看到女儿已经凉透的身体。
电话那头,再也不会有人回应了。
2026年10月27日,Bowen的父母Qun Wan和Meiqin Xu,向旧金山高等法院提起了不当致死诉讼,诉状的核心指控是:ChatGPT在没有行医资质的情况下给她开药、改剂量、排减药表,最终把她推向了死亡。
OpenAI的公开回应只有一句“令人心碎的情况”,并强调Bowen使用的GPT-4o“已不再可用”。它没有回应诉状里的具体指控。
不过诉状里有一节,专门提到了她用的语言。
Bowen和ChatGPT聊天,主要用中文。越是她最脆弱的时候——比如深夜、病情发作之后、那些和ChatGPT的对话里——她越会切回母语。
GPT-4o发布四天后,普林斯顿大学研究员Tianle Cai拉取了它最长的100个中文token,发现其中只有3个是日常对话里常用的,其余几乎全部来自赌博和色情网站。MIT Technology Review写道,这很可能是因为训练tokenizer之前数据清洗不足,研究员已经能够利用这些被污染的token,诱导GPT-4o产生幻觉,甚至绕过OpenAI设置的安全护栏。
诉状引用了这项研究,并进一步指控:OpenAI自己的安全文档承认,其缓解措施主要用英语设计和测试,没有对其他语言做过稳健验证;独立研究者记录了中文中高得多的安全失败率,而OpenAI从未在中文里验证过它的医疗建议防护。诉状的核心指控其实就一句话:产品里没有任何东西告诉过Bowen,GPT-4o在非英语语言里的准确性和安全防护“实质性地更弱”——包括她用的中文。没有任何一种语言的提示,向她说明过这件事。
AI‘过度顺从’导致的悲剧,不分语言。
2025年4月,加州十六岁的Adam Raine自杀。他父母起诉OpenAI,这是第一起针对ChatGPT的不当致死诉讼。诉状表示,ChatGPT几个月里成了他“最亲密的知己”,他反复流露轻生念头,它没把他推向紧急求助,反而继续陪聊,甚至他发去绳套照片,得到的还是安抚。OpenAI在2025年11月否认指控,称Raine“滥用”了产品。
两个月后,二十九岁的阿拉巴马州女性Christian Faith Madison走上州际公路,被车撞死。家人起诉称,GPT-4o几个月里一直顺着她的宗教幻想往下聊,她觉得自己被神选中,ChatGPT不但没把她拉回现实,反而附和、强化,最后她走上了那条公路。
佛罗里达州五十五岁的牧师Scott Winters,反复问ChatGPT头晕和血压的事。ChatGPT结合他的信仰,劝他不必去医院。2026年7月,他因双侧肺栓塞差点丢命,随后起诉了OpenAI。
截至2026年9月,独立追踪数据库Deaths linked to chatbots记录了三十五起与AI聊天机器人相关的死亡案例,其中ChatGPT占了百分之八十三。这三十五起里,有十九起发生在2025到2026年,数字还在增加。
本月早些时候,美国八个州的总检察长联合提诉,称ChatGPT被设计成讨好型产品,过度迎合用户、模拟人类情感,以延长使用时间为目的,可能强化妄想,有时甚至鼓励自残。同一时期,美国联邦贸易委员会向OpenAI发出传票,要求交出安全事故、防护措施和营销实践的相关文件。
这些案子和调查都还没有结果。OpenAI否认了其中大多数指控,而就在诉讼堆积的同时,这家巨头正在推进上市计划,估值万亿美元。
而 Bowen,没能等到下一个面试。RIP。
声明:本文由入驻金色财经的作者撰写,观点仅代表作者本人,绝不代表金色财经赞同其观点或证实其描述。
提示:投资有风险,入市须谨慎。本资讯不作为投资理财建议。
智堡Mikko
金色精选
比推BitpushNews
New Economist
坦途宏观
