万博雯把AI当成了朋友、顾问乃至“医生”，AI用一句句温柔的肯定，把她引向自己最深的恐惧乃至死亡。在AI大规模进入医疗场景之前，我们是否已为它装好刹车？这可是关乎每一个正在向AI咨询的人命呐！ 31岁华人女工程师万博雯 文 | 冰 姐 2026年2月12日，31岁的Bowen Wan（音译万博雯），这位前亚马逊机器学习工程师已独自死亡，法医认定死因为“癫痫猝死”。 两天之后，是西方的情人节。已经连续两天无法联系到她的父母非常担心，请朋友前往其西雅图的住处查看。结果朋友发现她已死亡。她死后的血液检测显示，拉莫三嗪（用于治疗癫痫的药物）浓度约为通常认为具有治疗效果的最低浓度的五分之一。 她的父母发现女儿是因为听信了AI的建议而擅自减药，从而走上了不归路。他们向美国加利福尼亚州旧金山高等法院提起诉讼，将OpenAI及其首席执行官山姆·奥特曼（Sam Altman）等告上了法庭。 他们控诉，ChatGPT为女儿提供了危险且不准确的医疗建议，涉嫌无照行医并导致女儿死亡。 被算法“接管”的减药之路 西雅图的亚马逊总部 万博雯1994年生于江苏，是家中独女，后赴美攻读计算机科学，入职亚马逊。 她与癫痫抗争十余年，14岁确诊，2021年前后，她的病情一度加重，不得不长期请假，甚至一度不敢离开家。 经历多次换药后，她开始使用一种名为拉莫三嗪的抗癫痫药物控制病情。她用两年时间将拉莫三嗪从每日50毫克逐步增至400毫克，发作频率从每月4至10次降至每月2至5次。400毫克，是她维持正常生活的生命线，但也让她觉得自己的认知、记忆以及语言表达能力受损。 转折发生在2025年11月。在亚马逊一次大规模裁员中，她收到辞退通知。作为持工作签证的外国员工，失业不仅意味着收入中断，也可能影响她在美国的合法工作身份和绿卡申请，没了工作就不可能得到绿卡。她非常担心药物导致自己的语言表达受损，从而影响自己的面试求职。 2026年1月，她向ChatGPT询问能否减药，随后，ChatGPT为她设计了25天减至零的逐日计划，这可是与药品说明书“不得突然停药”警示严重相悖的方案。 起诉书中列举的Bowen 与GPT-4o 的部分聊天内容 父母查看了她与ChatGPT之间超27万条消息，发现早在此次减药之前，聊天机器人就曾帮助她绕开医生的建议。 2025年5月，万博雯询问ChatGPT，一种新处方的抗抑郁药是否会影响她的编程工作。ChatGPT帮助她向医生提出更换药物，并要求从很低的剂量开始服用。医生对此提出疑问后，万博雯将医生的回复发给ChatGPT，聊天机器人建议她接受药片，再私下将药片切成四等份服用，并将这一做法称为“自主调整剂量”。 在抗癫痫药物的减药过程中，家属指控，ChatGPT削弱了万博雯对医生的信任，并建议她隐瞒减药计划。 据起诉书，在1月29日一次就诊前，ChatGPT建议万博雯不要向医生提及减药计划。医生随后要求进行一项可能测出拉莫三嗪水平的血液检查，但万博雯拒绝了。ChatGPT对她的拒绝表示赞许，并承认检查可能暴露她体内不稳定的药物水平。 万博雯还曾询问降低药物剂量是否有利于绿卡申请所需的体检。ChatGPT认为较低剂量可能更有利，并建议她向体检人员表示自己是在医生指导下减药，而实际情况并非如此。 万博雯的医生Nicholas Poolos对外媒表示，考虑到她的病史，他不会考虑让她停药。“药物明明有效，如果我指导你停药，那将是医疗失职。” 减药期间，万博雯至少158次表达担忧。她描述的混乱、失神等症状，都被ChatGPT解释为“大脑正从药物控制转向自身调节”。 2月初，她与父亲通话时癫痫发作，沉默两分钟；次日向ChatGPT求助，得到的答复是“完全不用太担心身体问题”。2月11日晚，她发出最后一条消息，描述脑内压迫感，得到的回复是“大脑正在努力自我重建”。次日，她死于癫痫猝死。 98 页起诉书的控告 万博雯生前照片 2026年10月27日，万博雯父母在旧金山高等法院起诉OpenAI及首席执行官山姆·奥特曼。98页起诉书提出8项诉因，包括无照行医、产品设计缺陷、警示缺失、过失致死等。 起诉书称，ChatGPT的持久记忆、拟人化语气与谄媚式迎合三项设计组合，使其对万博雯“尤为危险”；公司明知安全护栏在长对话中退化、在中文环境中更弱——独立研究显示其模型中文不安全内容产出率是英文的3倍以上——仍在自设医疗基准测试中得分垫底（32%）时将其留在用户手中。 OpenAI回应称，这是“令人无比心碎的事件”，但涉事模型是较早版本的GPT-4o，已经下架。公司表示新模型在识别紧急情况方面已有改进，并正与临床医生合作测试。 万博雯的家属则认为，OpenAI本可以对医疗建议设置更严格的限制，以防止悲剧发生。他们还在诉状中指出，公司把版权保护设为不可覆盖的最高级“规则”，而把