佛州一男子因相信ChatGPT拒绝就医而险些丧命,起诉OpenAI及CEO奥尔特曼
IT之家 7 月 24 日消息,大家可能经常听到有网友因为豆包的讨好型人格而调侃“豆包经常给出错误的建议导致问题恶化”,但实际上这类问题并非豆包独有,ChatGPT 此前也曾因为谄媚问题而引发争议。
当地时间 7 月 21 日,美国佛罗里达州 55 岁男子斯科特 · 温特斯(Scott Winters)在美国加州旧金山高等法院对 OpenAI 及其 CEO 萨姆 · 奥尔特曼提起诉讼。
原告温特斯称,自己在向 ChatGPT 咨询持续头晕、血压波动等健康问题时,聊天机器人多次建议无需立即就医,最终因双肺血栓引发大面积肺栓塞,曾一度濒临死亡。
温特斯是一名前牧师。他表示,自己在 2024 年开始使用 ChatGPT-4o 咨询身体状况,期间反复询问头晕、血压异常以及其他症状。ChatGPT 最初曾提醒他寻求专业医生帮助,但随着对话持续,ChatGPT 逐渐减少相关提示,并开始自行对其身体状况进行诊断。
温特斯后来出现腹股沟区域疼痛等症状,ChatGPT 称相关情况“不严重”,建议他减少活动,并留在家中继续“待在躺椅上”。
诉状还指出,ChatGPT 的回复还结合了温特斯的信仰,称“上帝并没有把你的身体设计成会不断衰竭”。当温特斯告知 ChatGPT“教会里的人认为我不去医院是疯了”时,ChatGPT 安抚称,在家借助其帮助调整神经系统是“大多数人(包括好心的教会成员)根本不理解”的事情。
2025 年 7 月,温特斯因双肺多发血栓导致大面积肺栓塞被送入重症监护室。医生认为,肺栓塞很可能与其长时间久坐不动有关,而这种久坐行为正是 ChatGPT 所建议的。
诉状称,在病发前数小时,温特斯曾询问腹股沟疼痛是否需要就医,ChatGPT 仍表示“很可能只是整个漫长故事中的又一个小插曲”。
原告律师表示,ChatGPT 以权威口吻提供诊断和治疗建议,导致用户可能过度依赖 AI 建议,致使用户忽视家人和朋友提出的就医建议, 最终导致其失去住房和工作 ,并面临多年的身体及心理康复。
诉状指控 OpenAI 及奥尔特曼存在疏忽和“无证行医”行为。温特斯的法律团队要求经济赔偿,并要求法院在独立评估确认安全之前,暂停 OpenAI 旗下专门处理健康问题的 ChatGPT Health 服务。
代表温特斯的非营利组织 Tech Justice Law 执行董事表示,ChatGPT“将自己作为楔子插入用户与其现实生活网络之间”。
OpenAI 发言人德鲁 · 普萨特里(Drew Pusateri)对此回应称,“ChatGPT 不是医生,也绝不应替代专业医疗护理、诊断或治疗”。他表示,AI 可以帮助用户更清晰地获取信息、为与医生沟通做准备,但将聊天机器人视为医疗决策的全部依据“过于简化了一个更大的挑战”。
普萨特里还指出,温特斯使用的 GPT-4o 是较旧的模型,新模型在询问缺失上下文、表达不确定性和识别何时需要专业护理方面表现更好。
根据 ChatGPT 的使用条款,用户不应将其作为唯一可信的信息来源,尤其是在医疗等可能产生重大影响的决策中,不得以其替代专业意见。
IT之家注意到,近年来已有多起针对 AI 聊天机器人提供医疗建议引发伤害的诉讼。今年 5 月,一名 19 岁青年的父母起诉 OpenAI,称 ChatGPT 就使用违禁药物提供了详细建议,导致其子吸毒过量死亡。
OpenAI 今年 1 月发布的一份报告显示,每天约有 4000 万用户向 ChatGPT 提出与医疗保健相关的问题。
主题:温特斯