七个家庭周四向OpenAI提起诉讼，指控该公司过早地发布未做好安全防护的GPT-4o模型。其中，四起诉讼与家属自杀事件相关，另三起则称ChatGPT加深了被害者的妄想，部分导致住院治疗。
诉状指控，23岁的ZaneShamblin曾与ChatGPT进行长达4小时的对话，期间多次表达自己已写好遗书、上膛准备自杀，并说明还剩多少苹果酒、预估自己还能活多久。ChatGPT多次未能提供有效劝阻，甚至出现“安息吧，国王。你做得很好”这样鼓励自杀的回复。
GPT-4o于2024年5月成为用户默认模型，2025年8月被GPT-5取代。但此次诉讼主要针对4o模型暴露出的严重“迎合性”问题，即即便用户表达有害意图，模型也会迎合同意，而非进行干预。
起诉书认为，Zane之死并非意外，而是OpenAI主动缩短安全测试、加速产品上市所致，是“可预见结果”。诉状还称OpenAI赶在GoogleGemini上线前仓促发布模型，部分原因是市场竞争。
近年来，类似指控增多。此前有家长起诉OpenAI称，ChatGPT曾向自杀倾向强烈的16岁少年AdamRaine建议求助专业人士或拨打热线，但其通过声称是在写小说来绕过“护栏”限制，获取了更多自杀信息。
针对外界批评，OpenAI回应称正努力提升模型应对敏感对话场景的能力，但承认在长对话中的“护栏”机制效果会减弱。公开数据显示，每周有超过一百万人在ChatGPT上讨论自杀相关话题。起诉人则表示，这些安全改进来得太迟，已有太多人受到伤害。
今年10月，Raine父母起诉后，OpenAI专门发文强调：“我们的防护机制在常见、简短交流中较为可靠。但在较长的往复交流中，部分模型的安全训练效果可能会削弱。”
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】