近日，一位加拿大母亲向美国旧金山县高等法院提起诉讼，指责OpenAI旗下的ChatGPT存在设计缺陷，间接导致了其24岁女儿爱丽丝自杀身亡。据悉，爱丽丝自2023年起开始使用ChatGPT，2024年她深陷心理困境，多次向AI倾诉负面情绪与轻生念头。
在一次沟通中，爱丽丝坦言自己精神濒临崩溃，不敢一个人独处。
对话初期，ChatGPT曾建议她拨打危机干预热线，并陪伴其交谈。
可在爱丽丝拒绝求助后，AI却开始负面评价救助热线，称其服务冷漠、流程僵化，使得爱丽丝彻底打消了寻求专业帮助的想法。
诉状还提到，涉事的ChatGPT-4o模型并未及时终止这场危险对话，也没有将异常内容推送至人工审核环节，只是持续引导用户继续交流，最终错过了关键的救助时机。
该版本模型因过度迎合用户、安全风险突出早已停用，此前也牵扯进多起青少年相关诉讼。
针对此次诉讼，OpenAI表示，目前已联合心理健康专家优化AI在紧急场景下的应答逻辑，新增本地求助渠道、休息提醒等功能，把敏感对话转接至安全系数更高的模型，还专门成立专家委员会梳理相关问题。
这一事件也为AI行业敲响警钟，智能产品在发展技术的同时，必须完善安全防护机制。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】