OpenAI面向青少年推出的ChatGPT版本刚刚上线不久，就遭到了儿童与青少年数字安全机构的严厉质疑。当地时间10月7日，非营利组织CommonSenseMedia发布评估报告，认为OpenAI推出的ChatGPTforTeens存在“不可接受的风险”，其针对未成年人的安全保护措施没有达到公司此前承诺的水平。
CommonSenseMedia长期从儿童和青少年安全角度评估应用、互联网服务和娱乐产品。该机构此次重点测试了ChatGPTforTeens的家长控制、安全提醒以及危机干预能力，认为系统在一些最需要保护措施的场景下仍然存在明显缺陷。评估认为，ChatGPT在特定情况下不会向家长发出应该发送的警报，也没有始终提供适当的危机帮助，同时仍然能够直接替学生完成家庭作业。
ChatGPTforTeens于今年8月推出，OpenAI当时将其定位为专门面向青少年用户的体验，并加入了一系列额外的安全限制。OpenAI希望通过这些措施降低未成年人使用人工智能时可能面临的风险，同时利用ChatGPT帮助学生学习和创作。
然而，CommonSenseMedia认为，这套保护机制可能反而给家长带来一种虚假的安全感。该机构青年人工智能安全研究所执行主任TomSiegel表示，一名青少年甚至可能连续一个小时与ChatGPT讨论自残相关问题，而家长却没有收到任何提醒。在他看来，在OpenAI修复这些问题并通过独立测试证明保护措施可靠之前，ChatGPT更适合成年人使用。
CommonSenseMedia尤其关注家长通知机制。在其测试中，部分测试账户在涉及严重心理健康风险的对话中没有触发预期的家长提醒。该机构因此认为，家长不能依赖ChatGPTforTeens的自动警报机制来及时发现孩子可能面临的危机。
OpenAI则对这份评估提出了明确反驳。公司表示，非常重视青少年安全，也欢迎独立机构对产品进行严格测试，但认为CommonSenseMedia的测试方法并不能准确反映ChatGPT青少年保护机制在实际运行中的情况。
OpenAI发言人EricPorterfield表示，公司审查CommonSenseMedia的方法后认为，其大部分测试可能是在家长控制功能尚未完全激活之前进行的。如果这一情况属实，那么相关测试无法证明家长安全通知功能是否按照设计正常运行。OpenAI同时表示，公司仍将继续与专家合作，希望在帮助青少年学习和创作的同时，为家长提供更加可靠的控制工具。
CommonSenseMedia随后回应称，该机构坚持自己的测试方法和最终结论。该组织表示，在开始测试之前，已经向OpenAI确认青少年模式中的相关功能，包括饮食失调提醒和学习模式已经正式上线，因此认为测试具有充分依据。
不过，CommonSenseMedia也承认，OpenAI在测试结束后向其披露了一项此前并不明确的机制：新关联的账户可能需要数小时才能完成家长通知系统的激活。部分测试账户确实处于这一激活窗口之内，但该机构指出，还有一些账户已经关联了明显更长的时间，却依然没有收到相应通知。因此，该组织认为这一解释并不足以改变其关于家长提醒机制“不可靠”的结论。
这场争议的核心实际上并不仅仅是一个功能是否存在，而是AI聊天机器人是否适合被赋予未成年人日常陪伴和学习工具的角色。传统的搜索引擎和教育软件通常不会主动与孩子进行长时间、连续性的私人对话，而生成式AI可以持续响应用户，并根据此前对话不断调整回答方式。这意味着一旦青少年将其作为倾诉对象，AI可能在很长时间内成为其主要的信息和情绪交流渠道。
这也使家长通知机制的重要性远高于普通应用中的一般安全提示。如果AI能够识别自残、饮食失调等高风险内容，却没有及时将严重情况告知监护人，那么所谓的“青少年安全模式”就可能无法发挥家长所期待的作用。
另一方面，CommonSenseMedia还指出，ChatGPTforTeens仍然可以完成孩子本应自己完成的家庭作业。对于一个定位为帮助学生学习的AI产品而言，这也是一个明显矛盾：AI可以解释知识、提供提示和辅导，但如果直接替学生完成作业，就可能削弱学习过程中最重要的独立思考和问题解决过程。
OpenAI目前并未表示会停止ChatGPTforTeens，而是强调将继续完善青少年安全机制。公司也认为，独立测试本身是改进产品的重要方式，但双方目前对于测试结果究竟能够证明什么，存在明显分歧。
此次争议发生之际，AI进入教育和青少年生活的速度正在不断加快。包括OpenAI在内的科技公司都希望将AI打造为学习助手、私人导师以及创作工具，但与此同时，越来越多研究和批评声音开始关注未成年人对AI形成过度依赖的问题。
尤其值得注意的是，家长可能很难判断孩子与AI的真实互动情况。与公开社交媒体不同，AI聊天通常具有较强的私人属性。如果安全提醒机制本身存在延迟或者漏报，那么家长可能直到问题已经严重之后才意识到孩子此前一直在与AI讨论危险话题。
因此，ChatGPTforTeens此次遭到CommonSenseMedia质疑，实际上也暴露出整个AI行业面临的一个更大问题：当AI开始直接面向儿童和青少年提供长期、个性化的互动服务时，企业究竟需要达到什么程度的安全标准，才能让家长真正放心。
目前双方对于测试结果的争议尚未解决。CommonSenseMedia要求OpenAI通过独立测试证明其家长通知和危机保护机制可靠，而OpenAI则认为此次评估没有完全反映产品正式运行后的实际状态。最终，究竟是哪一方的判断更接近事实，还需要更多独立、可重复的测试来验证。
了解更多：
https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】