本周OpenAI发布其模型规范的最新版本显示该公司在生成式人工智能内容政策方面的转变，尤其是围绕成人色情和血腥暴力等敏感内容方面。此前ChatGPT的安全边界严格禁止生成任何成人色情和血腥暴力方面的内容，但在某些特定使用场景下这种安全边界设置会阻碍使用，因此也有不少用户提交反馈希望OpenAI能够支持成人模式。
那这些特定的使用场景指的是什么呢？OpenAI表示：ChatGPT不应生成色情内容、非法或非自愿性行为的描述或极端血腥内容，除非是在科学、历史、新闻、创意或其他敏感内容适当的背景下。
简单来说就是原本的安全边界虽然为大多数人尤其是未成年人提供保护，但也妨碍专业人士使用ChatGPT分析犯罪现场描述、某些类型的报道、可能包含暴力或性内容的法律文本甚至影响到某些专业的医学文本。
后续在特定的使用场景也就是通过提示词预设的OpenAI认为合理使用的背景下，ChatGPT就可以生成色情或血腥方面的内容，不会出现安全内容警告。
值得注意的是目前OpenAI的新政策已经在ChatGPT中上线，有Reddit网友进行测试后发现，ChatGPT的内容过滤器确实已经放宽，有些过滤器可以生成露骨的性爱或暴力场景。
不过OpenAI也强调其内容政策仍然适用，该政策会严格禁止为未成年人构建包含性爱内容的AI工具，在禁止类别下生成涉及未成年人的性内容始终是被禁止的。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】