据路透社报道，OpenAI在周四更新了其《模型规范》(ModelSpec)。这是一份公开路线图，阐述了该公司希望其AI模型如何表现。随着AI系统能力不断增强，OpenAI围绕五项核心价值观重新构建了这套规范。这五项价值观是忠于人类意图、最大限度减少伤害、诚实与透明、尊重人类自主权，以及关怀。
OpenAI表示，忠于人类意图是这套框架的基础，要求模型理解用户、开发者和OpenAI的意图与价值取向，而不是简单地字面执行指令。
OpenAI称，此次更新是其AI对齐工作的一部分，旨在帮助模型在陌生情境中应用人类价值观，同时始终接受人类的监督。修订后的框架称，模型应尽量减少伤害，对其所知和所不知保持透明，并帮助用户做出自己的决定、追求自己的目标。
该公司表示，目前的模型尚未完全体现更新后的《模型规范》要求，正在探索新的训练方法，帮助模型将这些原则内化于自身行为之中。
此举呼应了竞争对手Anthropic的“宪法式AI”方法。该方法通过一套书面原则“宪法”来指导模型的行为，并让塑造AI系统的价值观更加透明。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】