2月11日，人工智能公司OpenAI证实，已解散其内部“使命对齐”（MissionAlignment）团队，这一团队过去主要负责确保公司研发的人工智能系统“安全、可信，并持续与人类价值观保持一致”。该团队前负责人乔什·阿奇亚姆（JoshAchiam）同时获任新设岗位——OpenAI首席未来学家（ChiefFuturist）。
OpenAI方面表示，原“使命对齐”团队的成员已被分配到公司内部的其他岗位，但人数仅为六到七人左右。发言人未透露这些员工具体进入了哪些部门，仅称他们在新岗位上仍从事与以往类似的工作。目前也尚不清楚阿奇亚姆在担任首席未来学家后，是否会重新组建新的团队。
“使命对齐”团队成立于2024年9月，作为OpenAI内部专门研究“对齐问题”的核心力量，致力于确保人工智能系统在复杂、真实世界环境以及对抗性场景中依然能遵循人类意图，避免灾难性行为，并保持可控、可审计以及与人类价值观的一致。OpenAI在其对齐研究博客中曾公开写道，公司希望这些系统能够“在复杂、真实世界情境和对抗性条件下，一贯地遵循人类意图，避免灾难性行为，并保持可控性、可审计性和与人类价值的对齐”。相应的招聘信息也将该团队定位为专注“开发方法，使AI能够在包括高风险或对抗性情境在内的广泛场景中稳健地遵循人类意图”的研究部门。
在新发布的一篇博客文章中，阿奇亚姆详细阐述了自己作为首席未来学家的新角色。他表示，其工作目标是通过研究世界将如何因AI、通用人工智能（AGI）乃至更远未来的技术发展而发生变化，从而支持OpenAI“让AGI造福全人类”的使命。阿奇亚姆还透露，他在新岗位上将与OpenAI技术团队中的物理学家杰森·普鲁特（JasonPruet）展开合作。
对于此次团队调整，OpenAI发言人将其归因于一家高速发展企业内部常见的“例行重组”。这并非OpenAI首次对安全与对齐相关团队进行组织调整：公司曾在2023年组建“超级对齐”（Superalignment）团队，专门研究AI可能带来的长期生存性威胁，但该团队已于2024年被解散。
目前，阿奇亚姆的个人网站仍将其职务标注为OpenAI“使命对齐负责人”，并称他关注如何确保“人类的长期未来是好的”。其LinkedIn资料显示，他自2024年9月起担任MissionAlignment负责人，直至此次职位变动。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】