Anthropic 聘请前 OpenAI 安全负责人领导新团队

扬-莱克（JanLeike）是一位领先的人工智能研究人员，本月早些时候，他在公开批评OpenAI的人工智能安全方法之前从OpenAI辞职，现在他加入了OpenAI的竞争对手Anthropic，领导一个新的"超对齐"团队。Vst品论天涯网

Vst品论天涯网

Leike在X上发表文章说，他在Anthropic的团队将专注于人工智能安全和安保的各个方面，特别是"可扩展监督"、"弱到强的泛化"和自动对齐研究。Vst品论天涯网

一位熟悉内情的消息人士透露，Leike将直接向Anthropic的首席科学官JaredKaplan汇报工作，而Anthropic的研究人员目前正在研究可扩展的监督--以可预测和理想的方式控制大规模人工智能行为的技术--随着Leike团队的发展，他们将转而向Leike汇报工作。Vst品论天涯网

Vst品论天涯网

在许多方面，Leike的团队听起来与OpenAI最近解散的Superalignment团队有着相似的使命。Leike共同领导的Superalignment团队雄心勃勃，目标是在未来四年内解决控制超级智能人工智能的核心技术难题，但经常发现自己受到OpenAI领导层的束缚。Vst品论天涯网

Anthropic经常试图将自己定位为比OpenAI更注重安全。Vst品论天涯网

Vst品论天涯网

Anthropic的首席执行官达里奥-阿莫迪（DarioAmodei）曾是OpenAI的研究副总裁，据报道，他在与OpenAI就公司的发展方向（即OpenAI日益增长的商业重心）产生分歧后与OpenAI分道扬镳。阿莫德伊带着许多前OpenAI员工创办了Anthropic公司，其中包括OpenAI的前政策负责人杰克-克拉克（JackClark）。Vst品论天涯网