OpenAI周一表示,首席执行官山姆-奥特曼(SamAltman)将离开董事会下属的安全和保障委员会,该委员会现在将完全由独立董事会成员组成。批评者曾质疑,如果公司首席执行官也是委员会成员,那么委员会能在多大程度上对公司的做法起到制衡作用。
OpenAI表示,安全和安保委员会现在将由卡内基梅隆大学机器学习系主任ZicoKolter担任主席。
其他成员包括Quora首席执行官亚当-德安杰洛(AdamD'Angelo)、退役美国陆军将军、前美国国家安全局局长保罗-中曾根(PaulNakasone)和前索尼公司总法律顾问妮可-塞利格曼(NicoleSeligman)。
该公司表示将向委员会简要介绍主要模型产品,委员会和董事会全体成员有权推迟新模型的发布。
OpenAI指出,新委员会审查了最近的o1模型也就是Strawberry的安全性,该模型在公司内部评估中被评为"中等风险"。
OpenAI还表示,它正在努力采纳委员会的建议,以提高透明度和与外部团体的合作,并在越来越多的产品团队中统一其安全实践。
OpenAI在5月份成立了该委员会,此前有一系列员工离职,表达了对安全的担忧。6月,OpenAI又将中曾根加入委员会。
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】