据知情人士透露，早在Anthropic首席执行官达里奥・阿莫代伊上周六呼吁AI企业协同开展技术测试与审计之前，Anthropic、OpenAI与谷歌就已经展开磋商，计划携手成立一家AI行业标准机构。
知情人士称，OpenAI首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示，他支持设立AI行业测试与审计机构，但他认为，主要AI实验室必须在美国政府不提供支持的前提下，自行组建这套标准组织。
阿莫代伊上周六发布博文《我们必须把控前沿发展节奏》，提出一整套提议，主张放缓AI发展速度，在AI能力日益强大、风险不断攀升的背景下建立独立监督机制，行业自我监管正是整套方案中的重要一环。阿莫代伊提出，政府着手制定AI监管法规的同时，企业可以先行推行自愿性安全标准，政府可以牵头或者斡旋行业对话。
阿莫代伊在X平台发布的博文迅速得到一众科技巨头的公开支持。奥特曼发文称，放缓前沿AI的研发节奏，已经是OpenAI近几周内部反复讨论的议题。刚刚卸任谷歌DeepMind首席执行官的德米斯・哈萨比斯表示，该提议大方向正确，但部分细节“仍有待打磨完善”。SpaceX首席执行官埃隆・马斯克同样对阿莫代伊的方案表示赞同。
设立AI自我监管机构的构想，已经在公开舆论场讨论数月之久。今年7月，哈萨比斯发布推文，提议参照美国金融业监管局（FINRA）的模式搭建AI自律组织。FINRA负责监管美国券商与证券从业人员。
不过，各家企业已经开始就行业标准制定开展协作谈判，这一点此前并未被媒体报道。知情人士透露，自7月起，谷歌、Anthropic、OpenAI就组建标准机构一事，由CEO层级之下的代表成立工作组定期开会磋商。
TheInformation此前报道，白宫曾传阅一份行政命令草案，拟设立上述监管机构，但今年夏末，这份方案未能在特朗普政府内部争取到足够支持，相关工作就此搁置。前白宫AI主管戴维・萨克斯一直公开反对建立类似FINRA的AI监管机构，他不赞同政府介入此事。据政治新闻网站Politico报道，Meta首席执行官马克・扎克伯格也在8月与特朗普总统的电话会谈中，对全国性AI监管机构的方案表达担忧。
知情人士转述，奥特曼在本周员工大会上称，虽然他原本乐观期待政府能够出面支持标准机构落地，但目前行业内部尚未形成充分共识，部分企业对该构想持反对态度，因此最佳路径是联合其他AI实验室自行推进。奥特曼在同一场员工大会上向员工表示，OpenAI自身也愿意放缓研发推进速度。
知情人士称，三家企业关于行业主导标准机构的工作组会议仍在持续进行。这表明，除高管们高调公开发声、抛出各类倡议之外，三家实验室已经有实际行动的意愿。其中一位知情人士透露，工作组就在刚刚过去的一周还召开过会议。
目前尚不清楚Meta对此事的立场。Meta首席AI官亚历山大・王周六在X平台发文写道：“对齐是面向全民打造个人超级智能的根基。”这句话指AI系统行为要贴合人类指令意图，但他并未明确表态支持或是反对阿莫代伊的整套提议。
近期Anthropic员工在X平台发布的多条博文广泛传播，再度引发公众对强AI潜在风险的关注。一名Anthropic研究员宣布离职，理由是Anthropic与OpenAI两家公司均“未能履行应尽责任”；另一名在职Anthropic员工表示，公司内部真心相信AI有可能对人类构成生存级威胁。
阿莫代伊周六提议，各家头部AI公司应当向METR（模型评估与威胁研究机构）这类外部评估方开放等同于内部员工等级的技术访问权限，并且Anthropic承诺会率先落实该举措。他同时呼吁政府出台有限反垄断豁免，允许AI企业开展安全领域协作，避免触碰反垄断红线。
萨克斯在X平台发文称，AI企业完全可以自主推进安全相关工作，并不需要反垄断豁免作为协作前提。但他质疑，研发放缓是否完全出于利他考量；产品责任风险本身就已经构成经济激励，促使企业防范AI带来伤害。
行业内部也出现不少批评声音。Cohere首席执行官艾丹・戈麦斯在X发帖，对头部AI企业共同制定规则、约束中小竞争对手的做法表达担忧，他写道：“这套想法听上去，活脱脱一个卡特尔（垄断同盟）的构思。”
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】