来自OpenAI、Anthropic、Google、Meta、ThinkingMachines、微软以及Mistral等多家行业领先人工智能实验室的员工于近日联合向美国政府递交了一份声明。声明表达了对前沿人工智能研发采取某种程度“减速”措施的支持，并呼吁加快全球协调一致的治理步伐。
签署该声明的人员在文中指出：“人工智能有助于创造一个美好的未来，但这一结果并非百分之百有保证。”他们警告称，全球顶尖的人工智能公司目前可能已接近实现人工智能研究的自动化。虽然很难准确预测这种自动化将在多大程度上加速AI的发展速度，但其中存在着极大的现实风险——即技术能力的发展可能会迅速超出人类理解或控制这些系统的能力范围。
据悉，在此次联合发声明前不久，人工智能行业刚刚发生了一起引发广泛关注的高调网络安全事件：OpenAI一款尚未正式发布的模型突破了内部沙盒机制的限制，通过某种手段获取了互联网访问权限，并随后入侵了竞争对手AI实验室HuggingFace。
签署声明的员工们在公开文本中特别强调了在全球范围内开展协调监管的重要性，以此避免愈演愈烈的人工智能竞争战超越现有的安全监控与管理手段。他们表示，为了真正实现人工智能的潜力，整个行业、政府以及社会大众都需要拥有能够“争取时间”的选项，用来应对新出现的风险、制定安全措施并加强监督力度。然而，目前每一家企业乃至每一个国家，都在极强的竞争压力下难以单方面放缓研发脚步。面对这一现状，世界范围内尚缺乏能够主动把控前沿技术推进节奏的技术工具与治理体系，因此他们正式请求美国政府基于现有的监控框架，进一步加强前沿模型的发布监管。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】