超过100名大型人工智能公司的现任和前任员工呼吁加州州长加文·纽瑟姆(GavinNewsom)通过该州新的人工智能监管法案，该法案在科技界和政策界引起了分歧。这封信由OpenAI、Anthropic、谷歌的DeepMind、Meta和xAI的现任和前任员工签署，表达了对某些人工智能模型开发的担忧。
该法案SB1047要求人工智能公司在向公众发布系统之前对其系统进行安全测试。它还要求公司对其模型造成的灾难性损害承担责任，并允许为技术工人提供举报人保护。
信中写道：我们认为，最强大的人工智能模型可能很快就会带来严重风险，例如扩大生物武器的使用范围和对关键基础设施的网络攻击。前沿人工智能公司测试最强大的人工智能模型是否会造成严重危害，并针对此类风险实施合理的保障措施，是可行且恰当的。
SB1047已在州议会和参议院获得通过。现在由纽森在9月30日之前签署该法案使其成为法律或否决它。州长尚未表明他对该法案的立场，他正面临双方的强烈游说。
该法案的支持者认为，如果没有护栏，人工智能的发展可能会带来灾难性的后果。xAI创始人埃隆·马斯克(ElonMusk)公开支持对人工智能进行监管。OpenAI的竞争对手Anthropic也支持该法案，该公司得到了亚马逊和Alphabet的支持。
人工智能先驱YoshuaBengio和GeoffreyHinton在之前致加州领导人的公开信中写道：政府现在就如何开发和部署这些强大的人工智能系统所做出的选择，可能会对加州当前和未来的几代人以及全世界产生深远的影响。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】