OpenAI首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨0点57分左右，奥特曼在X平台发文表示：“人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面。”
他接着写道：“第二种风险，是世界出现权力的高度集中。如果某个人或者某家企业掌握能力极强的人工智能，并将自身世界观强加给所有人，结局将是极度反乌托邦的。规避上述两大威胁，需要走好一条狭窄的中间道路。举例来说，某一个国家攫取过大权力，或是某一家实验室手握过多话语权，都属于这类风险。”
短短两天之内，Anthropic首席执行官达里奥・阿莫代伊与奥特曼这两位AI行业巨头，接连对由他们主导、并带领顶尖研发团队加速推进的这项强大技术发出警示。
阿莫代伊于周六在个人博客中表示：“过去几个月，我愈发确信，想要充分应对相关风险，需要更加审慎行事。不只是投入资源防范风险，还要管控AI能力的迭代速度，为风险防控留出追赶的时间。我们必须放缓人工智能模型的能力提升节奏。整体技术依旧会保持较快发展，我们要善用争取到的时间。”
阿莫代伊发文之后，奥特曼随即表态，认同这位竞争对手的观点。
接连发声之前，已有两名AI研究人员对前沿高级AI模型的危险性表达担忧。
上周早些时候，雅各布・考克森宣布从Anthropic离职。他称，无论是Anthropic还是OpenAI，在研发高性能人工智能系统这件事上，都没有承担起应有的责任。
随后，Anthropic的对齐科学负责人埃文・哈宾格在考克森帖子下回复，认可这位前员工的看法。他认为，这项技术存在超过10%的概率会“致使全体人类消亡”。
特朗普总统周日对这类安全担忧提出反驳。他表示：“我们在人工智能领域领先中国。我们是全球技术最先进的国家，坦白说，我希望维持这一优势，因为谁赢得人工智能竞赛，就能赢得未来。”
受上述担忧情绪影响，周一AI板块头部股票承压，市场担忧AI技术发展或将遇阻。闪迪盘前下跌5%，英伟达盘前下跌3%。
约克维尔艾夫斯公司创始合伙人丹・艾夫斯向雅虎财经表示：“我认为达里奥的文章加上周末行业讨论，会造成周一开盘短暂走弱，但市场很快就会反弹。投资者很快就会看清，尽管行业上演这番舆论风波，但未来五年5万亿美元的AI投入大局不会发生实质改变。”
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】