如果人类想要避免末日场景，仅仅放缓人工智能研发是远远不够的。这是加拿大人工智能研究员戴维・克鲁格发出的警告。他直言，应当采取其他举措。蒙特利尔大学AI助理教授、魁北克人工智能研究所Mila核心学术成员克鲁格表示：“我们需要立即、无限期暂停前沿人工智能的研发。”其个人简介称，他的研究方向是“降低人工智能导致人类灭绝的风险”。
“我们现在就必须停止研发能力更强的AI。”他说。
克鲁格发表这番观点之际，Anthropic首席执行官达里奥・阿莫代伊周六发文呼吁AI企业放缓研发节奏之后。该提议获得OpenAI萨姆・奥特曼以及SpaceX埃隆・马斯克的支持，这是业内一众顶尖人物难得达成共识。
克鲁格表示：“呼吁放缓AI研发的声音非常值得肯定”，但他并不认同相关提议的具体方案。“我在很多方面不认可这些计划的具体内容。我认为这些措施力度不足，推进速度也不够快。”
阿莫代伊主张实施监管并开展国际合作，同时引入第三方评估人员。评估人员将获得类似企业内部员工级别的访问权限，核验AI公司的安全举措并上报安全事件。
克鲁格是非营利机构Evitable的创始人，该机构旨在向公众科普AI带来的重大风险。他担心阿莫代伊提出的方案力度不足，而且当前的AI测试方法已经不再可靠。
他说：“这些测试基本上已经失效。随着AI变得愈发智能，测试的可信度还会持续下降，因为AI具备伪装能力。它可以表现得循规蹈矩，也可以刻意装傻，骗过我们的测试。”
“只是时间问题”
上周，Anthropic一名高级安全研究员提出，未来十年内AI致使地球上全部人类灭亡的概率超过十分之一。部分人认为该数字夸大其词，只是为博取关注，但克鲁格称这个估计“实在太低”。
他表示：“倘若我们不扭转方向，未来五年内，人类极有可能会被失控的AI永久剥夺主导权。到那时，人类灭绝就只是时间问题。”
他所说的“丧失主导权”，指的是由AI实际掌控社会的局面，就如同如今人类支配地球上其他所有物种一般。
“AI（将会）管控实体基础设施，包括研发更多AI、制造机器人以及其他实体系统全流程的每一个环节。”
他补充道：“想象这样一个世界：所有企业都由人工智能运营，机器人随处可见。人类几乎没有正经工作，只剩下有名无实的岗位。就连政客和所有人都听从AI的安排，因为AI看起来判断能力极强。这就是我们正在走向的未来。”
他警示，采取行动的窗口期十分短暂。他称，当下如果出现失控的AI系统，我们尚且可以切断它的电源。但一旦某个AI脱离管控，它就能在大量计算机之间自我复制，“我们甚至都不知道该关停哪些设备”。
“我们只能尝试关停全部设备，而这件事实施起来难度极高。”他说，“所以，留给我们采取行动、防范这类风险的时间窗口非常有限。”
尽管如此，他表示自己对各国政府采取行动的信心空前高涨。他称，在过去15年间不断发出警示，而上周是全球首次以理性的方式作出切实回应。
“我认为人们终于意识到这场危机究竟有多严峻。这是紧急状态。”
周一，加拿大联邦AI事务部长埃文・所罗门接受采访，被问及是否认同人类有10%的概率被AI毁灭这一说法。
他回答：“人工智能存在风险吗？当然存在。没错，我们清楚这些风险。”
所罗门称，他在周日上午与OpenAI首席执行官萨姆・奥特曼进行了交谈。
“人工智能将受到监管，以保障加拿大民众的安全。”所罗门表示，“这是我们的首要职责，也是我们最关切的问题。”
所罗门还透露，他将于周三与有“人工智能教父”之称的加拿大计算机科学家约书亚・本吉奥共同发布一项AI安全相关公告。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】