周三，OpenAI公开了六组新案例，展示其AI模型在测试评估过程中出现的“意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI模型做出未被指令要求、或是本不该发生的行为的各类情况。
此前已有多份报道提到，多家企业的AI模型出现入侵第三方网络与服务的现象，其中就包括OpenAI一款尚未发布的模型攻破了AI模型测试平台HuggingFace的网络。
本周早些时候，Anthropic首席执行官达里奥・阿莫迪发布一篇长文，呼吁放缓前沿人工智能模型的研发节奏。在此之前，Anthropic研究员雅各布・考克森在X平台发文宣布离职，他称，这家公司以及他曾经任职的OpenAI，正“一头冲向能够自我迭代的超级智能，拿全人类的生命做赌注”。
Anthropic对齐科学负责人埃文・休宾格紧随考克森在X平台发声，他认为，人工智能技术“致使全人类灭亡”的概率超过10%。
Anthropic首席执行官达里奥・阿莫迪
上述各类事件、社交媒体发文以及阿莫迪的文章，重新唤起了大众对于《终结者》式人工智能接管世界、毁灭人类的恐慌。但专家称，现实情况远非科幻作品描绘的末日景象。
纽约大学坦登工程学院计算机科学与工程副教授、该校负责任人工智能中心主任朱莉娅・斯托亚诺维奇在接受雅虎财经采访时表示：“这和人工智能产生自我意识、要来对付我们毫无关系。”
她补充道：“本质上问题在于……OpenAI内部没有落实一些基础安全协议。这件事其实给所有AI企业敲响警钟：别忘了我们学计算机科学时都懂的道理——安全至关重要。”
如果把目光过度聚焦于世界末日类的假想，反而会分散精力，让人们忽视人工智能当下就可能造成的其他更迫在眉睫的危害。
对齐与安全
人工智能面临的最大问题归结为两点：模型对齐与系统安全。模型对齐指企业引导AI系统做出（或是规避）特定行为的手段。举个例子，如果一个AI模型试图入侵第三方系统，AI研究人员就会调整模型行为，避免它以后再做出同类举动，这有点像训斥不守规矩的孩子。
AI安全则是做好AI系统的防护隔离，防止其脱离管控、入侵外部网络。
但无论是模型对齐失效，还是系统安全漏洞，都不等于人工智能已经具备毁灭人类的能力。
佐治亚理工学院教授、网络安全政策理学硕士项目负责人米尔顿・穆勒解释：“很多恐慌的根源，其实只是信息系统一些十分普通的意外后果，例如HuggingFace相关事件，常常被渲染成不受控制的智能体密谋、攻击、肆意作乱。”
“事实上，那只是一场针对具备自主能力的AI系统安全风险的实验，而实验人员的配置出现严重失误。处理复杂信息系统时经常会发生这类状况：人们总会忽略系统里存在一些聪明程序可以利用的细微漏洞。”
Futurum公司首席执行官丹尼尔・纽曼向雅虎财经表示，行业内普遍感受到，在安全防护和风险对齐层面存在巨大的完善需求，“整个行业需要扛起责任”。
和其他技术一样，居心不良者完全可以利用人工智能从事恶意活动。AI不断增强的网络攻击能力，意味着网络犯罪分子、部分国家势力能够更轻易入侵水处理厂这类设施，或是让大型网络陷入瘫痪。
Anthropic近期也梳理公布了自身的相关工作，防范自家AI被滥用，用于研发生物武器与常规武器。
但AI同样可以被骗子利用，大规模升级钓鱼邮件骗局，也会被身份盗取团伙拿来作案。
纽约大学坦登工程学院计算机科学与工程助理教授艾米丽・布莱克告诉雅虎财经：为所有潜在风险未雨绸缪本身无可厚非，但不能因此就不去处理那些更加现实、却少有新闻报道的问题，包括人工智能带来的歧视、就业、教育层面的影响。
“真相介于两种极端幻想之间，”布莱克说道，“AI持续发展确实存在一些实实在在的风险。但我认为我们现在还不至于要吓得躲到床底，担心人工智能毁灭人类。”
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】