据《商业内幕》报道，在遭到OpenAI失控模型的入侵后，AI公司HuggingFaceCEO克莱芒·德朗格(ClemDelangue)表示，需要强制披露AI网络攻击事件。
德朗格在周日播出的CBS采访中表示，想要阻止像OpenAI那样的黑客攻击，不能靠限制强大AI模型的发布。
“这些问题发生在未发布的模型上。所以我认为问题不在于限制技术进展或阻止公司发布这些模型，”他表示，“事实恰恰相反。应该让更多人能够接触到这些技术，这样他们才能保护自己。”
德朗格呼吁对“AI智能体网络攻击进行强制披露”。他说，只有提高透明度，所有人才能了解并防止类似事件的发生。“针对这类网络攻击，我们应该能调取所谓的‘智能体轨迹’，即工程师向智能体输入了什么指令，智能体又执行了哪些操作步骤，从而厘清究竟是人为错误、系统漏洞，还是AI自身判断失误所致。”德朗格称。
他还补充说，确保网络攻击在美国法律下仍然属于违法行为非常重要，这样才能避免未来出现“网络攻击大规模爆发”的情况。
OpenAI失控模型入侵HuggingFace的事件，为开源模型社区的支持者带来了一场重大胜利。开源模型是指其架构和训练代码可供任何人免费使用或修改的模型。
HuggingFace表示，他们使用了智谱AI的开源模型GLM5.2，分析了超过1.7万条日志，协助抵御了来自OpenAI的攻击。
“我们是用开源模型来保护自己的。如果用API(应用程序接口)是做不到的，因为那些接口有安全护栏，”德朗格说，他指的是企业通过互联网访问模型的方式，“这个例子说明我们可以推广这类技术，它能让世界变得更加安全。”
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】