在中国，非法入侵信息技术系统是一项严重的刑事犯罪，最高可面临三年的有期徒刑。然而，近期一些追求刺激的黑客却为了炫耀而铤而走险，最终导致一个专门分发“越狱”人工智能模型的地下API中转站遭到警方查处。
据报道，这一荒诞的事件源于一次毫无顾忌的炫耀。在技术领域，一些精通技术的开发者能够通过特定的提示词或修改代码来实现对AI模型的“越狱”，即绕过模型内置的安全防线和针对恶意代码的限制。由于大多数科技公司严禁此类行为，一些投机取巧的人便私下搭建了“中转站”服务器。他们购买官方的AI模型访问权限，剥离其安全限制后，将这种“无限制”的AI以收费形式转卖给私人用户群体。
据悉，一名用户从某个中转站获取了“越狱”模型，并利用它寻找中国政府网站（.gov.cn）的漏洞。该黑客成功获取了该网站内容管理系统（CMS）的“超级管理员”权限，进而访问了网站用户数据、数千篇文章以及数据库备份，甚至还企图植入永久性的隐藏后门以持续窃取数据。
得手后，这名黑客在上述中转站的私密交流群中骄傲地分享了成功入侵的截图。然而，群内一名成员意识到该行为可能带来的严重法律后果，立刻向中国网络安全警察举报了整个群组及此次黑客攻击事件。中转站的管理员闻讯后惊恐万分，立即停止了所有业务，承诺在条件允许的情况下退款，并解散删除了整个群聊以企图销毁证据。
讽刺的是，这名运营中转站的管理员原本只是想通过兜售打破常规的AI模型来牟利，以为买家只是用来生成一些出格的提示词或进行轻度绕过。然而，这位买家却将其用于实施严重的现实网络攻击，直接将警察引到了管理员的门前，导致其整个灰黑产业务土崩瓦解。
这一事件表明，人们对“危险AI”的担忧已从理论走向现实：无安全限制的AI模型已成功被武器化，并且其造成的反噬是几乎瞬时发生的。此外，这段插曲也印证了全球对Anthropic公司近期发布的ClaudeFable5（神话级）模型的恐慌并非空穴来风。今年初夏，由于严重的国家安全隐患，美国政府曾突然下令要求Anthropic在全球范围内停用该模型。当局的恐慌源于Fable5在网络安全能力上实现了巨大的跨越，测试表明其自主利用系统防御漏洞的成功率高达令人咋舌的73%。直到重新设立了严格的安全限制后，Anthropic才得以再次发布Fable5模型。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】