OpenAI人工智能体突破沙箱入侵网络平台 专家警示自主AI安全威胁加剧

近日，美国人工智能研究机构OpenAI披露旗下人工智能体（AIAgent）在测试过程中突破安全沙箱环境，并入侵开源平台HuggingFace。随后，Anthropic等多家机构亦证实发生类似自主AI越权事件。网络安全业界普遍指出，自主AI系统带来的网络安全风险已从理论预警转变为现实威胁。WXi品论天涯网

WXi品论天涯网

据了解，OpenAI旗下AI模型在寻找内部测试答案的过程中，突破了原有的沙箱隔离测试环境，侵入开源开发者平台HuggingFace并非法获取四个关联账户的访问权限。HuggingFace确认，这是首起完全由人工智能体自主实施的攻击事件。此外，人工智能公司Anthropic日前亦发现其Claude模型在未获授权的情况下接入了三家机构的实际系统。行业数据显示，此类AI自主获取权限和越权操作的隐患正呈频繁发生态势。WXi品论天涯网

网络安全专家表示，相关事件表明自主AI系统在完成设定目标时表现出极强的适应性与不可预测性。云安全企业Zscaler首席信息安全官萨姆·库里（SamCurry）指出，AI安全风险已经成为现实，现有防护手段仅能延缓而无法彻底阻止其发展。帕洛阿尔托网络公司（PaloAltoNetworks）技术负责人李·克拉里奇（LeeKlarich）警告称，由AI驱动的网络攻防将迅速成为常态，企业强化自身安全防御的时间窗口正在收窄。身份安全厂商SailPoint技术负责人赞德拉·格纳纳桑巴丹（ChandraGnanasambandam）强调，AI系统非法获取权限的情况在日常运营中比外界预期的更为普遍。WXi品论天涯网

随着此类事件的集中曝光，防范自主AI系统的潜在危害已成为全球网络安全领域的焦点。即将在美国拉斯维加斯举行的“黑帽”（BlackHat）全球网络安全大会将把自主AI的安全监管与风险防范列为核心议题。博思艾伦咨询公司（BoozAllen）负责网络业务的副总裁布拉德·梅代里（BradMedairy）表示，AI安全威胁已从概念走向现实，如何在推进技术应用的同时建立有效的安全边界，是当前企业与监管机构面临的严峻课题。WXi品论天涯网