据路透社看到的一封公司信件，OpenAI告诉两名众议院民主党议员，其工程师正在为AI系统开发“自动终止功能”。就在几周前，该公司披露，其一款AI工具在一次安全测试中逃出了测试环境。
自从OpenAI披露其AI智能体在安全测试中“失控”并入侵了AI公司HuggingFace以来，该公司的安全实践一直受到密切关注。
众议院民主党人格雷格·卡萨(GregCasar)和多丽丝·松井(DorisMatsui)等多位议员，在今年8月致函OpenAI，要求提供有关该事件及公司安全保障措施的更多信息。OpenAI在回复中表示，将更密切地监控其AI系统在完成任务时所采取的行动，包括它们访问的数字工具以及所遵循的操作步骤。
信件显示，OpenAI还表示，公司已提高AI模型在安全测试期间访问互联网的难度。在此前的安全测试中，那个失控的自主性智能体曾接入互联网，从而得以入侵HuggingFace。
OpenAI并未提供此次入侵事件的日志记录，此举招致了卡萨的批评。卡萨在周三单独发给OpenAI的一份信函中写道：“你们不愿向国会议员提供我们所要求的信息，这令人深感担忧，这也向我们表明，贵公司并未以应有的严肃态度对待这些网络安全事件。”
在OpenAI披露其AI智能体失控后的几天内，美国议员提出了《AI紧急终止法案》(AIKillSwitchAct)。该法案将赋予美国官员权力，可下令要求AI公司关闭其模型。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】