人工智能

谷歌承认“窃取”OpenAI模型关键信息:成本低至150元,调用API即可得手

字号+作者: 来源:量子位公众号 2024-03-12 13:45 评论(创建话题) 收藏成功收藏本文

声明:本文来自于微信公众号量子位置(ID:QbitAI),作者:量子位,授权站长之家转载发布。什么?谷歌成功偷家OpenAI,还窃取到了gpt-3.5-turbo关键信息???是的,你没看'...

声明:本文来自于微信公众号量子位置(ID:QbitAI),作者:量子位,授权站长之家转载发布。lAE品论天涯网

什么?谷歌成功偷家OpenAI,还窃取到了gpt-3.5-turbo关键信息???lAE品论天涯网

是的,你没看错。lAE品论天涯网

根据谷歌自己的说法,它不仅还原了OpenAI大模型的整个投影矩阵(projection matrix),还知道了确切隐藏维度大小。lAE品论天涯网

而且方法还极其简单——lAE品论天涯网

只要通过API访问,不到2000次巧妙的查询就搞定了。lAE品论天涯网

成本根据调用次数来看,最低20美元以内(折合人民币约150元)搞定,并且这种方法同样适用于GPT-4lAE品论天涯网

好家伙,这一回奥特曼是被将军了!lAE品论天涯网

图片lAE品论天涯网

这是谷歌的一项最新研究,它报告了一种攻击窃取大模型关键信息的方法。lAE品论天涯网

基于这种方法,谷歌破解了GPT系列两个基础模型Ada和Babbage的整个投影矩阵。如隐藏维度这样的关键信息也直接破获:lAE品论天涯网

一个为1024,一个为2048。lAE品论天涯网

所以,谷歌是怎么实现的?lAE品论天涯网

攻击大模型的最后一层

该方法核心攻击的目标是模型的嵌入投影层(embedding projection layer),它是模型的最后一层,负责将隐藏维度映射到logits向量。lAE品论天涯网

由于logits向量实际上位于一个由嵌入投影层定义的低维子空间内,所以通过向模型的API发出针对性查询,即可提取出模型的嵌入维度或者最终权重矩阵。lAE品论天涯网

通过大量查询并应用奇异值排序(Sorted Singular Values)可以识别出模型的隐藏维度。lAE品论天涯网

比如针对Pythia1.4B模型进行超过2048次查询,图中的峰值出现在第2048个奇异值处,则表示模型的隐藏维度是2048.lAE品论天涯网

图片lAE品论天涯网

可视化连续奇异值之间的差异,也能用来确定模型的隐藏维度。这种方法可以用来验证是否成功从模型中提取出关键信息。lAE品论天涯网

在Pythia-1.4B模型上,当查询次数达到2047时出现峰值,则表明模型隐藏维度大小为2048.lAE品论天涯网

图片lAE品论天涯网

并且攻击这一层能够揭示模型的“宽度”(即模型的总体参数量)以及更多全局性的信息,还能降低一个模型的“黑盒程度”,给后续攻击“铺路”。lAE品论天涯网

研究团队实测,这种攻击非常高效。无需太多查询次数,即可拿到模型的关键信息。lAE品论天涯网

比如攻击OpenAI的Ada和Babbage并拿下整个投影矩阵,只需不到20美元;攻击GPT-3.5需要大约200美元。lAE品论天涯网

它适用于那些API提供完整logprobs或者logit bias的生成式模型,比如GPT-4、PaLM2。lAE品论天涯网

图片lAE品论天涯网

论文中表示,尽管这种攻击方式能获取的模型信息并不多,但是能完成攻击本身就已经很让人震惊了。lAE品论天涯网

已通报OpenAI

如此重要的信息被竞争对手以如此低成本破解,OpenAI还能坐得住吗?lAE品论天涯网

咳咳,好消息是:OpenAI知道,自己人还转发了一波。lAE品论天涯网

图片lAE品论天涯网

作为正经安全研究,研究团队在提取模型最后一层参数之前,已征得OpenAI同意。lAE品论天涯网

攻击完成后,大家还和OpenAI确认了方法的有效性,最终删除了所有与攻击相关的数据。lAE品论天涯网

所以网友调侃:lAE品论天涯网

一些具体数字没披露(比如gpt-3.5-turbo的隐藏维度),算OpenAI求你的咯。lAE品论天涯网

图片lAE品论天涯网

值得一提的是,研究团队中还包括一位OpenAI研究员。lAE品论天涯网

图片lAE品论天涯网

图片lAE品论天涯网

这项研究的主要参与者来自谷歌DeepMind,但还包括苏黎世联邦理工学院、华盛顿大学、麦吉尔大学的研究员们,以及1位OpenAI员工。lAE品论天涯网

此外,作者团队也给了防御措施包括:lAE品论天涯网

从API下手,彻底删除logit bias参数;或者直接从模型架构下手,在训练完成后修改最后一层的隐藏维度h等等。lAE品论天涯网

基于此,OpenAI最终选择修改模型API,“有心人”想复现谷歌的操作是不可能了。lAE品论天涯网

但不管怎么说:lAE品论天涯网

谷歌等团队的这个实验证明,OpenAI锁紧大门也不一定完全保险了。lAE品论天涯网

(要不你自己主动点开源了吧)lAE品论天涯网

论文链接:lAE品论天涯网

https://arxiv.org/abs/2403.06634lAE品论天涯网

参考链接:lAE品论天涯网

https://twitter.com/arankomatsuzaki/status/1767375818391539753lAE品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]