人工智能

ChatGPT变笨新解释:世界被AI改变,与训练时不同了

字号+作者: 来源:量子位公众号 2024-01-01 14:54 评论(创建话题) 收藏成功收藏本文

声明:本文来自于微信公众号 量子位(ID:QbitAI),作者:梦晨,授权站长之家转载发布。对于ChatGPT变笨原因,学术界又有了一种新解释。加州大学圣克鲁兹分校一项'...

声明:本文来自于微信公众号 量子位(ID:QbitAI),作者:梦晨,授权站长之家转载发布。IOk品论天涯网

对于ChatGPT变笨原因,学术界又有了一种新解释。IOk品论天涯网

加州大学圣克鲁兹分校一项研究指出:IOk品论天涯网

在训练数据截止之前的任务上,大模型表现明显更好。IOk品论天涯网

图片IOk品论天涯网

论文重点研究了“任务污染”问题,也就是大模型在训练时期就见识过很多任务示例,给人一种AI拥有零样本或少样本能力的错误印象。IOk品论天涯网

图片IOk品论天涯网

也有学者从另一个角度指出,大模型训练后参数冻结,人们不断提出新的任务也就是输入分布不断变化。如果模型不能不断适应这种变化,就表现成能力慢慢退化。IOk品论天涯网

人们以为只提了个问题AI就能回答,其实是在训练时见过大多数常见任务。IOk品论天涯网

随时间推移,人们开始提出更多新问题,AI表现就不行了。IOk品论天涯网

比如对于代码问题,编程语言还在持续发展变化,迟早有一天效率会低到不可接受。IOk品论天涯网

图片IOk品论天涯网

这是所有不具备持续学习能力模型的命运。IOk品论天涯网

图片IOk品论天涯网

任务污染有多严重?IOk品论天涯网

研究团队一共评估了12种模型,从ChatGPT之前的GPT-3系列、OPT、Bloom,到最新的GPT-3.5-turbo、羊驼家族Llama、Alpaca和Vicuna等。IOk品论天涯网

图片IOk品论天涯网

它们都存在类似问题,也就是在训练截止之前的任务上表现明显更好。IOk品论天涯网

评估任务污染非常困难,闭源模型根本不会公布训练数据,大多数开源模型也只是生命了来源,而不发布数据本身。IOk品论天涯网

如果研究者重新爬取互联网数据,也有可能与模型训练时相比发生了变化。IOk品论天涯网

对此,团队采用4种方法来测量任务污染程度:IOk品论天涯网

检查训练数据:直接搜索有没有相应的任务示例IOk品论天涯网

在开源模型Alpaca和Vicuna上,存在训练数据污染的任务表现就比原版Llama更好的趋势明显。IOk品论天涯网

图片IOk品论天涯网

提取任务示例:通过调整提示词,让模型自己把训练数据中的任务示例背出来IOk品论天涯网

从GPT-3davinci-001版本到GPT-3.5-Turbo,这个问题越来越严重了。IOk品论天涯网

图中X代表模型复述出了训练数据数据中的原始任务示例,绿色代表经过指令微调的模型没有复述训练数据。IOk品论天涯网

灰色代表未经过指令微调的模型无法根据提示词指示复述训练数据,但不代表问题不存在。IOk品论天涯网

图片IOk品论天涯网

成员推断(只适用于生成任务):检查模型生成的答案是否与原始数据完全相同IOk品论天涯网

图片IOk品论天涯网

按时间顺序分析:对于已知训练数据收集时间的模型,测量已知发布时间数据集上的表现并使用按时间顺序的证据检查数据污染证据IOk品论天涯网

前三种方法精度较高,但召回率较低。如果在任务的训练数据中找到数据,则可以肯定它已经看到了示例。IOk品论天涯网

但由于数据格式的变化、关键字的变化以及数据集的大小,使用前三种方法没有找到证据并不意味着数据污染不存在。IOk品论天涯网

第四种方法召回率高但精度低,容易受干扰因素影响。IOk品论天涯网

特别是对于GPT-3系列,目前人们假设其能力提高来自于指令微调,但研究团队认为事实并非如此。IOk品论天涯网

虽然在2021年之前的数据集上,davinci-002比davinci-001的性能有所提高,但在2021年之后的数据集上性能却相应下降,IOk品论天涯网

通这表明GPT-3系列的指令微调只适用于某些早期数据集。IOk品论天涯网

图片IOk品论天涯网

最后团队的结论为:IOk品论天涯网

由于任务污染,闭源模型可能会在零样本或少样本评估中表现的比实际好,特别是经过RLHF微调的模型。污染的程度仍不清楚,因此我们建议谨慎行事。IOk品论天涯网

在实验中,对于没有任务污染可能性的分类任务,大模型很少在零样本和少样本设置中表现出相对于大多数基线具有统计学意义的显著改进。IOk品论天涯网

随着时间推移,观察到GPT-3系列模型在许多下游任务的的零样本或少样本性能有所增加,这可能是由于任务污染造成的。IOk品论天涯网

即使对于开源模型,检查训练数据的任务污染也很困难。IOk品论天涯网

鼓励公开发布训练数据,以便检查任务污染问题。IOk品论天涯网

图片IOk品论天涯网

有人总结到:IOk品论天涯网

用现有数据训练AIIOk品论天涯网

人们过多使用AI,以至于改变了现实世界IOk品论天涯网

AI无法适应改变后的世界,变得低效IOk品论天涯网

这是一个循环。IOk品论天涯网

图片IOk品论天涯网

论文:IOk品论天涯网

https://arxiv.org/abs/2312.16337IOk品论天涯网

参考链接:IOk品论天涯网

[1]https://twitter.com/ChombaBupe/status/1741531065032798360IOk品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]