人工智能

美国媒体揭开大模型阴暗面:训练用的数据可能有点脏

字号+作者: 来源:财联社 2023-04-20 02:58 评论(创建话题) 收藏成功收藏本文

在过去半年不到的时间里,许多地球上的人类已经接触到AI聊天机器人的魅力和魔力。但归根结底,目前并没有AI已经产生像人类一样的自我意识,它们能够模仿人类'...

在过去半年不到的时间里,许多地球上的人类已经接触到AI聊天机器人的魅力和魔力。但归根结底,目前并没有AI已经产生像人类一样的自我意识,它们能够模仿人类讲话,主要原因是算法“吸收”了大量的文本——大部分是从互联网上抓取的。EsH品论天涯网

互联网上蕴含着大量有用、有益的经验和知识,但数字时代的网民们也不得不承认,在烟波浩渺的互联网信息丛林中,也蕴含着大量偏见、歧视、有害,以及侵犯名誉和隐私的内容。种种迹象显示,这些“人类的禁忌知识”也被大模型照单全收了。EsH品论天涯网

当地时间周三,《华盛顿邮报》发表了与艾伦人工智能研究院合作进行的调查结果,他们拆解了谷歌的C4数据集,这也是许多知名英语AI大模型的训练材料,例如谷歌的T5和Facebook的LLaMA。中国投资者更关注的OpenAI并没有公布训练ChatGPT所用的数据集,所以这也是目前窥得AI数据黑箱的最便利解决方案。EsH品论天涯网

AI数据集黑箱揭秘EsH品论天涯网

值得一提的是,调查人员使用了SimilarWeb的网站分类数据,由于C4数据集中有三分之一的网站已经不存在这个世界上了,所以实际统计的数据大约为1000万个网站。EsH品论天涯网

根据研究,囊括全球专利信息的谷歌专利网、维基百科和订阅制数字图书馆scribd的资料权重位列整个数据集前三。但随着列表往下翻,一系列意想不到的名字开始出现。EsH品论天涯网

已经被美国司法部查封的盗版电子书网站b-ok.org高居第190位,类似这样因为侵犯版权被美国查封的网站还在数据集中出现至少27次。EsH品论天涯网


(b-ok.org现在是这个样子的)EsH品论天涯网

此外,《魔兽世界》玩家论坛wowhead也高居第181位,《赫芬顿邮报》创始人阿里安娜·赫芬顿办的行为转变课程网站thriveglobal也位居175位。令人意外的是,有两个美国投票人数据库网站也位列前100位。虽然投票人的数据本身是公开的,但大模型可能会把这些个人数据用在哪里,又有谁能说清楚呢?EsH品论天涯网

接下来的数据则显示,AI大模型潜在的侵权问题,可能要比想象中更加严重。商业和行业网站是数据集中比重最大的分类,创意产品众筹网站kickstarter(25位)也出现在榜单里非常高的位置。这里就引出了一个新的问题,AI向用户提供的许多创意和市场营销答案,很有可能本身就是现成的作品。EsH品论天涯网

研究人员也发现,超过50万的个人博客被收录进C4训练集中,这些作者显然没有因此得到过任何报酬。EsH品论天涯网

作为AI训练的“富矿”,每天都大量生产经过审校内容的媒体也是训练集的最爱,纽约时报、洛杉矶时报、卫报、福布斯和赫芬顿邮报均挤进数据库比重前十。与许多艺术家一样,不少媒体目前也在向AI产业声索维权。由于美国媒体行业的复杂性,所以训练集中也能找到以极右翼、白人至上主义内容为主基调的网站。EsH品论天涯网

事实上,谷歌在构建数据库的时候,已经意识到网络信息污染的问题,所以除了删除毫无意义和重复的语句外,特意用开源的“脏话过滤器”筛过一遍,但似乎有数量非常庞大的漏网之鱼钻了过去。研究人员就在训练集中找到至少7.2万个德国纳粹的标志性符号。EsH品论天涯网

更令人担忧的是,训练集中也能找到宣扬种族主义、极右翼阴谋论(QAnon)的网页,而以组织网络暴力闻名的4Chan匿名聊天网站也出现在训练集中。EsH品论天涯网

比起数据脏处理数据的态度更迷离EsH品论天涯网

虽然C4训练集的数据已经非常庞大,但用于训练OpenAIGPT-3的网络爬虫数据集,从一开始就要比C4大40倍,背后的问题自然也会被同步放大。EsH品论天涯网

但在GPT-3的论文中,OpenAI也公开讨论了一个细节:在防止测试数据被放进训练数据导致污染的过程中发现了一个BUG,但由于重新训练模型太贵、公司又没钱,所这个问题就放着不去管它了。EsH品论天涯网

一些业内人士也透露,许多科技公司在内部都不会记录训练数据的来源,因为担心会发现个人信息数据,以及未经授权的材料或其他数据。EsH品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]