人工智能

谷歌AI推出新型评分器Cappy 助力多任务语言模型性能提升

字号+作者: 来源:站长之家 2024-03-19 14:24 评论(创建话题) 收藏成功收藏本文

站长之家(ChinaZ.com) 3月19日 消息:在最新的研究论文中,谷歌研究人员引入了一种名为Cappy的预训练评分器模型,旨在增强和超越大型多任务语言模型的性能'...

站长之家(ChinaZ.com) 3月19日 消息:在最新的研究论文中,谷歌研究人员引入了一种名为Cappy的预训练评分器模型,旨在增强和超越大型多任务语言模型的性能。这项研究旨在解决大型语言模型(LLM)所面临的挑战,其中包括高昂的计算资源成本和效率低下的训练和推理过程。Kid品论天涯网

谷歌 (2)Kid品论天涯网

目前,多任务法学硕士如T0、FLAN和OPT-IML等被广泛应用于各种自然语言处理任务,并在统一的指令跟踪框架下进行训练。然而,这些模型由于巨大的规模和硬件要求,使得它们在适应下游应用程序时面临着挑战。为了应对这些挑战,Cappy被引入作为一种轻量级的预训练评分器,旨在提高多任务法学硕士的性能和效率。Kid品论天涯网

Cappy的架构基于RoBERTa,顶部有一个用于回归的线性层,利用多样化的数据集集合进行预训练,确保覆盖广泛的任务类型。研究人员还提出了一种数据构建方法,以满足预训练数据中标签多样性的需求,并生成一个大型有效的回归预训练数据集。Cappy的应用程序涉及一种候选者选择机制,可独立运行于分类任务,也可作为生成任务的辅助组件,增强现有多任务LLM的解码。Kid品论天涯网

通过引入轻量级预训练评分器Cappy,这项研究解决了在多任务场景中有效利用大型语言模型的挑战,展示了其在各种任务上的参数效率和性能的优越性,同时强调了在实际应用中简化大型语言模型采用的潜力。Kid品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]

相关文章