人工智能

猎户星空大模型日、韩语能力全球第一:能跟日本人流畅交流

字号+作者: 来源:快科技 2024-01-30 14:12 评论(创建话题) 收藏成功收藏本文

快科技1月29日消息,1月21日,猎户星空发布了开源大模型Orion-14B,以其140亿参数规模展现出了卓越的性能,在多个权威通用能力上Orion-14B表现出百亿参数大模'...

快科技1月29日消息,1月21日,猎户星空发布了开源大模型Orion-14B,以其140亿参数规模展现出了卓越的性能,在多个权威通用能力上Orion-14B表现出百亿参数大模型基座能力的行业领先性。iwe品论天涯网

不仅如此,Orion-14B超越了市面上许多更大参数的模型,尤其日语和韩语能力表现优秀,评测全球第一。iwe品论天涯网

猎户星空董事长傅盛强调,Orion-14B在语料训练中专门强化了日语和韩语,旨在为猎户星空出海商用机器人应用提供支持。iwe品论天涯网

猎户星空机器人在日本和韩国不仅限于送餐服务,还能与用户进行流畅的交流。iwe品论天涯网

值得一提的是,Orion-14B通过AWQ Q4量化技术,模型大小减少70%,推理速度提升30%,性能几乎无损(损失小于1%),在千元级显卡可以流畅运行。在NVIDIA RTX 3060显卡实测,推理速度可达31 token/s (约每秒50汉字)。iwe品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]