把大模型“装”进小盒子

● 本报记者 齐金钊F98品论天涯网

从“云天天书”大模型，到深度学习推理计算芯片，再到千元级别的大模型硬件产品……近年来，在人工智能赛道上，云天励飞埋头奔跑，不断迭代技术和产品解决方案。F98品论天涯网

云天励飞董事长陈宁接受中国证券报记者专访时表示，云天励飞将自己定义为一家拥有“算法芯片化”能力的AI公司，在行业内率先提出打造“1+1+N”自进化城市智能体实践框架，如今公司正在积极构建自学习、自进化的数字城市智能协同发展体系，以期推动人工智能产业快速发展。F98品论天涯网

推出千元级大模型产品F98品论天涯网

2022年11月，OpenAI发布ChatGPT，生成式大规模预训练模型（GPT）展现了从量变到质变的能力。自此，不断有新的公司发布新的模型与应用。今年3月，云天励飞宣布推出千元级别的大模型硬件产品——“深目”AI模盒，受到市场关注。F98品论天涯网

“未来将有更多企业使用大模型。但是，要训练专属大模型，普通的企业难以承担高昂的研发成本。”对于研发该产品的初衷，陈宁表示，大模型毫无疑问是当前AI发展的主流方向之一，可以预见未来各行业都将被大模型赋能和改造。但大模型的研发成本非常高，对人才的需求也非常大。F98品论天涯网

“云天励飞推出‘深目’AI模盒，就是希望把大模型技术，以及云天励飞10年的算法芯片化技术和行业知识，沉淀到一款标准化的产品中，快速为各类场景赋能。”陈宁介绍，这款产品搭载了云天励飞的自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”，让用户可以根据自身场景需求，利用大模型能力，训练出可实战应用的算法。F98品论天涯网

据介绍，“深目”AI模盒可实现算法场景覆盖超过90%、算法精度超过90%，使用成本降低90%，让用户能够根据自身场景需求，训练出可实战应用的算法。F98品论天涯网

“能够实现上述三个90%数据的提升，离不开云天励飞的核心能力——算法芯片化。”陈宁介绍，“深目”AI模盒的算力基础，来源于去年云天励飞推出的大模型训推芯片。该芯片支持大模型训练推理部署，已适配并可承载10亿级SAM、百亿级Llama2等大模型运算，可广泛应用于AIoT边缘视频、移动机器人等场景。此外，为了共同探索更多大模型低成本、高效率落地应用路径，云天励飞与鹏城实验室、之江实验室、上海交通大学城市治理研究院等多家单位共同成立“深目2.0”生态联盟，共同探索更多大模型落地应用路径。F98品论天涯网

构建“软硬结合”核心竞争力F98品论天涯网

报告显示，2023年云天励飞研发投入合计2.95亿元，占营业收入58.27%。截至2024年3月，云天励飞已授权专利700余项（含境外专利30项），其中发明专利500余项，已登记的软件著作权180余项。F98品论天涯网

持续高强度的研发投入，为云天励飞构建了“软硬结合”的核心竞争力。陈宁介绍，公司拥有算法和芯片两大核心技术平台，凭借“算法芯片化”的核心能力和“端云协同”的技术路线，在数字城市、人居生活等领域成功落地一系列标杆式解决方案，为各行业带来安全、智慧、便捷的AI体验。F98品论天涯网

据悉，在算法层面，经过多年的技术研发与积累，云天励飞构建了人工智能算法平台，拥有大模型研发能力，并推出了“云天天书”大模型，打造服务于多场景的行业大模型，并且与华为昇腾合作推出了搭载“云天天书”大模型的“天舟”大模型训推一体机。在芯片层面，公司基于对人工智能算法技术特点及行业场景计算需求的理解，通过自定义指令集、处理器架构及工具链的协同设计，实现算法技术芯片化，构建了神经网络处理器平台。F98品论天涯网

推动AI商业化落地F98品论天涯网

在陈宁看来，AI商业化将经历AI方案化、AI运营化、AI产品化三个阶段，而云天励飞的业务布局也对应了AI商业化的三个阶段，涵盖了AI方案、AI运营和AI产品三大板块。F98品论天涯网

在AI方案层面，云天励飞已经形成了成熟的城市级行业解决方案，包括安防、交通、城市治理和人居生活等领域，并在AI教育和低空经济等新兴领域取得了突破。AI运营层面，云天励飞正致力于智能算力运营、数据运营和新能源运营，以推动其业务的多元化发展。而在AI产品层面，标准化智能硬件产品是云天励飞的战略重点。目前，云天励飞正在通过端、边、云三个不同的计算节点和产品形态，推动AI从方案化走向运营化，最终实现智能硬件产品标准化。F98品论天涯网

除了内生式研发创新外，随着商业化落地需求的到来，云天励飞还在同步探索外延式并购发展。今年3月22日，云天励飞宣布收购智能穿戴方案设计头部公司岍丞技术，探索“大模型+智能可穿戴”深度融合。据悉，除了收购岍丞技术外，云天励飞还投资了智慧互通、臻识科技、神州云海等在动态停车、静态停车、全息路口及清洁机器人等方向的龙头企业，并作为创始股东成员之一参股深圳国创具身智能机器人有限公司，提供AI芯片、大模型领域的技术支持。F98品论天涯网

“我们将继续依托算法芯片化，围绕多模态大模型和AI芯片技术，通过商业创新、市场合作、投资并购等方式逐步构建各项业务生态，推动人工智能技术在千行百业的实际落地。”陈宁表示。F98品论天涯网

（责任编辑：王婉莹）F98品论天涯网