人工智能

Sora还没开源,但这家国产AIGC视频公司已经靠还原现实赚钱了

字号+作者: 来源:量子位公众号 2024-03-11 15:26 评论(创建话题) 收藏成功收藏本文

声明:本文来自于微信公众号 量子位 (ID:QbitAI),作者:衡宇 ,授权站长之家转载发布。最近AIGC的落地,又有了一些热议和争论。在金沙江创投主管合伙人朱啸虎的'...

声明:本文来自于微信公众号 量子位 (ID:QbitAI),作者:衡宇 ,授权站长之家转载发布。UE9品论天涯网

最近AIGC的落地,又有了一些热议和争论。UE9品论天涯网

在金沙江创投主管合伙人朱啸虎的爆款采访中,他表达了对自研大模型商业闭环的悲观,但又坚定地表示非常看好应用,“我信仰AGI,但我信仰应用啊,信仰能马上商业化的。”UE9品论天涯网

在他的犀利表达中,一家应用公司意外走红。UE9品论天涯网

它就是AIGC视频广告公司FancyTech(时代涌现)。UE9品论天涯网

对国内大模型五小虎不愿一看的朱啸虎,提到FancyTech,真的是不吝溢美之词,直夸很酷。UE9品论天涯网

夸它什么呢?主要是两点,一是效果好,二是能马上变现UE9品论天涯网

FancyTech商业成绩如何,还要等我们进一步挖掘;而论效果,我们搜寻来了网上的视频,确实不错。UE9品论天涯网

但谁会只相信品牌放出的demo呢UE9品论天涯网

???UE9品论天涯网

搜索之下,我们发现FancyTech的免费测试链接——那还等什么,直接冲啊。UE9品论天涯网

FancyTech真的fancy吗?

实测第一站,我们率先体验的是FancyTech还原现实的换装功能UE9品论天涯网

简单来说就是基于一张商品图,可以生成模特上身图,并且是能自定义姿势、自定义背景、自定义脸的那种。UE9品论天涯网

图片UE9品论天涯网

说实话,AIGC的风这么大,给模特换装已经不是啥稀奇功能了,甚至这一块的开源力量也不小。UE9品论天涯网

但之前接触过类似Google的Tryon Diffusion等,都没有FancyTech这样能够进行详细的自定义。UE9品论天涯网

图片UE9品论天涯网

就上手体验而言,FancyTech的体验比较傻瓜式。UE9品论天涯网

首先需要上传一张服装图像,接着上传可供参考的模特姿势,同时选择模特的性别、人种等,继而再上传(最少)一张背景参考图,就能得到最终的模特上身效果。UE9品论天涯网

衣服整体还原效果还是挺真实的。UE9品论天涯网

图片UE9品论天涯网

实测第二站,是FancyTech另外一个主打的功能,图生视频UE9品论天涯网

上传任意一张图片,点击下方的运行键即可。UE9品论天涯网

图片UE9品论天涯网

等待时间大概在35s左右,我们得到了这样一个效果:UE9品论天涯网

模特有眨眼动作,肢体中心也有自然的轻微转移,商品、模特都没有变形。UE9品论天涯网

图片UE9品论天涯网

我们还试着多跑几次,每次出来的效果都很稳定。UE9品论天涯网

图片UE9品论天涯网

而相同的事情丢给同为AIGC视频生成工具的Pika干,得到的效果是这样的:UE9品论天涯网

动作幅度更大,但商品细节似乎有模糊处理。不知是否是模特表情夸张引起的五官变形,恐怖谷效应扑面而来。UE9品论天涯网

图片UE9品论天涯网

两者对比,能看出FancyTech生成的视频结果在商品实物还原方面,还是很能打的。UE9品论天涯网

为了试验它的效果稳定与否,我们又对比了一组。UE9品论天涯网

这是FancyTech的效果:UE9品论天涯网

图片UE9品论天涯网

这是Pika的效果:UE9品论天涯网

图片UE9品论天涯网

这一组效果也都还不错,并且能感受到,FancyTech也可以有较大的人物动作幅度,有接近真人模特的动作展示,视频时间也能达到4s左右。UE9品论天涯网

在给品牌使用的流程上,这些生成都是自动化的,从生成图片到视频、再到发布,都不需要人工参与。UE9品论天涯网

就怎么说呢,跟某宝上售卖服装配的展示视频好像也没差?UE9品论天涯网

看了一下别人利用FancyTech做出的商品广告,比我们这种纯小白做的,那是酷炫多了。UE9品论天涯网

最最重要的是,看起来不穿帮,对现实场景有比较好的还原,不会一眼假是AI做的UE9品论天涯网

技术上是如何实现的?

亲身体验下来,FancyTech是有两把刷子在身上的。UE9品论天涯网

定位也很明晰:聚焦电商和广告视频领域,利用AI驱动生成商品表达视频,能基于用户反馈调整视频细节,还能附带画外音、音乐、字幕等。UE9品论天涯网

而且与市场上很多的AI视频生成工具,包括Sora、Pika等在内,FancyTech采用的方式不是文字生成视频,而是图片生成视频。UE9品论天涯网

但这样的AIGC视频生成效果,背后究竟是通过什么原理实现的?是基于某些开源方案打造,还是重新纯自研?UE9品论天涯网

带着种种问题,我们向FancyTech求解了一下背后的技术细节。UE9品论天涯网

“FancyTech是自研的全链路底层技术,然后配合工程化能力。”对方倒也没藏着掖着,直接亮出来了自家的技术实现方案。“我们学习了大量的热门视频,自研的模型来写脚本,再通过AI Agent串联各模型生成视频。”UE9品论天涯网

整体来说,FancyTech的工作流包含以下三个组成部分:UE9品论天涯网

视频模型:生成素材,提升素材丰富度;UE9品论天涯网

AI Agent:自动化生成,提升交付效率;UE9品论天涯网

数据效果反馈:自动优化素材,提升发布效果。UE9品论天涯网

三者形成循环,实现数据驱动,达到持续优化视频生成效果的目的。UE9品论天涯网

图片UE9品论天涯网

更进一步的,我们则就最基本的视频模型方面进行了了解。UE9品论天涯网

以前,AI无法真正取代商品展示拍摄,是因为效果不尽人意,尤其是难以模拟3D场景的真实动态。UE9品论天涯网

但看看刚才亲自试出来的效果,不管是连衣裙本身面料和重量带来的垂坠感,还是模特动作变换导致的裙摆摆动,FancyTech都能展现出自然效果。UE9品论天涯网

是怎么做到的呢?UE9品论天涯网

一是FancyTech自己组建了数据标注团队,在训练过程中收集了大量的真实数据,进行清洗、标注,从而拥有了质量够高的数据集。UE9品论天涯网

这样一来,就非常有利于最终产出优质效果的视频。UE9品论天涯网

二是构建覆盖多类型商品的场景图生成框架,实现全自动化、多品类、多种组合搭配的商品生成、场景生成、细节复原与增强。UE9品论天涯网

为了精确保持商品细节并进行合理变化,FancyTech还自研了图像特征提取器,将图像特征分成100自由度(合理变化)和0自由度特征(保持细节)。UE9品论天涯网

第四点是,针对不同商品和细分品类,团队训练了自己的多模态(文+图)图像生成模型DeepVideoUE9品论天涯网

在自研模型的基础上,FancyTech团队采用元学习和强化学习的训练方案,持续提升不同控制条件下的泛化能力。UE9品论天涯网

第五点也是FancyTech着重强调介绍的一点,是团队自研商品细节增强模型,ProductRefinerUE9品论天涯网

ProductRefiner负责的功能是加强细节复原,此外,还能描述输入可选细节,进一步提升商品细节展现。UE9品论天涯网

在训练过程中,ProductRefiner选用了自监督训练方法,无需构建成对数据集,极大地降低了成本。UE9品论天涯网

而且能对模特的上身和下身着装进行分割,在保证输入图像背景不变的前提下,对上衣和下衣进行修复和还原。UE9品论天涯网

图片UE9品论天涯网

阿里系创始团队

就在这样的技术加持下,去年一年,FancyTech和超过500个国内外品牌进行合作,日均生成视频量超过10万。UE9品论天涯网

而且根据朱啸虎公开的说法,FancyTech是在赚钱的:UE9品论天涯网

去年收入达到5000多万,(比他投资时的2022年)涨了五六倍。UE9品论天涯网

在基础大模型业务商业化路径仍然不分明的时候,聚焦特别场景,能有这样一个成绩,FancyTech背后团队究竟是什么来历?UE9品论天涯网

据量子位了解,成立于2020年的FancyTech,背后是一支阿里系团队。UE9品论天涯网

创始人兼CEO,William Li,花名空界,曾是天猫奢品Luxury Pavilion初代负责人,也在手机淘宝历任分享平台和用户社群的产品运营负责人。UE9品论天涯网

创始团队的其他成员,也都来自于手淘、天猫、阿里云等资深算法、运营及技术岗位。UE9品论天涯网

看到这里,你一定也对FancyTech能深谙电商展示玩法不足为奇了。UE9品论天涯网

现在,成立快4年的FancyTech已经将算法团队扩大至近百人规模,其中算法团队近20人,数据标注团队约50人。UE9品论天涯网

在我们联系上FancyTech的时候,这支队伍刚刚对产品进行了一次迭代,视频长度从原来的2s,拓展至4s左右。UE9品论天涯网

那么,有技术,有市场,有商业化,FancyTech的下一步又有什么打算?UE9品论天涯网

量子位得到的答案是这样的:UE9品论天涯网

Sora的出现,把其他所有的视频模型公司都打回了同一起跑线上——这对我们来说反而有利。UE9品论天涯网

我们走商业化路线,追求的是商品的还原,而Sora验证了下一步该怎么样去增强持续性。UE9品论天涯网

目前,FancyTech内部算法团队已经开始投入自家Transformer+Diffusion框架的研发,预计在今年4、5月份会拿出成果。UE9品论天涯网

是的没错,尽管有了Sora那样惊艳世人的模型出场,FancyTech的目标倒是一直没变过:UE9品论天涯网

“我们希望成为长视频赛道里,对现实还原得最好的公司。”UE9品论天涯网

UE9品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]