人工智能

GPT-3计划开源 Sam Altman自曝急缺GPU GPT-4多模态能力2024年开放

字号+作者: 来源:新智元 2023-06-03 14:35 评论(创建话题) 收藏成功收藏本文

听证会之后,SamAltman带着团队在欧洲开启了“旅行”。而在最近的一次访谈中,Altman也没有藏着掖着,自曝自家AI的一切进展,全得等GPU跟上了再说。他讨论了Op'...

听证会之后,SamAltman带着团队在欧洲开启了“旅行”。而在最近的一次访谈中,Altman也没有藏着掖着,自曝自家AI的一切进展,全得等GPU跟上了再说。他讨论了OpenAI的API,以及产品计划,引起了许多人的关注。tci品论天涯网

许多网友纷纷表示,我喜欢Altman的坦诚。tci品论天涯网

值得一提的是,GPT-4的多模态能力,2024年应该大部分Plus用户就能上手了,前提还是有足够GPU才行。tci品论天涯网

微软老大哥斥资12亿美元给OpenAI建的超算,还远远无法满足GPT-4运行时所需的算力。毕竟,GPT-4参数据称有100万亿。tci品论天涯网

另外,Altman还透露,GPT-3也在OpenAI的开源计划之中。tci品论天涯网


tci品论天涯网

不知道是不是这次采访内容透露了太多OpenAI的“机密”,源文稿目前已被删除,快点码了。tci品论天涯网

划重点tci品论天涯网

最新访谈,是来自AI开发平台Humanloop的首席执行官RazaHabib主持,采访了Altman以及其他20位开发人员。tci品论天涯网

这次讨论涉及到实际的开发者问题,以及与OpenAI的使命和AI的社会影响相关的更大的问题。tci品论天涯网

以下是关键要点:tci品论天涯网

1.OpenAI急缺GPUtci品论天涯网

2.OpenAI的近期路线图:GPT-4多模态2024年开放tci品论天涯网

3.通过API访问ChatGPT插件近期不会发布tci品论天涯网

4.OpenAI只做ChatGPT这一“杀手级应用”,目标是让ChatGPT成为一个超级智能的工作助手tci品论天涯网

5.GPT-3在开源计划中tci品论天涯网

6.模型性能的缩放法则继续有效tci品论天涯网

接下来,将从6大点介绍SamAltman究竟说了啥。tci品论天涯网

OpenAI目前严重依赖GPUtci品论天涯网

采访的一切话题都是围绕,“OpenAI太缺GPU了”。tci品论天涯网

这已经拖延了他们许多的短期计划。tci品论天涯网

目前,OpenAI的许多客户都在抱怨API的可靠性和速度。SamAltman解释道,主要还是GPU太缺了。tci品论天涯网


tci品论天涯网

OpenAI是英伟达DGX-1超算首位客户tci品论天涯网

至于,支持32ktokens的上下文长度还不能推出给更多的人。tci品论天涯网

由于OpenAI还没有克服技术上的障碍,看起来他们似乎今年就会有支持100k-1Mtokens的上下文,但需要在研究上取得突破。tci品论天涯网

微调(Fine-Tuning)API也目前受到GPU可用性的限制。tci品论天涯网

OpenAI还没有使用像Adapters或LoRa这样的高效微调方法,因此微调对于运行和管理来说是非常计算密集型的。tci品论天涯网

不过,未来他们将对微调提供更好的支持。甚至,OpenAI可能会托管一个社区贡献的模型市场。tci品论天涯网

最后,专用容量提供也受到GPU可用性的限制。tci品论天涯网

今年年初,网友爆出OpenAI正在悄悄推出一个新的开发者平台Foundry,让客户在专用容量上运行该公司的新机器学习模型。tci品论天涯网

这一产品就是“为运行较大工作负载的尖端客户设计”。要使用这项服务,客户必须愿意预付$100k的费用。tci品论天涯网

然而,从透露的图片信息可以看出,实例并不便宜。tci品论天涯网

运行GPT-3.5的轻量级版本,3个月的委托将花费78,000美元,一年将花费264,000美元。tci品论天涯网

从另一侧面也可以看出,GPU消耗价格不菲。tci品论天涯网

OpenAI近期路线图tci品论天涯网

Altman分享了OpenAIAPI的暂定近期路线图:tci品论天涯网

2023:tci品论天涯网

·又快又便宜的GPT-4ーー这是OpenAI的首要任务。tci品论天涯网

总的来说,OpenAI的目标是,尽可能地降低“智能成本”。因此他们将努力继续降低API的成本。tci品论天涯网

·更长的上下文窗口ーー在不久的将来,上下文窗口可能支持高达100万个tokens。tci品论天涯网

·微调API——微调API将扩展到最新的模型,但具体的形式将取决于开发人员真正想要的是什么。tci品论天涯网

·有记忆的APIーー目前大部分token被浪费在上文的传输中,将来会有一个能够记住对话历史的API版本。tci品论天涯网

2024:tci品论天涯网

·多模态能力ーーGPT-4发布时曾演示了强大的多模态能力,但是在GPU得到满足之前,这一功能还无法拓展到所有人。tci品论天涯网

插件“没有PMF”,短期内不会出现在API中tci品论天涯网

许多开发者对通过API访问ChatGPT插件非常感兴趣,但Sam表示这些插件不会很快发布。tci品论天涯网

“除了Browsing外,插件系统还没有找到PMF。”tci品论天涯网

他还指出,很多人想把他们的产品放到ChatGPT里,但实际上他们真正需要的是把ChatGPT放到他们的产品里。tci品论天涯网

除了ChatGPT,OpenAI不会发布更多产品tci品论天涯网

OpenAI的每一次动作,都让开发者们抖三抖。tci品论天涯网

不少开发人员表示,OpenAI可能发布与他们竞争的产品的时候,对使用OpenAIAPI构建应用感到紧张。tci品论天涯网

而Altman表示,OpenAI不会在ChatGPT之外发布更多的产品。tci品论天涯网

在他看来,伟大的公司有一个“杀手级应用”,ChatGPT就是要做这个创纪录的应用。tci品论天涯网

ChatGPT的愿景是成为一个超级智能的工作助理。OpenAI不会触及到更多其他GPT的用例。tci品论天涯网

监管是必要的,但开源也是必要的tci品论天涯网

虽然Altman呼吁对未来模型进行监管,但他并不认为现有的模型是危险的。tci品论天涯网

他认为,监管或禁止现有模型将是一个巨大的错误。tci品论天涯网

采访中,他重申了自己对开源重要性的信念,并表示OpenAI正在考虑将GPT-3开源。tci品论天涯网

而现在,OpenAI还没有开源的部分原因是,他对有多少个人和公司有能力托管,和提供大模型表示怀疑。tci品论天涯网

模型性能“缩放法则”仍有效tci品论天涯网

近来,许多文章声称,巨型人工智能模型的时代已经结束。然而,并没有准确反应Altman原意。tci品论天涯网

OpenAI的内部数据表明,模型性能的缩放法则(scalinglaws)仍然有效,让模型变大将继续产生性能。tci品论天涯网

不过,缩放的速度不能维持,因为OpenAI在短短几年内已经将模型扩大了数百万倍,未来这样做将不可持续。tci品论天涯网

这并不意味着OpenAI不会继续尝试使模型更大,只是意味着它们可能每年只会增加1倍/2倍,而不是增加多个数量级。缩放法则继续有效的事实对AGI开发的时间线有重要的影响。tci品论天涯网

缩放假设是我们可能已经有了构建AGI所需的大部分部件,剩下的大部分工作将是将现有的方法扩展到更大的模型和更大的数据集。tci品论天涯网

如果缩放的时代结束了,那么我们可能应该预期AGI会更远。缩放法则继续有效强烈暗示了实现AGI时间线会变短。tci品论天涯网

网友热评tci品论天涯网

有网友调侃道,tci品论天涯网


tci品论天涯网

OpenAI:必须通过法规来保护我们的护城河。还是OpenAI:Meta在我们的护城河里撒尿,让我们也暗示一下我们的模型要开源吧。tci品论天涯网


tci品论天涯网

还有人称,如果GPT-3真的开源了,像LLMa一样,需要大约5天的时间在M1芯片上就能运行了。tci品论天涯网


tci品论天涯网

社区开发人员能够帮OpenAI解决GPU瓶颈,前提是他们开源模型。没几天,开发者们就能让其运行在CPU和边缘设备。tci品论天涯网


tci品论天涯网

GPU短缺一事,有人认为是OpenAI资金链出了问题,买不起。tci品论天涯网

然而还有人称,明显是缺乏供应。除非芯片制造业发生革命,否则相对于消费GPU来说,可能总是会出现供应不足的情况。tci品论天涯网


tci品论天涯网

还有网友怀疑,英伟达的价值还是被低估?计算需求的阶梯式变化可能持续数年...tci品论天涯网


tci品论天涯网

英伟达刚刚加入万亿美元俱乐部,这样说来,无限的算力需求或许会成就一个世界超越2万亿美元的芯片厂。tci品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]