人工智能

ChatGPT官方API发布:输出100万词只要2.7美金 成本砍掉90%

字号+作者: 来源:智东西 2023-03-02 10:58 评论(创建话题) 收藏成功收藏本文

今日凌晨,OpenAI放出了真正的ChatGPTAPI,不是背后的GPT-3.5大模型,是ChatGPT的本体模型!ChatGPTAPI价格为1ktokens/$0.002,等于每输出100万个单词,价格才2.7'...

今日凌晨,OpenAI放出了真正的ChatGPTAPI,不是背后的GPT-3.5大模型,是ChatGPT的本体模型!ChatGPTAPI价格为1ktokens/$0.002,等于每输出100万个单词,价格才2.7美金(约18元人民币),比已有的GPT-3.5模型便宜10倍。手快的开发者可以冲了!hrs品论天涯网


hrs品论天涯网

这将大大降低开发人员将ChatGPT集成到自家应用和服务的门槛,构建属于自己的AI聊天机器人。而且OpenAI将ChatGPT从去年12月至今的成本砍掉了90%,令此前许多靠开发私有ChatGPTAPI接口赚差价的中间商们再无用武之地。hrs品论天涯网

ChatGPT官方API基于GPT-3.5-turbo模型,是GPT-3.5系列中最快速、最便宜、最灵活的模型。开发者可以通过OpenAIPlayground和OpenAICodex来使用和测试ChatGPTOpenAI。hrs品论天涯网

此前一些公司已经率先接入ChatGPTAPI,包括生鲜电商平台Instacart跨境电商平台Shopify照片分享应用Snap单词背诵应用Quizlet等,用于提高客户服务、营销、教育等效率及体验。hrs品论天涯网

OpenAI还在不断改进其ChatGPT模型,并希望将增强功能也提供给开发人员。hrs品论天涯网

使用该gpt-3.5-turbo模型的开发人员将始终获得OpenAI发布的稳定模型,同时仍然可以灵活地选择特定模型版本。例如,今天发布的gpt-3.5-turbo-0301,它至少会在6月1日之前推出特定版本,OpenAI会将gpt-3.5-turbo在4月更新到新的稳定版本。hrs品论天涯网

此外,OpenAI还推出了基于large-v2模型的Whisper官方API。Whisper是OpenAI去年9月发布的开源自动语音识别(ASR)模型。开发者可用该功能来转录或翻译音频,费用为每分钟0.006美元hrs品论天涯网

01.ChatGPT官方API来了!输出100万个Tokens只要2美金hrs品论天涯网

OpenAI官方宣布,其发布的ChatGPT模型系列与ChatGPT产品中使用的模型相同,对于许多非聊天应用场景,这仍然是他们的最佳模型。hrs品论天涯网

一些早期的开发人员,从“text-davinci-003”模型迁移至“gpt-3.5-turbo”只需根据提示进行少量调整。hrs品论天涯网

一般情况下,GPT模型数据使用的是电子邮件文本、Twitter信息、博客、新闻等信息中的非结构化文本,这些文本在模型中表现为一系列的“Tokens”,tokens可以被看作将文本切分成的若干个片段,1000个tokens大约是750个单词。hrs品论天涯网

而ChatGPT则改为使用一系列消息和元数据的新格式。在底层,输入仍然以tokens序列呈现给模型,模型使用的原始格式就变为一种聊天标记语言ChatML的新格式。hrs品论天涯网

OpenAI创建了一个新端点来与ChatGPT模型进行交互。hrs品论天涯网


hrs品论天涯网

值得注意的是,虽然0.002美元1000个tokens的价格并不贵,但1000个tokens在实际使用中数量并不算多,发送一段文本供API响应就可能会花费多个tokens。hrs品论天涯网

例如一个简单的字符串“ChatGPTisgreat!”,就被编码为六个tokens:“Chat”、“G”、“PT”、“is”、“great”、“!”.hrs品论天涯网

OpenAI提供了一种工具来检查解释一串文本需要多少标记,并介绍称一般的经验法则是一个token通常对应于约4个字符。hrs品论天涯网

02.为高需用户提供专用实例,性价比更高hrs品论天涯网

OpenAI还将为希望控制特定型号版本和系统性能的用户提供专用实例(Dedicatedinstances),也就是希望通过API运行大量数据的开发人员。hrs品论天涯网

默认情况下,开发人员是按照需求来付费,并且这些需求会执行在共享的计算基础设施之上。使用专用实例,开发人员将按照时间段支付,分配计算基础设施的费用,而这些基础设施就是专门为这些开发人员保留的。hrs品论天涯网

专用实例下,开发人员可以更好地控制使用的模型,包括希望它响应请求需要的时间以及与机器人对话可以持续多长时间等。hrs品论天涯网

对于每天运营超过4.5亿tokens的开发人员来说,专用实例可能性价比更高。hrs品论天涯网

此外,这一条件下还可以根据硬件性能直接优化开发人员的工作负载,这可以显著降低与共享基础设施相关的成本。hrs品论天涯网

03.社交、学习、配送、购物程序均已接入ChatGPTAPIhrs品论天涯网

此前已经有几家公司接入ChatGPTAPI来创建聊天界面。hrs品论天涯网

照片分享应用Snap,本周推出通过ChatGPTAPI接入的“MyAIforSnapchat+”功能,其提供了一个友好的、可定制的聊天机器人。用户通过手机就可以与它聊天获得建议,并在几秒内为朋友写一个笑话。hrs品论天涯网


hrs品论天涯网

单词背诵应用Quizlet推出了Q-Chat,可以让学生通过有趣的聊天体验中提供的学习材料,来提出相应问题获得知识。hrs品论天涯网

生鲜电商平台Instacart计划在今年晚些时候推出“AskInstacart”,这一功能可以帮助用户在询问食物相关问题时获得一些想法,例如用户可以问“对我的孩子来说,什么是健康的午餐?”hrs品论天涯网

跨境电商平台Shopify的新购物助手,将会根据购物者的需求进行个性化推荐,通过扫描数百万种产品来简化应用程序内购物的步骤,以快速找到买家正在寻找的东西。hrs品论天涯网

04.语音转文本每分钟仅0.006美元,API数据不用于模型训练hrs品论天涯网

除了引人关注的ChatGPTAPI外,OpenAIAI驱动的语音转文本模型也可以通过API接入,该公司正在对其开发人员服务条款进行一些重要更改。hrs品论天涯网

开发人员可以使用这一功能来转录或翻译音频,费用为每分钟0.006美元。hrs品论天涯网


hrs品论天涯网

从技术上讲,Whisper模型是开源的,因此开发人员无需支付任何费用也可以在自己的硬件上运行它。hrs品论天涯网

但是,如果在一些特殊情况下,例如开发人员对接入效率的要求较高以及需要在手机等低功率设备上转录。就可以通过OpenAI提供的更强大API。hrs品论天涯网

除了开放API外,OpenAI还基于开发人员反馈宣布了一些政策变更:通过API提交的数据不再用于服务改进(包括模型训练),除非相应的公司选择或者统同意加入;为API用户实施默认的30天数据保留政策,并根据用户需求提供更严格的保留选项;通过改进自动监控解锁来删除OpenAI发布前审查;改进开发人员文档;简化其服务条款和使用政策,包括有关数据所有权的条款:用户拥有模型的输入和输出。hrs品论天涯网

05.结语:OpenAI为开发者打开AI应用大门hrs品论天涯网

此前,一些开发人员已经找到了在自己的应用程序中接入聊天机器人的解决办法,那就是使用OpenAI的常规GPTAPI,但从应用和开发难度来看,都没有达到最佳效果。hrs品论天涯网

对于大多人开发人员来说,开发如同ChatGPT这样的自己的聊天机器人模型是完全遥不可及的,但此次官方将ChatGPTAPI正式打开,且其花费的价格并不高,为开发人员构建聊天机器人打开大门。hrs品论天涯网

OpenAI的官方博客中也谈道,他们认为人工智能可以为每个人提供难以置信的机会,而实现这一目标的最佳方式就是让每个人都可以利用它进行开发。hrs品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]