人工智能

“编程作为一个职业在今日终结” OpenAI新模型o1的可怕之处

字号+作者: 来源:果壳 2024-09-13 19:50 评论(创建话题) 收藏成功收藏本文

还记得之前OpenAI的高层大地震吗?引发了SamAltman被罢免、联合创始人GregBrockman离职、OpenAI内部矛盾不断激化的,是一个名叫Q*(读作Q-Star)的项目。据知'...

还记得之前OpenAI的高层大地震吗?引发了SamAltman被罢免、联合创始人GregBrockman离职、OpenAI内部矛盾不断激化的,是一个名叫Q*(读作Q-Star)的项目。bfF品论天涯网

据知情人士透露,当时Q*项目取得了重大进展,已经可以解决基本的数学问题。与只能解决有限数量运算的计算器不同,与每次都给同一道题不同答案的GPT-4不同,Q*可能已经有了概括、学习和理解的能力,而这正是迈向AGI关键的一步。OpenAI的研究人员向董事会致信警告,Q*的重大发现可能威胁全人类,而SamAltman隐瞒了这一点。bfF品论天涯网

OpenAI内部翻天覆地,而OpenAI本身从未正面回应过Q*的存在。bfF品论天涯网

今天,OpenAI突然发布了一个新模型,这个模型目前还是前瞻版,它就是传说中的Q*,后来的代号“Strawberry”,如今的OpenAIo1-previewbfF品论天涯网


bfF品论天涯网

解决复杂问题的新推理模型,和ChatGPT不一个系列了|OpenAIbfF品论天涯网

o,还是“omini”,包罗万象的o,只不过据OpenAI表示,这次的模型“代表了人工智能的新高度”,和之前的大模型在工作方式上大有区别,因此可以单独成立一个新系列,从1开始重新算起(GPT5:我老了!)。bfF品论天涯网

至于这个模型是不是像IlyaSutskever和其他反水的OpenAI前核心科学家判断的那样会“威胁人类”、在道德约束不完善的情况下把人类推进AGI(通用人工智能)时代,大家可以看完文章再自己判断。bfF品论天涯网

o1,跑赢一切bfF品论天涯网

首先是耳熟能详的跑分环节。bfF品论天涯网

每一代大模型横空出世,都会跑出空前绝后的新高度,但这次的o1有本质的不同。bfF品论天涯网

目前比较流行的大模型大多都以聊天机器人的形式出现,思考路径难以解释,而且发展方向是多模态(能说能看能听),在语气和反应方面越来越像人。o1和它们不一样。bfF品论天涯网

首先它的目标不是越来越快,甚至是越来越慢bfF品论天涯网

OpenAI科学家NoamBrown称,目前o1几秒就能给出答案,但未来它要能进行几小时、几天,甚至几周的思考。之后附上了一张图,o1在十几秒的思考后给一个病例做出了诊断。NoamBrown的言下之意,推理时间长,意味着模型能构建更长的思维链,进行更深入的思考。bfF品论天涯网


bfF品论天涯网

其次,o1突破了之前大语言模型的死穴,数学bfF品论天涯网

AIME,美国数学邀请赛,比奥赛简单点,比SAT难很多,一般用来选拔全美国数学最优秀的高中生。让GPT4-o来写邀请赛的题,只得了12分,但o1一次性答题得了74分。如果采样1000次,再对1000个样本进行评分函数重新排序的话(这样更能反映模型的期望水平),o1得了93分,可以跻身全美前500名,可以入围美国数学奥赛了。bfF品论天涯网


bfF品论天涯网

o1和GPT-4o表现对比,数学上的进步非常大|OpenAIbfF品论天涯网

让o1去写2024年国际信息学奥林匹克竞赛(IOI)的题,它在10小时内,每题最多允许提交50次的情况下,取得了213分,在人类选手里排前49%。如果把提交次数放开到10000次,o1能得362.14分,可以拿到IOI金牌保送清华bfF品论天涯网


bfF品论天涯网

在实际测试中,使用的是o1的微调版本,不是我们能用的前瞻版本|OpenAIbfF品论天涯网

另外还有好多有的没的测试。比如在GPQA(一个综合了理化生的智力测试)里,o1在某些问题上超过了相关领域的博士。bfF品论天涯网

简而言之,在已经很强的领域内卷早就不是o1的目的,在大语言模型不擅长的复杂逻辑上实现突破才是。bfF品论天涯网

退一步,进两步bfF品论天涯网

就像上面说的,o1的反应速度变慢了。bfF品论天涯网

它会花更多时间思考,然后再做出反应,然后不断完善思维过程,尝试不同策略,并从错误中学习。这一点很可怕。bfF品论天涯网

而且o1现在不是个多模态的模型,OpenAI用了两年让大模型能看能听,今朝返璞归真了,o1只能接受字符输入。bfF品论天涯网

变慢和变单调,对o1来说,是退一步进两步。已经用上o1的人表示o1是他们用过的最聪明的模型,和它的对话已经超越了之前的小打小闹范畴。bfF品论天涯网

在一个测试里,用户问了o1一个逻辑悖论问题:“这个问题的答案里有几个字?”bfF品论天涯网

o1想了十秒钟,并且展示了思考过程。首先它想到,这是一个自指悖论,或者是递归问题,没有确定答案的时候就无法确定答案的字数,“避免不必要的表述对回答的清晰简洁很重要”。下一步是计算字数,需要让句子中出现的数字和句子的字数相匹配。然后它列举了很多句子,在里面找出最合适的匹配选项,它发现“这有五个字”有五个字,于是把句子结构换成完整的答复后,五应该换成七。bfF品论天涯网

于是它回答:“答案里有七个字。”bfF品论天涯网


bfF品论天涯网

这个推理过程已经和我的推理过程区别不大了|XbfF品论天涯网

在另一个例子里,o1回答“straberry里有几个r”这个简单的问题,用了5.6秒,631个token。bfF品论天涯网


bfF品论天涯网

从上面的例子,可以看出o1的工作方式已经和ChatGPT有了本质区别。现在的o1加入了推理token,会把一个问题拆分成多个步骤,再分别思考,之后再除去推理token生成答案。bfF品论天涯网

下图展示了思路链的工作方式,这也解释了为什么o1的响应速度变慢了。bfF品论天涯网


bfF品论天涯网

在用o1的时候,不妨用一些经典的逻辑问题和数学问题来检验它的能力bfF品论天涯网

也许在回答简单问题的时候,是否进行多轮推理的区别并不明显,但如果是用来解决写代码、做数学题,和科学领域的复杂问题,这种思考能力就是必不可少的了。bfF品论天涯网

OpenAI在论文中说,现在,医疗人员可以用o1来标注细胞测序数据,物理学家可以用o1生成量子光学所需的复杂数学公式,各领域的开发人员可以使用o1来构建和执行多步骤工作流程。bfF品论天涯网

更重要的是,这是一种思维模式的雏形,是智慧的早期形态bfF品论天涯网

新的模型,新的习惯bfF品论天涯网

由于o1的工作方式已经和ChatGPT不一样了,之前看到的那些教你写prompts的教程也不再适用——现在的情况下,过多的描述只会消耗海量的token,而不一定会获得更好的结果。bfF品论天涯网

为了让所有用户都明白这一点,OpenAI写了新的token指南。在指南中,OpenAI说明,在o1里最好的prompts是直接而简洁的,指挥模型一步一步做或者给若干分散的提示词可能会适得其反。以下是几个官方建议:bfF品论天涯网

  • Prompts要简单直接。模型对简短清晰的指令响应效果最好,不需要过多的指导。bfF品论天涯网

  • 在prompts中避免思维链。o1会自己进行内部推理,因此引导它一步一步思考和解释你的思考路径都是没用的。bfF品论天涯网

  • 最好使用分隔符来提高清晰度。用‘‘‘’’’、<>、§等分隔符,清晰地区分prompts的不同部分,以帮助模型分批处理问题。bfF品论天涯网

  • 限制检索增强生成中的额外上下文。只提供最相关的信息,避免模型过度思考。bfF品论天涯网


    bfF品论天涯网

    看到第三条的时候,我对这个格式产生了一丝熟悉的感觉。未来的程序员很有可能要用自然语言编程,基本的指令还是那些,只不过变成了大白话。按照最新的指南,一个好的prompts看起来会是这样的:bfF品论天涯网

    <写一个贪吃蛇游戏>bfF品论天涯网

    <要3d的>bfF品论天涯网

    <蛇碰到边框游戏结束>bfF品论天涯网

    或者这样的:bfF品论天涯网

    §主持人§作家§酒吧老板§油画家§皮匠§银匠§歌手§手鼓艺人§背包客§黄金左脸§法国骑士§禅宗弟子§bfF品论天涯网

    其他的就交给模型自己想去吧。bfF品论天涯网

    给我一分钟,做出3D贪吃蛇bfF品论天涯网

    用贪吃蛇举例子是有原因的。o1发布不到一天,就有人用它做了很多尝试,其中就包括3D贪吃蛇。bfF品论天涯网

    X上的@AmmaarReshi用了极其简单的prompts,仅用一分钟的时间就写出了一个3D贪吃蛇,而且o1还手把手教他怎么用代码。bfF品论天涯网


    bfF品论天涯网

    学会写prompts了吗?|@AmmaarReshibfF品论天涯网

    效果虽然有点简陋,但谁都不能说它不是贪吃蛇。bfF品论天涯网


    bfF品论天涯网

    而且还挺好玩的|@AmmaarReshibfF品论天涯网

    网友@JamesWade用o1做了个数据分析app,能显示每个分布的简短描述和示例,只用了15分钟,这还包括了部署的时间。他说:之前从来没有想过做这样的东西,之前太麻烦了。bfF品论天涯网


    bfF品论天涯网

    效果如图|@JamesWadebfF品论天涯网

    另一位工作了16年的全栈工程师@DallasLones,用几分钟做了一个ReactNative全栈开发App之后感慨道,自己当初没有尽快创业,如今这门手艺已经成了时代的眼泪。他说,“编程作为一个职业,在今天正式终结了”。bfF品论天涯网


    bfF品论天涯网

    还有更多的人在挑战o1的极限,已经有人玩起了“看谁的问题更刁钻能让o1思考的时间最长”的游戏。bfF品论天涯网


    bfF品论天涯网

    目前,o1先对ChatGPTPlus和Team用户开放,而API访问权限将首先开放给在OpenAIAPI上花费超过1000美元的5级用户。下一步,OpenAI将逐步向免费用户开放低配版的o1-mini。bfF品论天涯网

    这会是人类的夕阳吗?bfF品论天涯网

    作者:翻翻bfF品论天涯网

    本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]