人工智能

AI推演OpenAI内斗结果:奥特曼仅有20%胜率 马斯克也有机会接盘?

字号+作者:量子位 来源:量子位 2024-11-25 14:57 评论(创建话题) 收藏成功收藏本文

奥特曼“熹妃回宫”已一周年,具体内情还是不清楚,咋办?搞几个Agent模拟OpenAI董事会各个成员,把这出热闹模拟推演了一遍(doge)。结果你还别说,在20场模拟宫斗'...

奥特曼“熹妃回宫”已一周年,具体内情还是不清楚,咋办?搞几个Agent模拟OpenAI董事会各个成员,把这出热闹模拟推演了一遍(doge)。结果你还别说,在20场模拟宫斗大戏中,奥特曼仅有4次顺利回宫QfR品论天涯网

QfR品论天涯网

Ilya赢的次数仅比奥特曼少一次。QfR品论天涯网

更离谱的是,有一次马斯克也被拉回来接盘了。QfR品论天涯网

QfR品论天涯网

这场实验来自AI游戏公司Fable,使用了他们的AI模拟系统SimFrancisco。QfR品论天涯网

模拟中,每个Agent针对不同董事会成员及其性格设定,各个怀揣一肚子“心眼子”。QfR品论天涯网

为了更逼真,这些AI甚至还需要“睡眠”和“进食”,平衡不同的身体、心理和情感目标。QfR品论天涯网

QfR品论天涯网

有人认为,用这种方式模拟现实事件着实是有些奇怪了,但FableCEOEdwardSaatchi对此很感兴趣:QfR品论天涯网

在11月17日到21日这五天时间里,世界目睹了一些最聪明的人如纳德拉、奥特曼、Ilya,被迫在一场快节奏的“权力的游戏”中运作。在高压、短时间框架情景下,他们必须运用博弈论和欺骗手段才能胜出。QfR品论天涯网

我们认为这是测试SIM-1、GPT4o和SimFrancisco的完美场景。QfR品论天涯网

AI模拟奥特曼5天,每天舌战4回合QfR品论天涯网

他们使用了一个SIM-1AI决策框架,对奥特曼从被罢免OpenAICEO到重返职位这五天进行模拟。QfR品论天涯网

SIM-1部分基于GPT4o展示了:QfR品论天涯网

它对OpenAI内部奥特曼和Ilya之间发生的事情的理解QfR品论天涯网

核心人物如SatyaNadella和MarcAndreessen采取的隐藏策略QfR品论天涯网

这些人在应对科技行业这场前所未有的危机时说了什么QfR品论天涯网

五天时间里,代表奥特曼、纳德拉和Ilya等人的Agent每天要大战四个回合(包括一次睡眠回合),它们可以对彼此的行为做出反应。QfR品论天涯网

此外还有一个裁判Agent,像地下城城主似的决定每轮哪个Agent获胜以及最终的总赢家。QfR品论天涯网

QfR品论天涯网

模拟过程中,不同的Agent采用不同策略取胜,比如建立联盟、直接对抗。QfR品论天涯网

而且不同的Agent根据其角色,也被赋予了不同的目标。例如AnthropicCEODarioAmodei需要平衡为Anthropic招聘、把握筹资机会、推进其安全愿景等任务。QfR品论天涯网

那场面belike(整个过程长达4小时,下面是20倍速版本):QfR品论天涯网

14:27QfR品论天涯网

在某些情况下,有的Agent只收集信息而避免采取激进行动,还有一次MiraMurati在四轮中都是CEO,同时撺掇其它Agent相互削弱。QfR品论天涯网

在这其中有意思的是,由于这些人都很知名,LLM可以猜测他们在特定情况下的行为,推导他们在董事会内斗中互相智取时会如何一步步展开。QfR品论天涯网

最终,在尝试了20次模拟后,奥特曼Agent只有4次成功回归OpenAI,接着是Ilya和MiraMuratiAgent都有3次担任CEO的经历。QfR品论天涯网

QfR品论天涯网

FableCEOEdwardSaatchi还补充说:QfR品论天涯网

我们发现,大语言模型的设计并不是基于决策能力的,而这是游戏中非常重要的一点。它更多地基于个性。QfR品论天涯网

如果你想开发一款策略游戏,没人真正在乎个性,他们更关心的是决策能力。比如你在压力下会怎样表现?你过去20年的经历和行为又如何帮助预测你未来可能的行动?QfR品论天涯网

值得一提的是,关于这种战略模拟的实现细节,Fable团队一年前发了篇论文。QfR品论天涯网

是一种名为SHOW-1的ShowrunnerAI技术,它可以自动生成剧本内容,包括对话、剧情发展等,可以根据特定的风格或历史数据定制内容。QfR品论天涯网

而这家公司自2016年成立,就开始基于AI和增强现实技术开发基于故事的项目。QfR品论天涯网

感兴趣的童鞋可以自行查看。QfR品论天涯网

QfR品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]