人工智能

OpenAI泄密者,投奔马斯克

字号+作者: 来源:2024-05-07 14:07 评论(创建话题) 收藏成功收藏本文

声明:本文来自微信公众号“量子位”(ID:QbitAI),作者:关注前沿科技,,授权站长之家转载发布。刚被OpenAI开除的泄密者,光速投奔马斯克。当事人Pavel Izmailov(以'...

声明:本文来自微信公众号“量子位”(ID:QbitAI),作者:关注前沿科技,,授权站长之家转载发布。oUx品论天涯网

刚被OpenAI开除的泄密者,光速投奔马斯克。oUx品论天涯网

当事人Pavel Izmailov(以下简称小P),正是Ilya盟友之一,在Ilya领导的超级对齐团队干过。oUx品论天涯网

半个月前,小P被指疑似泄露Q*相关机密而被开除。虽然不清楚他泄密了个啥,但当时闹得沸沸扬扬。oUx品论天涯网

说时迟那时快,现在,他的推特个人简介上,已经大张旗鼓写着:oUx品论天涯网

研究员@xaioUx品论天涯网

图片oUx品论天涯网

要不说老马招人下手快呢,除了小P,不少优秀人才近期都被马斯克揽入麾下。oUx品论天涯网

看热闹的网友炸开了锅。夸他的人不少,称他干得漂亮:oUx品论天涯网

图片oUx品论天涯网

也有人嫌弃死了,觉得雇佣泄露机密信息的人,这行为无异于捡垃圾。oUx品论天涯网

图片oUx品论天涯网

而且最近xai的表现——包括发布Grok1.5V在内,狠狠刷了波存在感,不由得引人感慨:oUx品论天涯网

xAI将成为游戏的主要参与者,与OpenAI、Anthropic分庭抗礼。oUx品论天涯网

图片oUx品论天涯网

聘请OpenAI开除的泄密者

事情是这样的,有个对大模型领域新鲜事儿极其关注的博主,有了个大发现:oUx品论天涯网

马斯克旗下xAI的新晋员工,可不少啊???oUx品论天涯网

而且其中还有数人研究方向与OpenAI最神秘的Q*算法有点关系,看来马斯克才是Q*的真正信徒。oUx品论天涯网

图片oUx品论天涯网

具体是哪些人刚刚择xAI而栖了呢?oUx品论天涯网

最为瞩目的就是咱们开头提到过的小P。oUx品论天涯网

他还是纽约大学CILVR小组成员,本人透露2025年秋将加入纽约大学Tandon CSE、Courant CS担任助理教授。oUx品论天涯网

半个月前,他的个人页面还写着,“在OpenAI搞搞大模型推理工作”。oUx品论天涯网

图片oUx品论天涯网

半个月后,物是人非。oUx品论天涯网

但小P的推特置顶还是没有改变,是超级对齐团队的第一篇论文,小P是这篇论文的作者。oUx品论天涯网

图片oUx品论天涯网

超级对齐团队组团于去年7月份,是OpenAI为应对不同时间尺度上大模型可能会产生的安全问题,成立的三大安全团队之一。oUx品论天涯网

超级对齐团队负责遥远的未来,给超越人类的超级智能安全性奠定基础,由Ilya SutskeverJan Leike领导。oUx品论天涯网

图片oUx品论天涯网

说起来,虽然OpenAI看起来似乎在安全方面很重视,但其内部对AI的安全开发存在很大分歧已不是什么秘密。oUx品论天涯网

这种分歧甚至被认为是去年11月OpenAI董事会宫斗大戏的最主要原因。oUx品论天涯网

网传Ilya Sutskever成为“政变”带头人,就是因为看到了一些东西让他内心不安。oUx品论天涯网

而Ilya带领的这个超级对齐团队,很多成员也是站在Ilya这边,在后来支持奥特曼的比心接龙活动中,这个超级对齐团队成员也基本保持了沉默。oUx品论天涯网

然而宫斗事件平息后,Ilya仿佛在OpenAI蒸发了一般,惹得外界流言四起,但他再也没有公开露面过,甚至都没在网上进行澄清或辟谣。oUx品论天涯网

因此,超级对齐团队现在是个什么情况,咱也不知道。oUx品论天涯网

小P作为超级对齐团队成员、Ilya部下,半个月前从OpenAI被毕业,被网友猜测是奥特曼的“秋后算账”。oUx品论天涯网

人才啊,他连夜投奔马斯克oUx品论天涯网

虽然外界还不知道Q*的全貌,但种种迹象表明,它致力于把大模型与强化学习、搜索算法等结合起来,增强AI推理能力。oUx品论天涯网

除了最有八卦点的小P,下面几位新加入xAI的人才研究方向多多少少与之相关。oUx品论天涯网

Qian Huang,目前还是斯坦福大学的一名博士生。oUx品论天涯网

去年夏天开始,Qian Huang在Google DeepMind工作,目前推特上已经注明了@xai,暂不知担任什么职务。oUx品论天涯网

但从GitHub个人主页可以看到,她的研究方向是将机器推理与人类推理结合起来,特别是新知识的合理性、可解释性和可扩展性。oUx品论天涯网

Eric Zelikman,斯坦福博士在读生,推特上写明“study why @xai”。oUx品论天涯网

之前,他先后在Google研究院和微软研究院待过一段时间。oUx品论天涯网

他在个人主页上说:“我对算法如何(以及是否)能够学习有意义的表示和推理很着迷,我正在xAI研究这回事儿。”oUx品论天涯网

图片oUx品论天涯网

今年3月他所在团队推出Quiet-Star算法,确实也是Q*,让大模型学会自己独立思考。oUx品论天涯网

图片oUx品论天涯网

Aman Madaan,卡内基梅隆大学语言技术研究所博士在读生。oUx品论天涯网

他的研究领域包括大型语言模型、反馈驱动的生成以及代码生成和自然语言推理的交叉领域,研究的首要主题是使用推理时间计算(Inference-Time Compute)来增强推理能力(Reasoning)。oUx品论天涯网

攻读博士学位期间,Aman曾担任Google大脑和艾伦人工智能研究所的学生研究员和合作者;更早以前,他还是Oracle的主要技术人员。oUx品论天涯网

图片oUx品论天涯网

加上Pavel Izmailov在内的几位新员工,自此马斯克的技术人才版图已扩增至34人(不包括马斯克本人),相比于最开始12人的创始团队增长了约2倍。oUx品论天涯网

在新加入的成员当中,华人共计7人,加上创始团队的5人,自此共有12人。oUx品论天涯网

Xiao Sun,此前曾在Meta、IBM就职,博士毕业于耶鲁,北大校友。oUx品论天涯网

Ting Chen,此前曾在谷歌DeepMind、谷歌大脑就职,本科毕业于北邮。oUx品论天涯网

Juntang Zhuang,此前曾在OpenAI就职,DALL-3、GPT-4核心贡献者,本科毕业于清华,硕博毕业于耶鲁。oUx品论天涯网

Xuechen Li,今年博士毕业于斯坦福,羊驼Alpaca系列大模型的核心贡献者。oUx品论天涯网

Lianmin Zheng,UC伯克利计算机博士,小羊驼Vicuna、Chatbot Arena创建者。oUx品论天涯网

Qian Huang,斯坦福在读博士生,毕业于天津南开中学。oUx品论天涯网

Haotian Liu,威斯康星大学麦迪逊分校,本科毕业于浙江大学,LLaVA一作。oUx品论天涯网

而从机构分布上看,主要还是集中于谷歌、斯坦福、Meta、OpenAI、微软等机构,他们都有丰富的大模型训练经验, 比如GPT系列、大小羊驼系列,以及谷歌Meta相关大模型。oUx品论天涯网

从加入时间来看,更多还是集中在今年2-3月,平均每5天就有一名新成员加入共计13人。去年8-10月间只有5人加盟。oUx品论天涯网

而如果结合相对应Grok的进展,也能看到马斯克xAI每一阶段招人计划。oUx品论天涯网

比如今年3月29日,马斯克突然发布Grok-1.5,上下文长度飙升,从原本的8192增长到128k,和GPT-4齐平。oUx品论天涯网

而将时间推回一个月(今年2月),OpenAI前员工Juntang Zhuang加盟xAI。他在OpenAI发明了GPT-4Turbo支持128k长上下文能力的算法。oUx品论天涯网

还有像今年4月15日,Grok-1.5V多模态模型发布,它能处理除文本信息外,包括图表、屏幕截图、照片在内的各种视觉信息。oUx品论天涯网

而今年3月,LLaVA一作Haotian Liu才刚刚加盟。LLaVA是端到端训练多模态大模型,展现出了类似于GPT-4V的能力。而新版LLaVA-1.5在11个基准上实现了SoTA。oUx品论天涯网

图片oUx品论天涯网

那现在不妨可以大胆设想一下, 新一波人才引进,Grok可能会有什么样的新升级呢?oUx品论天涯网

网友:不管,Grok-1.5在哪呢(还没开源呢)。oUx品论天涯网

图片oUx品论天涯网

但是不管怎么说,根据此前马斯克所说的人才标准来看,这位网友道出了“实情”:oUx品论天涯网

大家都说老马家大模型公司都是人才,其实人家马斯克根本不在乎你有才没才的。oUx品论天涯网

人家说了,只要你能每周工作80小时还不崩溃,就能加入他们。oUx品论天涯网

图片oUx品论天涯网

80个小时?!oUx品论天涯网

量子位掐指一算,那不就是一周无休每天工作11.5个小时吗……oUx品论天涯网

别说智商了,这活从体力上咱就干不了干不了。oUx品论天涯网

参考链接:oUx品论天涯网

[1]https://twitter.com/Pavel_IzmailovoUx品论天涯网

[2]https://twitter.com/jam3scampbell/status/1786149919041970683oUx品论天涯网

[3]https://x.ai/aboutoUx品论天涯网

[4]https://x.com/emollick/status/1787593669618393299oUx品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]