人工智能

奥特曼要用AI造福全人类 OpenAI能顶住钱的诱惑吗?

字号+作者: 来源:凤凰网科技 2024-09-16 09:51 评论(创建话题) 收藏成功收藏本文

美国《商业内幕》杂志周日发文称,OpenAI原本是一家致力于安全开发人工智能的非营利组织,但是随着公司的AI技术越来越强,来自投资者的资金越来越多,它开始偏'...

美国《商业内幕》杂志周日发文称,OpenAI原本是一家致力于安全开发人工智能的非营利组织,但是随着公司的AI技术越来越强,来自投资者的资金越来越多,它开始偏离最初使命,将投资者的利益置于人类利益之上。43b品论天涯网

43b品论天涯网

OpenAICEO奥特曼43b品论天涯网

2015年,山姆·奥特曼(SamAltman)怀着崇高的使命创办了OpenAI,那就是:开发能够“造福全人类”的通用人工智能(AGI)。43b品论天涯网

为了完成这一使命,他把OpenAI设定成了一家非营利组织。然而,随着该公司越来越接近于开发出AGI(像人一样推理),兴奋的投资者投入大量资金,一些人担心奥特曼正在忽视其使命中“造福全人类”的部分。43b品论天涯网

这种转变一直在逐步进行,似乎不可避免。43b品论天涯网

2019年,OpenAI宣布增设营利性部门,以资助公司运营,协助其完成非营利使命,但它仍忠于最初的理念,限制投资者可以获得的利润。43b品论天涯网

“我们希望在履行使命的同时提高筹集资金的能力,我们所知道的现有法律结构都没有达到适当的平衡,”OpenAI当时表示,“我们的解决方案是将OpenAILP打造成营利性和非营利性的混合体,我们称之为‘利润封顶’的公司。”43b品论天涯网

43b品论天涯网

OpenAI43b品论天涯网

表面上看,这是一个巧妙之举,似乎是为了同时满足那些关心安全开发AI技术的员工和利益相关者,以及那些希望看到公司更积极开发和发布产品的人。43b品论天涯网

但是,随着大量资金涌入OpenAI营利性部门,以及公司和奥特曼的名声越来越差,一些人开始感到不安。43b品论天涯网

内部分歧43b品论天涯网

去年,OpenAI首席科学家伊利亚·苏斯克沃(IlyaSutskever)等董事会成员曾短暂罢免过CEO奥特曼,原因是担心公司过于激进地发布产品,而没有优先考虑安全性。在重要投资者微软的支持下,奥特曼迅速恢复了CEO职位。43b品论天涯网

其实,在OpenAI内部,公司的文化裂痕已经显现出来了。43b品论天涯网

今年5月,OpenAI的两位顶尖研究人员简·莱克(JanLeike)和苏斯克沃宣布辞职。这两人负责公司的“超级对齐”团队,该团队的任务是确保公司安全地开发AGI,这是OpenAI使命的核心原则。超级对齐是一个AI术语,目的是让AI符合人类价值观。43b品论天涯网

当月晚些时候,OpenAI解散了整个超级对齐团队。莱克离职后在X上表示,该团队一直是在“逆风航行”。43b品论天涯网

“OpenAI必须成为一家安全至上的AGI公司,”他表示,“构建生成式AI是一项存在固有危险的事业,但OpenAI现在更关注于打造光鲜的产品”。43b品论天涯网

43b品论天涯网

OpenAI前首席科学家苏斯克沃43b品论天涯网

现在看来,OpenAI几乎已经完成了转型,俨然成了一家“快速行动和打破陈规”的科技巨头。43b品论天涯网

据《财富》报道,奥特曼在上周的一次会议上告诉员工,公司计划在明年摆脱非营利母公司董事会的控制,因为该董事会已经“不再适合公司的发展”。43b品论天涯网

因估值改变结构43b品论天涯网

路透社在上周六报道称,OpenAI即将获得另外一笔65亿美元的投资,将以可换股债券的形式进行,公司估值将达到1500亿美元。但知情人士称,这一估值将取决于两个条件:OpenAI要推翻现有的企业结构,并放弃对投资者的利润封顶限制。43b品论天涯网

从这轮融资的细节可以看出,OpenAI这家原本以研究为基础的非营利组织已经在转型道路上走了多远。为了吸引更多投资来资助其昂贵的AGI研发,OpenAI愿意做出结构上的改变。43b品论天涯网

知情人士称,OpenAI已与律师讨论将其非营利结构转变为营利性公益公司,这类似于其竞争对手使用的结构,例如Anthropic、xAI。如果重组失败,OpenAI将需要与投资者重新磋商其估值,以确定其股份转换的价格,这个价格可能会较低。43b品论天涯网

目前尚不清楚这种根本性的公司结构变化是否会发生。利润封顶限制了投资者在OpenAI营利性部门身上的潜在回报,取消这一限制将给早期投资者带来更大收益。43b品论天涯网

不过,这也可能引发人们对OpenAI治理和背离其非营利使命的质疑。OpenAI此前表示,设立利润上限是为了“激励他们以一种平衡商业化、安全性和可持续性的方式研究、开发和部署AGI,而不是专注于纯粹的利润最大化”。43b品论天涯网

OpenAI在一份声明中表示,公司仍然专注于“构建造福全人类的AI”,同时继续与其非营利母公司的董事会合作。“非营利是我们使命的核心,并将继续存在。”OpenAI发言人称。43b品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]