人工智能

OpenAI悄悄更改“价值观”:不All in AGI的别来沾边

字号+作者: 来源:量子位 2023-10-16 15:16 评论(创建话题) 收藏成功收藏本文

OpenAI,悄然更改了核心价值观(CoreValues)。曾经的它,在自家官方网站中列出的六大核心价值观是这样的:Audacious(大胆)、Thoughtful(深思熟虑)、Unpretentious(谦'...

OpenAI,悄然更改了核心价值观(CoreValues)。曾经的它,在自家官方网站中列出的六大核心价值观是这样的:Audacious(大胆)、Thoughtful(深思熟虑)、Unpretentious(谦逊)、Impact-driven(影响力驱动)、Collaborative(协作)、Growth-oriented(成长型)。
cDK品论天涯网


cDK品论天涯网

现如今,若是再浏览官网,其核心价值观已然发生了翻天覆地的变化。cDK品论天涯网

不仅从“六大”缩减到了“五大”,就连内容都换掉了:cDK品论天涯网

AGIfocus(聚焦AGI)、Intenseandscrappy(热切且斗志昂扬)、Scale(规模化)、Makesomethingpeoplelove(做人们喜欢的事物)、Teamspirit(团队精神)。cDK品论天涯网


cDK品论天涯网

而且“AGIfocus”赫然位列核心价值观之首:cDK品论天涯网

Wearecommittedtobuildingsafe,beneficialAGIthatwillhaveamassivepositiveimpactonhumanity’sfuture.cDK品论天涯网

我们致力于建立安全、有益的AGI,这将对人类的未来产生巨大的积极影响。cDK品论天涯网

Anythingthatdoesn’thelpwiththatisoutofscope.cDK品论天涯网

任何对此没有帮助的东西都不在讨论范围之内。cDK品论天涯网

尤其是第二句,说得直白一些,就是“任何跟AGI无关的都别来沾边”。cDK品论天涯网

其实早已有迹可循cDK品论天涯网

OpenAI对AGI如此重视也并不意外。cDK品论天涯网

毕竟CEOSamAltman已经不止一次对AGI做过评价,例如他曾在官网博客中把AGI描述为:cDK品论天涯网

通常比人类更聪明的系统。cDK品论天涯网

但在后续的采访中,他将这个定义降级描述为:cDK品论天涯网

相当于一个中等水平的人,你可以雇佣它作为同事。cDK品论天涯网


cDK品论天涯网

cDK品论天涯网

SamAltman,由Midjourney生成cDK品论天涯网

而且他在个人的X(原Twitter)中,也经常谈及对AGI的想法:cDK品论天涯网

构建AGI是一个科学问题。cDK品论天涯网

构建超级人工智能是一个工程问题。cDK品论天涯网


cDK品论天涯网

就连收到同事送的《塞尔达传说》游戏,在表示这款游戏害得他落下许多工作之后,也不忘提一句AGI:cDK品论天涯网

AGI延迟4天。cDK品论天涯网


cDK品论天涯网

不过对于OpenAI更改核心价值观这一行为,有人却觉得很不OK:cDK品论天涯网

说改就改,这还是核心价值观吗?cDK品论天涯网

但在OpenAI的发展历程中,类似这样的变化也并非第一次。cDK品论天涯网

例如在最初2015年成立的时候,OpenAI还是一家非营利性研究实验室,本质上意味着构建好的AI来对抗坏的AI。cDK品论天涯网

后来在慢慢的发展过程中,OpenAI却与“非营利性”逐渐背道而驰,这也导致马斯克等人的陆续退出。cDK品论天涯网

至于OpenAI的使命和愿景,自2018年发布以来至今却没有变过,依旧是:cDK品论天涯网

确保通用人工智能(AGI)造福全人类。cDK品论天涯网

那么对于此次更改核心价值观这件事,你怎么看呢?cDK品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]