周五下午,OpenAI联合创始人伊利亚-苏茨克沃(IlyaSutskever)在年度人工智能大会NeurIPS上就一系列话题发表了演讲,随后接受了表彰他在该领域所作贡献的奖项。Sutskever对"超级智能人工智能"进行了预测,他认为人工智能在许多任务上的能力都将超过人类,并将在某一时刻实现。O7T品论天涯网
O7T品论天涯网
Sutskever认为,超级智能人工智能将与我们今天所拥有的人工智能"有质的不同"--在某些方面甚至无法识别。[超级智能]系统实际上将以真正的方式成为代理系统,而不是目前那些"非常轻微代理"的人工智能。它们会"推理",因此变得更加不可预测。他们会从有限的数据中理解事物。他们会有自我意识,O7T品论天涯网
Sutskever在NeurIPS的演讲中说:"我们所知道的预训练将毫无疑问地终结。这指的是人工智能模型开发的第一阶段,即大型语言模型从大量无标记数据--通常是互联网、书籍和其他来源的文本--中学习模式,我们已经达到了数据峰值,不会再有更多数据了。我们必须处理好现有的数据。互联网只有一个。"O7T品论天涯网
虽然他相信现有的数据仍能让人工智能的发展走得更远,但业界正在挖掘新的数据来进行训练。他说,这种态势最终将迫使人们改变目前训练模型的方式。他将这种情况比作化石燃料:就像石油是一种有限的资源一样,互联网中人类生成的内容也是有限的。O7T品论天涯网他预测,下一代模型将"真正实现代理化"。代理已成为人工智能领域一个真正的流行词。虽然Sutskever在演讲中没有对其进行定义,但人们通常将其理解为一种自主的人工智能系统,它可以独立执行任务、做出决策并与软件进行交互。O7T品论天涯网他说,除了"代理"之外,未来的系统还将能够进行推理。现在的人工智能主要是根据模型以前所见进行模式匹配,而未来的人工智能系统则不同,它将能够以一种更类似于思考的方式逐步解决问题。O7T品论天涯网Sutskever认为,系统推理能力越强,"就越难以预测"。他将"真正的推理系统"的不可预测性比作下棋的高级人工智能"如何让最优秀的人类棋手都无法预测"。"它们会从有限的数据中理解事物,"他说。"他们不会感到困惑。"O7T品论天涯网在台上,他将人工智能系统的缩放与进化生物学进行了比较,引用了显示不同物种大脑与体重之间关系的研究。他指出,虽然大多数哺乳动物都遵循一种缩放模式,但类人猿(人类祖先)的大脑与身体质量比在对数刻度上呈现出明显不同的斜率。O7T品论天涯网他认为,正如进化为人类大脑找到了一种新的扩展模式一样,人工智能也可能会发现新的扩展方法,超越目前预训练的工作方式。O7T品论天涯网O7T品论天涯网
在Sutskever结束演讲后,一位听众问他,研究人员如何才能为人类创造正确的激励机制,让人工智能"拥有我们人类所拥有的自由"。O7T品论天涯网"我觉得从某种意义上说,这些都是人们应该更多地思考的问题。"苏茨克沃回答道。他停顿了一会儿才说,他"没有信心回答这样的问题",因为这需要一个"自上而下的政府结构"。O7T品论天涯网"我觉得我不是评论加密货币的合适人选,但你所描述的情况有可能会发生,"Sutskever说。"你知道,从某种意义上说,如果你拥有人工智能,而它们想要的只是与我们共存,也只是拥有权利,那么最终结果并不坏。也许这样也不错......我觉得世事难料。我不愿意发表评论,但我鼓励猜测。"O7T品论天涯网离开OpenAI后,Sutskever创建了SafeSuperintelligence(SSI),这是一家专注于通用人工智能安全的实验室。SSI于今年9月融资10亿美元。O7T品论天涯网
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】