人工智能

AI初创集体跳槽OpenAI Ilya出走后安全团队重整旗鼓

字号+作者: 来源:新智元 2024-05-27 15:26 评论(创建话题) 收藏成功收藏本文

AI安全公司Indent首席执行官FouadMatin和他的团队将加入OpenAI,致力于为AGI做好安全准备。上周,在内部的离职潮和外部的口诛笔伐之下,OpenAI可谓是内忧外'...

AI安全公司Indent首席执行官FouadMatin和他的团队将加入OpenAI,致力于为AGI做好安全准备。上周,在内部的离职潮和外部的口诛笔伐之下,OpenAI可谓是内忧外患:xCO品论天涯网

-侵权寡姐引发全球热议xCO品论天涯网

-员工签署“霸王条款”被接连曝出xCO品论天涯网

-网友细数奥特曼“七宗罪”xCO品论天涯网


xCO品论天涯网

辟谣:根据Vox获得的泄露消息和文件,OpenAI的高级领导层,包括Altman在内,非常了解这些股权回收条款,并且签署了它们。xCO品论天涯网

除此之外,还有一个严峻而紧迫的问题摆在OpenAI面前——AI安全。xCO品论天涯网

最近,五名与安全相关的员工离职,其中包括两名最著名的员工,“超级对齐”团队的解散让OpenAI的安全问题再次被置于聚光灯下。xCO品论天涯网

《财富》杂志报道称,OpenAI从未兑现让其超级对齐团队获得其20%计算资源的承诺。xCO品论天涯网


xCO品论天涯网

2023年7月,OpenAI成立了一个新团队,致力于确保未来可能比人类加起来还要聪明的人工智能系统能够被安全控制。为了表明该公司对这一目标的重视程度,它公开承诺将投入当时可用计算资源的20%用于这项工作。xCO品论天涯网

现在,还不到一年时间,这个名为“超级对齐”的团队因员工辞职以及OpenAI将产品发布置于人工智能安全之上的指控而被解散,据6位知情人士称,OpenAI从未履行向该团队提供20%算力的承诺。xCO品论天涯网

但在上周四,Indent首席执行官FouadMatin在X和Reddit上宣布,“我们加入了OpenAI,致力于为AGI做好安全准备!”xCO品论天涯网

他在推文中写道,“我很高兴能与一支出色的团队一起保障未来的安全,从前沿模型准备到客户数据控制,确保人工智能安全并造福于每个人是非常重要的。”xCO品论天涯网


xCO品论天涯网

看来,OpenAI安全团队正在重整旗鼓,招募新人,那么,刚刚被OpenAI招募的FouadMatin能否临危受命,“挽大厦于将倾”呢?xCO品论天涯网

FouadMatin和他的团队xCO品论天涯网

有“不明真相的吃瓜群众”在FouadMatin的帖子下留言:“我们加入了OpenAI”中的“我们”是谁?xCO品论天涯网


xCO品论天涯网

显然,答案不是“他的两个半脑”那么简单,FouadMatin背后的资源是他所创办的Indent,Indent正是一家致力于“构建安全的未来”的AI公司。xCO品论天涯网


xCO品论天涯网

目前,Indent已经在其官网上发布了“日落通知”,宣布Indent将在今年7月停止服务。xCO品论天涯网


xCO品论天涯网

我们创办Indent的目标是帮助团队保护最重要的东西。我们的客户已经保护了从客户数据和生产基础架构到日常业务软件的一切安全,而所有这一切都不会降低团队的速度。xCO品论天涯网

经过慎重考虑,我们做出了一个非常艰难的决定:Indent将在未来几个月内关闭,我们将帮助客户过渡,并继续为实现这一共同目标而努力。xCO品论天涯网

在太平洋标准时间2024年7月15日下午12点之前,团队都可以提出申请,届时服务将关闭。审计日志将提供到7月19日,之后我们将开始数据删除流程。xCO品论天涯网

我们要感谢每一位使用Indent的用户,从第一天就获得访问权的早期创业公司,到使用Indent保护关键任务资源的数百人团队。xCO品论天涯网

FouadMatin是Indent的联合创始人和CEO,FouadMatin称,他创办Indent是因为发现大多数公司不知道谁有权访问客户数据,而且对于大多数公司来说,发现这一问题的成本太高,更不用说锁定这些数据了。而Indent可以提供用户友好的访问控制。2021年12月,Indent为按需访问控制融资560万美元。xCO品论天涯网

在2018年创办Indent之前,FouadMatin还有3段工作经历。xCO品论天涯网

2014年,FouadMatin曾和其他联创共同创办了一家推荐招聘公司,他在其中负责产品、销售和工程设计。曾参加首届YCombinator奖学金计划和YCW16。xCO品论天涯网

2016年,他创办了一个无党派非营利组织,致力于为年轻人建立最简单的登记和投票方式,帮助100万人投票。xCO品论天涯网

2017年,他在Segment担任工程师,领导细分角色的产品和工程开发,使客户能够将用户操作解析为配置文件。致力于更好的产品体验设计。xCO品论天涯网


xCO品论天涯网

正如FouadMatin在个人简介中所介绍的那样,他是一名软件工程师和产品设计师,有时也会投资初创公司,在过去几年里,他曾帮助几百万人投票给非营利组织和公司,以管理他们的客户数据。xCO品论天涯网


xCO品论天涯网

现在,他在OpenAI从事安全工作。Indent日落,而FouadMatin将开启他新的职业旅程。xCO品论天涯网

其他成员xCO品论天涯网

在FouadMatin推文的评论区,有和他相识2年的好友对他表示祝贺,这位好友透露,除FouadMatin以外,一同加入OpenAI安全团队的还有DanGillespie。xCO品论天涯网


xCO品论天涯网

DanGillespie将主要从事的是“建立为AGI到来所需的安全计算平台”。xCO品论天涯网


xCO品论天涯网

无独有偶,和FouadMatin有一点相同的是,DanGillespie也具有投资背景,根据他在领英的介绍,他也曾在YCombinator任职过,YCombinator是硅谷最负盛名的创业孵化器,在过去一年投资了260多家AI初创公司,是硅谷乃至全世界AI创业趋势的风向标。xCO品论天涯网


xCO品论天涯网

左:DanGillespie,23岁xCO品论天涯网

彭博社观点专栏提出,“2024年5月将被人们铭记为AI安全运动消亡的月份。同时,人们也将记住,5月是AI更安全的工作真正开始的时间。”xCO品论天涯网

OpenAI作为领先的AI公司,能否在消极的声音之下,真正坚持构建一个更加安全的系统,我们希望OpenAI新安全团队能够带来不同。xCO品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]