Bendi新闻
>
AI初创集体跳槽OpenAI,Ilya出走后安全团队重整旗鼓!

AI初创集体跳槽OpenAI,Ilya出走后安全团队重整旗鼓!

28天前



  新智元报道  

编辑:庸庸
【新智元导读】AI安全公司Indent首席执行官Fouad Matin和他的团队将加入OpenAI,致力于为AGI做好安全准备。

上周,在内部的离职潮和外部的口诛笔伐之下,OpenAI可谓是内忧外患:

- 侵权寡姐引发全球热议

- 员工签署「霸王条款」被接连曝出

- 网友细数奥特曼「七宗罪」

辟谣:根据Vox获得的泄露消息和文件,OpenAI的高级领导层,包括Altman在内,非常了解这些股权回收条款,并且签署了它们。

除此之外,还有一个严峻而紧迫的问题摆在OpenAI面前——AI安全。
最近,五名与安全相关的员工离职,其中包括两名最著名的员工,「超级对齐」团队的解散让OpenAI的安全问题再次被置于聚光灯下。
《财富》杂志报道称,OpenAI从未兑现让其超级对齐团队获得其20%计算资源的承诺。
2023年7月,OpenAI成立了一个新团队,致力于确保未来可能比人类加起来还要聪明的人工智能系统能够被安全控制。为了表明该公司对这一目标的重视程度,它公开承诺将投入当时可用计算资源的20%用于这项工作。
现在,还不到一年时间,这个名为「超级对齐」的团队因员工辞职以及OpenAI将产品发布置于人工智能安全之上的指控而被解散,据6位知情人士称,OpenAI从未履行向该团队提供20%算力的承诺。
但在上周四,Indent首席执行官Fouad Matin在X和Reddit上宣布,「我们加入了OpenAI,致力于为AGI做好安全准备! 」
他在推文中写道,「我很高兴能与一支出色的团队一起保障未来的安全,从前沿模型准备到客户数据控制,确保人工智能安全并造福于每个人是非常重要的。」
看来,OpenAI安全团队正在重整旗鼓,招募新人,那么,刚刚被OpenAI招募的Fouad Matin能否临危受命,「挽大厦于将倾」呢?

Fouad Matin和他的团队

有「不明真相的吃瓜群众」在Fouad Matin的帖子下留言:「我们加入了OpenAI 」中的「我们」是谁?
显然,答案不是「他的两个半脑」那么简单,Fouad Matin背后的资源是他所创办的Indent,Indent正是一家致力于「构建安全的未来」的AI公司。
目前,Indent已经在其官网上发布了「日落通知」,宣布Indent将在今年7月停止服务。
我们创办Indent的目标是帮助团队保护最重要的东西。我们的客户已经保护了从客户数据和生产基础架构到日常业务软件的一切安全,而所有这一切都不会降低团队的速度。
经过慎重考虑,我们做出了一个非常艰难的决定:Indent将在未来几个月内关闭,我们将帮助客户过渡,并继续为实现这一共同目标而努力。
在太平洋标准时间2024年7月15日下午12点之前,团队都可以提出申请,届时服务将关闭。审计日志将提供到7月19日,之后我们将开始数据删除流程。
我们要感谢每一位使用Indent的用户,从第一天就获得访问权的早期创业公司,到使用Indent保护关键任务资源的数百人团队。
Fouad Matin是Indent的联合创始人和CEO,Fouad Matin称,他创办Indent是因为发现大多数公司不知道谁有权访问客户数据,而且对于大多数公司来说,发现这一问题的成本太高,更不用说锁定这些数据了。而Indent可以提供用户友好的访问控制。2021年12月,Indent为按需访问控制融资560万美元。
在2018年创办Indent之前,Fouad Matin还有3段工作经历。
2014年,Fouad Matin曾和其他联创共同创办了一家推荐招聘公司,他在其中负责产品、销售和工程设计。曾参加首届Y Combinator奖学金计划和YC W16。
2016年,他创办了一个无党派非营利组织,致力于为年轻人建立最简单的登记和投票方式,帮助100万人投票。
2017年,他在Segment担任工程师,领导细分角色的产品和工程开发,使客户能够将用户操作解析为配置文件。致力于更好的产品体验设计。
正如Fouad Matin在个人简介中所介绍的那样,他是一名软件工程师和产品设计师,有时也会投资初创公司,在过去几年里,他曾帮助几百万人投票给非营利组织和公司,以管理他们的客户数据。
现在,他在OpenAI从事安全工作。Indent日落,而Fouad Matin将开启他新的职业旅程。

其他成员

在Fouad Matin推文的评论区,有和他相识2年的好友对他表示祝贺,这位好友透露,除Fouad Matin以外,一同加入OpenAI安全团队的还有Dan Gillespie
Dan Gillespie将主要从事的是「建立为AGI到来所需的安全计算平台」。
无独有偶,和Fouad Matin有一点相同的是,Dan Gillespie也具有投资背景,根据他在领英的介绍,他也曾在Y Combinator任职过,Y Combinator是硅谷最负盛名的创业孵化器,在过去一年投资了260多家AI初创公司,是硅谷乃至全世界AI创业趋势的风向标。

左:Dan Gillespie, 23岁
彭博社观点专栏提出,「2024年5月将被人们铭记为AI安全运动消亡的月份。同时,人们也将记住,5月是AI更安全的工作真正开始的时间。」
OpenAI作为领先的AI公司,能否在消极的声音之下,真正坚持构建一个更加安全的系统,我们希望OpenAI新安全团队能够带来不同。
参考资料:
https://x.com/fouadmatin/status/1793350695476933108
https://fortune.com/2024/05/21/openai-superalignment-20-compute-commitment-never-fulfilled-sutskever-leike-altman-brockman-murati/
https://www.bloomberg.com/opinion/articles/2024-05-21/ai-safety-is-dead-and-chuck-schumer-faces-risks
https://indent.com/blog/announcing-indent




微信扫码关注该文公众号作者

来源:新智元

相关新闻

OpenAI 联创 Ilya 离职内幕曝光;微软中国AI团队集体打包去美国?最新回应;华为回应大模型发布会演示造假 | AI周报OpenAI组建「集体对齐」新团队,确保AI模型与人类价值观保持一致!OpenAI解散Ilya重要团队!前高管怒斥,宫斗第二季开始!广发刘郁团队多人集体跳槽!聊天记录流出。。。Ilya出走加剧OpenAI离职潮!RLHF作者Jan Leike同日辞职,超级对齐项目分崩离析惊了!斯坦福AI团队抄袭清华,曝光后玩失踪…紧跟Ilya,OpenAI超级对齐团队负责人官宣离职!内部AGI或实现,全网陷大猜想突发!DeepMind联创空降微软:统领AI团队,还掏空了OpenAI劲敌揭秘硅谷巨头AI初创公司投资布局!英伟达ALL IN,微软-OpenAI式关系引反垄断调查OpenAI前安全负责人雷克将跳槽Anthropic;AI能有效识别绝大多数癌症扩散患者丨AIGC日报拜登召集奥特曼和李飞飞等入AI安全委员会,没带马斯克!库克考虑将iPhone AI服务委托给OpenAI从供应链跳槽航空AI产品,涨薪40%,拒绝内耗后人生真的开挂了!GPT4o又被超越,首席科学家出走!OpenAI为啥不争气了?演示文生图时出现sleep代码,华为回应造假嫌疑;微软将中国AI团队集体打包到美国;百度ECharts创始人“下海”养鱼|Q资讯微软将中国AI团队集体打包去美国?官方回应来了炸锅!斯坦福AI团队抄袭清华系大模型,曝光之后直接跑路玩失踪……顶流Mamba竟遭ICLR拒稿!AI学者集体破防,LeCun都看不下去了。。。突发!OpenAI 创始人 Ilya 官宣离职,已有意义重大的下一步计划?集体出走的Stability AI 发布全新代码大模型,3B以下性能最优,超越Code Llama和DeepSeek-Coder315 曝光宝马传动轴异响,官方称不影响行驶安全/苹果收购AI初创公司/十家网约车平台因「高速收费不透明」被约谈揭秘最火AI团队:00后也来了​​【国际】35人吃喝8000刀后集体逃单!警察还不想追究?瑞典还是太超前了!35人吃喝8000刀后集体逃单!警察还不想追究?瑞典还是太超前了!奥特曼突然变身OpenAI “安全卫士”!网友:刚被实锤不关心安全还“心理虐待”,谁信啊
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。