国际科技财经移民娱乐民生时事体育

>

OpenAI成立新安全委员会，Altman领导，90天后“交卷”

OpenAI成立新安全委员会，Altman领导，90天后“交卷”

27天前

解散超级对齐团队后，OpenAI成立新安全委员会。

编译 | Alyssa

编辑 | 李水青

智东西5月29日消息，当地时间5月28日，OpenAI官网发文称，OpenAI董事会宣布成立安全与保障委员会，该委员会由董事长Bret Taylor和其他董事会成员Adam D’Angelo、 Nicole Seligman及CEO Sam Altman领导。该委员会将负责向董事会提出关于OpenAI项目和运营的关键安全与安全决策的建议，并计划在90天内完成初步建议。

▲OpenAI官宣成立新安全委员会截图

随着OpenAI开始训练其下一代前沿模型，预期这些系统将使OpenAI在通往通用人工智能的道路上达到新的能力水平。

OpenAI在官网中写道：“尽管我们在构建和发布兼具行业领先能力和安全性的模型方面引以为豪，但我们欢迎在这个重要时刻进行一场全面的讨论。”

安全与安保委员会的首要任务是在接下来的90天内评估并进一步完善OpenAI的流程与防护措施。90天后，委员会将向全体董事会汇报其建议。经全体董事会审议后，OpenAI将以符合安全与保密原则的方式，公开分享采纳建议的更新情况。

该委员会还包括OpenAI的技术与政策专家：准备工作负责人Aleksander Madry、安全系统负责人Lilian Weng、对齐科学负责人John Schulman、安全负责人Matt Knight以及首席科学家Jakub Pachocki。

此外，OpenAI还将聘请并咨询其他安全、安保和技术领域的外部专家支持相关工作，包括为OpenAI提供安全咨询的前网络安全官员Rob Joyce和John Carlin。

来源：OpenAI

（本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容，未经账号授权，禁止随意转载。

微信扫码关注该文公众号作者

来源：智东西

相关新闻

青出于蓝！北京联谊会青年委员会正式成立，新移民+二代移民准备“搞事情”“合智聚势成就未来” — 江苏省合成生物标准化技术委员会成立大会暨2024金坛合成生物产业建设推进会圆满举行！奥特曼突然变身OpenAI “安全卫士”！网友：刚被实锤不关心安全还“心理虐待”，谁信啊宝尊创始人、宝尊集团董事长兼CEO仇文彬：“新质”会带来品牌重塑 2024吃货盛典来了！私厨派对、展销会等「新环节」抢先曝光祝贺我所移民部合伙人科洛杰律师被AILA任命为“国务院联络委员会”委员！新张开业！环球音乐在中国内地首度以“环球音乐”注册成立新公司捡硬币发财！男子靠金属探测器路上捡钱 7天后“秒换新电视”成功会师！“全家福”上新中国驻新使馆举办“领保之夜”招待会，新中各界嘉宾出席前 OpenAI 科学家建「安全超级智能」实验室；小红书 618：直播订单增 5 倍；新一代哈弗 H6 上市｜极客早知道告别 Ilya，迎接 GPT-5? OpenAI「宫斗」细节再曝光，Altman 捐出半数身家如何推动高质量发展？国新办发布会分享“四川经验”千家上市公司、近4500人齐聚成都长江证券“新故相推”中期策略会众星闪耀重磅！UIUC将成立CS新学院！“卷王”计算机专业更难进了？抛弃天价婚礼，90后的“新裸婚时代”今日消息 | 第十四届北京国际电影节“天坛奖”国际评奖委员会阵容官宣换血求永生的科技大佬又整新活儿，直接宣布成立“不死国”，面向全球招募？！逼近GPT-4的新模型发布！「欧洲版OpenAI 」联手微软，却被质疑违背初心 OpenAI组建「集体对齐」新团队，确保AI模型与人类价值观保持一致！细节曝光！华为成立新公司，名字叫“引望”大模型会自己“盗图”？这些坑OpenAI已经踩过了新一轮「硬件彩票」：MatMul-free 会改变大模型的游戏规则吗？格力成立新部门，董明珠再引“外援”