前OpenAI首席科技家成立新的AI公司

Illustration by Alex Castro / The Verge

Ilya Sutskever，OpenAI的联合创始人和前首席科学家，正在创办一家专注于安全的新AI公司。在近日的一篇帖子中（https://x.com/ilyasut/status/1803472978753303014），Sutskever透露了其成立的新的人工智能公司名为Safe Superintelligence Inc.（SSI），目标和产品都只有一个——安全超级智能，致力于创建一个安全而强大的人工智能系统。

该公告将SSI描述为一家“同时兼顾安全性和能力”的初创企业（https://ssi.inc/），使该公司能够快速推进其AI系统，同时仍然优先考虑安全性。它还指出了OpenAI、谷歌和微软等公司的人工智能团队经常面临的外部压力，称该公司的“单一关注点”允许其避免“因管理开销或产品周期而分心”。

“我们的商业模式意味着安全、保障和进步都不受短期商业压力的影响，”公告写道。除了Sutskever之外，SSI也是由Daniel Gross和Daniel Levy共同创立的，Daniel Gross曾是苹果的AI主管，Daniel Levy曾是OpenAI的技术人员。

去年，Sutskever领导了推翻OpenAI首席执行官Sam Altman的努力。Sutskever于5月离开OpenAI，并暗示将启动一个新项目。Sutskever离职后不久，AI研究员Jan Leike宣布辞职，理由是安全流程“让闪亮的产品退居次要地位”。OpenAI政策研究员Gretchen Krueger在宣布离职时也提到了安全问题。

随着OpenAI推动与苹果和微软的合作，我们可能不会看到SSI在短期内这样做。Sutskever在接受彭博社采访时说（https://www.bloomberg.com/news/articles/2024-06-19/openai-co-founder-plans-new-ai-focused-research-lab?accessToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzb3VyY2UiOiJTdWJzY3JpYmVyR2lmdGVkQXJ0aWNsZSIsImlhdCI6MTcxODgxNjU5NywiZXhwIjoxNzE5NDIxMzk3LCJhcnRpY2xlSWQiOiJTRkM3ODJUMEcxS1cwMCIsImJjb25uZWN0SWQiOiI5MTM4NzMzNDcyQkY0QjlGQTg0OTI3QTVBRjY1QzBCRiJ9.9s8N3QuUytwRVZ6dzDwZ6tPOGDsV8u05fpTrUdlHcXg&sref=nPlhheXZ），SSI的第一款产品将是safe superiIntelligence，在此之前，该公司“不会做任何其他事情”。