Open AI CEO承认：AI终将毁灭人类？！前员工公开内部恐怖！

就在最近，一封由13位OpenAI和谷歌DeepMind前员工，及现员工匿名签署的公开信，引起了大家的广泛关注。

这封信爆料出对高级人工智能（Open AI）潜在风险的严重担忧，并批评当前对人工智能科技公司其实严重缺乏有效的监管。

最近，人工智能领域的重量级人物如“人工智能教父”Geoffrey Hinton、Bill Gates，以及纽约大学教授Gary Marcus也纷纷发出警告：AI消灭人类的风险是真实存在的，并非危言耸听。

OpenAI创始人兼CEO Sam Altman在接受科技博客主Lex Fridman采访时表示，他并不回避“人工智能可能会灭绝人类”的说法。

此前，Eliezer Yudkowsky曾指出，“人工智能可能会杀死所有人”，并认为一旦人工智能发展成为超级智能，几乎不可能与人类保持统一立场。

公开信指出，尽管人工智能技术有可能为人类带来巨大便利，但其潜在风险已经不容忽视。信中提到，AI可能加剧现有的不平等现象，并且操纵和传播误导信息，甚至可能无法控制自主人工智能系统，最终对人类生存构成威胁。

OpenAI前员工丹尼尔·科泰洛（Daniel Kokotajlo）是此次联名信的署名人员之一。他在社交平台发文称，一些最近从OpenAI辞职的员工聚集在一起，要求实验室对透明度作出更广泛的承诺。

丹尼尔表示，AI系统不是普通的软件，而是从大量数据中学习的人工神经网络。尽管科学文献在可解释性、对齐和控制方面不断增多，但这些领域仍处于起步阶段。他担心如果不小心处理，AI技术可能在短期内造成不稳定，并在长期内带来灾难性后果。

英国著名科学家斯蒂芬·霍金（Stephen Hawking）曾表示，人类在创造智能机器方面的努力可能会威胁到自身的生存。

在接受BBC采访时，霍金提到，“开发完全的人工智能可能导致人类灭亡。”

霍金教授指出，人工智能目前的初级阶段已经证明了它的实用性，但他担心，创造出能够媲美甚至超越人类智能的机器将带来严重后果。

“人工智能可能会自行启动，并以加速的速度重新设计自身。而人类由于受限于缓慢的生物进化过程，根本无法与之竞争，最终将被超越。”

尽管全球政府和AI公司都意识到了AI技术的潜在风险，但出于财务利益的考虑，AI公司通常避免接受有效监管。

信中提到，AI公司掌握着大量内部信息，包括系统的能力和局限性、保护措施的充分性以及不同类型风险的水平。

然而，这些公司目前与政府分享这些信息的责任有限，也没有义务与民间社会分享。公开信呼吁建立一个可验证的匿名机制，供现任和前任员工使用，以确保信息的透明和共享。

人工智能的发展正处于关键时刻。来自业内人士的公开信无疑为我们敲响了警钟。只有通过透明和负责任的发展，才能确保AI技术真正造福人类社会。

未来，如何平衡创新和监管，将成为AI领域的重要课题。