苹果CEO库克最新访谈：并不能100%避免AI幻觉！

5月前

2024年6月10日，苹果公司在一年一度的全球开发者大会WWDC24上高调官宣了Apple Intelligence——简写为“AI”，顾名思义，就是苹果的人工智能系统。作为全球最大的消费品电子公司之一，苹果公司的这波操作吸引了无数科技爱好者和新闻媒体的关注。

6月11日，《华盛顿邮报》专栏作家Josh Tyrangiel对苹果公司CEO Tim Cook（蒂姆·库克）进行了采访。在这次独家采访中，库克明确表示，尽管对自家的Apple Intelligence系统充满信心，但并不认为它能够完全避免AI幻觉所带来的风险。苹果已经尽其所能，采取了所有已知的预防措施，并对AI技术在各个应用领域的准备情况进行了深入的思考和评估。然而，他承认，即便如此，也不能保证Apple Intelligence系统达到100%的准确性。

AI幻觉，这个说法来自于英文名“AI Hallucination”，维基百科这样解释AI幻觉：在人工智能领域中，幻觉是由人工智能生成的一种回应，它含有貌似事实的虚假或误导性资讯。用通俗的话讲，就是AI“一本正经的胡说八道”的行为。你问东，它答西，你问城门楼子，它答胯骨轴子，可偏偏它的回答看起来很确定，像是那么回事。这就是AI幻觉。

最典型的一个AI幻觉的例子就是我之前提到过的谷歌Gemini。我这个公众号从今年1月起就接入了谷歌Gemini大模型，在最开始接入时，大模型经常误认为自己的百度开发的模型，这就是一种AI幻觉。大概率是因为谷歌Gemini模型在训练时使用了百度的中文数据，导致它这样回答。目前这个错误已经被修正。

AI幻觉是如何形成的？为什么当前的AI模型会出现幻觉？我在前几天的《常学常新：Attention Is All You Need万字解读！》这篇文章里介绍过，当前的生成式AI模型主要基于Transformer这个神经网络架构，其核心机制就是通过注意力机制来捕捉输入信息的相关性。而AI模型的工作原理就是通过这种机制来分析并理解大量的文本数据，从中提取出有用的信息，然后基于这些信息生成回应。然而，这个过程并不总是完美的，其本质上的概率生成特性使得AI模型难以避免偶尔的错误或幻觉。

从这个角度来看，库克对于AI幻觉的这个观点还是非常中肯到位的。

省流版访谈总结

1. 提高效率

苹果的AI技术将显著提高用户的效率，节省时间。例如，改进后的Siri可以通过一个请求执行多个步骤，而不仅仅是多个请求，从而让用户体验更为便捷和高效。

2. 注重隐私

Apple Intelligence在隐私保护方面进行了创新。苹果找到了在个性化和隐私之间取得平衡的方法，确保用户的个人数据在使用AI技术时能够得到保护。

3. 坚持核心价值观

苹果在开发AI技术时始终坚持其核心价值观，确保新产品在伦理和隐私保护方面不偏离既定原则。同时，他提到在云端进行了创新，以支持大语言模型的运行。

4. AI幻觉的不可避免性

AI技术不可能完全避免幻觉，但苹果已经尽其所能确保其AI系统的高质量和可靠性。尽管不可能达到百分之百的准确性，但苹果对其技术的高标准充满信心。

5. 与OpenAI的合作

库克解释了选择与OpenAI合作的原因，包括其在隐私方面的措施和当前拥有最好的模型。这种合作是为了更好地服务用户，尽管存在质疑，苹果认为这是最佳选择。

完整版访谈（中文）

Tyrangiel：苹果用户将如何直接受益于更先进的人工智能技术？

库克：我认为用户将节省大量时间，提高效率。以Siri为例，现在你可以用一个请求让Siri执行一系列操作，这在以前需要多次请求才能完成。再比如写作工具，我收到很多邮件，虽然不是每个人都用电子邮件，但每个人都需要写作。有一个助手帮你校对，让文本更专业或更吸引人，这非常重要。而且它是私密的，我认为在今天的世界，这是一个至关重要的概念。人们希望AI技术既个性化又保护隐私，而这两者通常不容易兼顾。我们找到了一种方法来实现这一点。

Tyrangiel：自从你成为CEO以来，你一直在强调苹果的核心价值观。在你监督下开发的所有产品和软件中，人工智能是否比其他任何技术都更考验这些价值观？

库克：我们并没有觉得它是一种考验。我们进入这个领域时就明确了我们的价值观，并且我们不能偏离它们。我们投入了大量时间和深思熟虑，推出了我们自豪的产品。我们知道我们需要在设备之外进行一些创新，因为我们使用的是大型语言模型，所以我们需要在云端进行一定程度的创新。幸运的是，我们能够基于我们已有的技术，比如Apple Silicon，来进行这些创新。

Tyrangiel：你对将这个系统命名为Apple Intelligence而不是人工智能感到特别高兴吗？

库克：在考虑了很多名字后，这似乎是最合逻辑的选择。至少对我来说，我可以告诉你这不是对“人工智能”这个词的模仿。它更像是直接称呼它的本质。我相信这个名字会引起很多讨论，但可能并不像看起来那样简单。

Tyrangiel：你对Apple Intelligence不会出现幻觉有多大信心？

库克：我们不能百分之百保证，但我认为我们已经尽了一切努力，包括深入考虑了我们使用技术领域的准备情况。我对它能达到非常高的质量很有信心。但老实说，这并不完全等于百分之百。我永远不会声称它是完美的。

Tyrangiel：苹果与OpenAI的合作在OpenAI急需支持的时候被视为一种认可。是什么让你觉得OpenAI和Sam Altman是值得信赖的合作伙伴，并且他们分享了苹果的价值观？

库克：他们在隐私方面做了一些我非常赞赏的事情。他们不追踪IP地址，这是我们非常不希望发生的事情。我认为他们是这个领域的先驱，而且他们现在拥有最好的模型。我认为我们的客户有时需要一些世界知识。所以我们考虑了所有选项和每个人。显然，我们不会永远只依赖一个人或一个团队。我们也在与其他合作伙伴集成。但他们是第一个，我认为今天是因为他们是最优秀的。

Tyrangiel：在过去的90天里，随着一些事件的出现，这些事件引发了对Altman判断力或产品可信度的疑问，你有没有任何疑虑让你重新考虑？

库克：我们审视了一切，考虑了一切，并得出结论，选择他们是符合我们用户最佳利益的。

Tyrangiel：你对试图驾驭AI浪潮的新闻公司有什么建议？他们应该向其中一个大型语言模型授权内容吗？还是应该等待？

库克：这是一个非常好的问题。我认为授权对一些人来说非常聪明。而且，除非没有得到好的交易，否则不清楚为什么这样做不好。正如你所知，新闻业是一个具有挑战性的行业，所以能够以另一种方式将其货币化的想法我认为是积极的。

Tyrangiel：人们担心之前与社交媒体公司的接触并没有取得很好的结果。

库克：是的，但模型是不同的。一个是你在付费的。另一个实际上并没有支付。

Tyrangiel：科幻作家道格拉斯·亚当斯说，任何在你小时候存在的技术都是世界运作方式的自然部分。任何在你15岁到35岁之间发明的东西都是令人兴奋和革命性的。任何在你35岁之后出现的东西都违反了自然秩序。我们两个都在最后一个类别中。

库克：我比你更在其中！

Tyrangiel：我很好奇，即使你是最成功的技术公司的负责人，你是否发现AI有什么奇怪或不自然的地方？

库克：不，我没有。我认为这是许多其他创新的必然结果。机器学习已经存在很长时间了。这并不是什么新鲜事，确切地说。它之所以新，是因为人们在街上谈论它等等。但它并不新鲜。你希望有深思熟虑的人参与其中，并为其设置一些轨道。但我认为这是不可避免的。

Tyrangiel：与AI合作有什么让你感到高兴的地方吗？

库克：我对帮助人们更快、更好、更高质量地做事感到兴奋。任何能改善人类存在的东西。我认为AI可以做到这一点，再次强调要适当地保持轨道。所以我是一个粉丝。我没有把头埋在沙子里。我知道也可能发生一系列可怕的事情，这就是为什么我们致力于在这个领域深思熟虑。

结语

AI的使用场景不应该也不会局限在ChatGPT这样的AI工具里。AI与硬件产品的结合，正在逐渐崛起，如我之前介绍过的Rabbit R1，AI机器人，以及微软之前推出的AI PC。

苹果Apple Intelligence是值得期待的，不仅是集成了ChatGPT的变得更聪明的Siri，而且是苹果为用户搭建好的AI的使用场景，如AI搜索，AI写作和AI图像。

来源：AI信息Gap

微信扫码关注该文公众号作者

来源：投资银行在线