Linux 一社区封杀大模型代码！“shit”7次出现在小作文，网友：此举非常明智！
Gentoo Linux 发行版已经正式叫停由 AI 生成及辅助编写的代码贡献。
4 月 14 日，Gentoo 理事会一致通过了一项新的 AI 政策：明令禁止向 Gentoo 提供任何借助 AI 自然语言处理工具创建的内容。如果此类工具不涉及版权、道德和质量问题，则可重新讨论这一动议。
这项政策限制了 Gentoo 代码贡献与官方 Gentoo 项目，但并不禁止为 AI 相关软件或上游借助 AI 工具开发的软件添加软件包。
Gentoo Linux 是一种 Linux 操作系统，基于 Portage 包管理系统，而拥有几乎无限制的适应性特性，被官方称作元发行版（meta-distribution）。Gentoo 理事会是专门管理该 Linux 发行版的民选委员会。
禁止 AI 代码贡献最初是由 Gentoo 理事会成员 Michał Górny 于 2 月 27 日提出的建议。他在邮件里表示：
鉴于近来“AI”泡沫的迅速蔓延，Gentoo Linux 项目组也开始认真考虑由此带来的相关问题。在我看来，目前唯一合理的行动方针就是彻底禁止由“AI”创作的项目贡献。具体来讲，应明确禁止人们使用 ChatGPT、Bard、GitHub Copilot 等创建 Gentoo Linux 所使用的 ebuild、代码、文档、消息及错误报告等。
需要澄清一点，这里讨论的仅为 Gentoo Linux 项目的“原创”内容；对于上游项目使用 AI 技术的行为，我们无法干涉。
理由如下：
1. 版权问题。目前，生成内容的版权归属仍不够明确。而且可以肯定的是，几乎所有大语言模型都接受过大量版权保护素材的训练，而当前在市面上具有知名度的各“AI”厂商显然并不关心版权侵犯问题。而这些 AI 工具的生成结果，很可能根本无法为我们所合法使用。
2. 质量问题。大语言模型特别擅长输出看似合理的废话。我认为只要足够小心，大模型确实能够提供有效帮助，但也不可能指望 Gentoo Linux 项目的所有贡献者都具备敏锐的风险意识。
3. 道德问题。如前所述，“AI”厂商既不关心版权，也不关心人的权益。AI 泡沫正在造成巨大的能源浪费，这又反过来成为裁员和进一步剥削 IT 从业者的借口。AI 技术正在推动互联网内容的垃圾化，如今各种垃圾邮件及欺诈内容正又以前所未有的速度涌现。
Gentoo 始终拥有自己的价值判断，希望为那些缺少主流发行版可用的人们提供支持。我认为由“真人纯手工开发”将成为 Gentoo Linux 项目的一大特色和优势，同时也将制定适当政策以确保不会有垃圾内容（英文原文为“shit”）流入项目。
Michał Górny 还在邮件里列出了 AI 垃圾内容示例链接，在链接的示例中，出现了很多描述错误：
来源：https://github.com/pkgxdev/pantry/issues/5358
除了禁止提交 AI 生成的代码之外，Górny 还希望 Gentoo 能为整个 Linux 社区做出其他独特的贡献。
Górny 在采访中表示，“我认为这正好是个宣传项目的好机会。目前很多项目都热衷于采用 AI，而我发现 Gentoo 的很多用户其实更欣赏传统的软件工程方法，就是说人要比‘生产力’更重要。”
此番禁令属于提前防范，Gentoo 社区中并未出现由 AI 生成代码引发的具体问题。Górny 解释称，“我们是在采取早期预防措施。”
版权无疑正成为 AI 模型领域的一个长期挑战。这些模型大多在训练期间使用到受版权保护的素材，就连英伟达都面临着起诉纠纷。此外，众所周知，AI 会生成各种无意义的文本和代码，甚至有人观察到其会出于“幻觉”而输出整个软件包。
该委员会最初于 3 月 10 日在预定的月度会议上讨论了 Górny 的禁令提议。但由于禁令的具体条款尚未确定，因此多位理事会成员希望讨论更多细节，且暂时不采取实际行动。该禁令最终在 4 月 14 日的理事会会议上颁布，会议以 6 比 0 票数通过，只有一名成员因故缺席投票。
Górny 表示，“我的个人观点是，我们才刚刚开始关注这个议题。等到禁令实际公布并与广大用户见面时，应该会有更多用户反馈供我们参考。”
Gentoo 社区还讨论了在电子邮件线程与 IRC 聊天室中剔除 AI 的潜在禁令。Górny 指出，大家一致认为应当实施“某些限制”。随着禁令的全面生效，未来可能会有更多 Gentoo 社区成员分享自己对于 AI 技术的观点。
当然，这项禁令的执行也将充满挑战，毕竟区分真人编写的代码与机器生成的代码并非易事。在 Górny 看来，禁令的最大意义并不在于实际效果。
他提到，“我们的主要目标是要明确哪些行为可以接受、哪些不行不能接受，同时礼貌地要求贡献者们尊重社区规范。”具体来讲，AI 禁令主要是对现行版权保护代码规则的延伸。
Górny 补充称，“如果我们收到的贡献中包含‘怪异’的错误，那这种错误似乎不可能由人为引发。我们会就此提出问题，而且恐怕也只能做到这个程度了。”
值得一提的是，该项禁令中明确包含相关条款，规定未来政策内容可进行重新审查，这反映了部分理事会成员的前瞻性关注。董事会成员 Sam James 表示，“事情可能会在一年之间发生重大变化，当然也可能原地踏步，这个没人能够准确预测。”
该理事会已经预见到了未来可能出现的情况，并考虑在必要时向 AI 敞开大门，利用 Gentoo 代码作为素材训练相应的模型。这在理论上既能消除对版权侵犯问题的担忧，也将带来质量更高的代码。
“看了链接线程后，我完全同意 Gentoo 的观点。”这是 Hacker News 上的热门评论。有网友跟帖称，“帖子里内容真是让我难以置信，人们怎么会认为自动生成的无意义描述会比根本不描述更好？”
“抛弃毫无意义的描述是非常明智的，尝试制定某种政策来预防也是明智的。”有网友表示。人们确实已经厌倦了大模型的废话。像 Górny 就在 2 月 27 日的原文邮件里，7 次使用了“shit”一词，虽然被有些网友说他有些情绪化，但也可以看出他对大模型问题的反感。
当然，也有人认为“禁止 LLM 内容”是一种错误的努力。“如果你想确保代码的质量，则应该专注于确保代码审查和合并过程更彻底，能更有效地过滤低于标准的贡献，而不是浪费时间来尝试执行根本无法执行的策略，这只会给人一种虚假的信任感和安全感。”网友 Tooster 表示，这是一种合理的担忧，但也应该是在组织层面解决的问题。
而对于大模型和版权的讨论，大多数都围绕着“学习意味着什么”这一核心问题。简单来说就是：人脑记忆学习不侵犯版权，那么算法抓取学习侵犯版权吗？Gentoo 的禁用公告让人们再次讨论起这个话题。
有网友认为，“公平的是，任何人都不能逐字使用复制的版权代码，无论是通过人类记忆某些内容还是通过计算机复制它。”但禁止人类、AI 或其他智能体学习互联网上的自由共享代码学习，违背了开源精神。
人类通过阅读代码学习并不侵犯版权（通过某种方式将知识复制到人的大脑中），但通过处理从 GitHub 等公共资源抓取的代码标记来学习的深度学习算法，却不具有同样的明显性。“人脑难道是一种版权洗白机器？”网友“zdimension ”提出疑问。他认为算法抓取学习，也是一种学习行为，不应该被禁止，但他不否认这样做的后果，“我们已经看到 GPT 民主化带来了很多不好的结果。”
事实表明，这个问题还是无解。
反观 Linux 操作系统的创始人、开源运动的领导者 Linus Torvalds，却是对这个问题很乐观。Torvalds 曾在今年 2 月份的访谈中表示，不把大型语言模型当作一种威胁，而是一种有益的工具。像审查代码、维护子系统就是大模型可以大显身手的一个领域，可以发现那些明显的愚蠢错误。
“我们大多数人的工作方式，其实在某种程度上都是强效版的自动校正。我把它当作一个可以帮助我们做得更好的工具。”Torvalds 说道。他也不为人工智能的炒作所困扰，而是坚持自己对低层次硬件的热情。
对于大模型幻觉和错误内容，Torvalds 也很乐观，“我每天都看到没有大型语言模型的情况下也会出现的错误。所以我可能不太担心这个问题。我觉得我们自己已经做得不错了。”想到他时不时会为社区里提交的一些错误发飙，也就不难理解他的说法了。
参考链接：
https://projects.gentoo.org/council/meeting-logs/20240414.txt
https://www.mail-archive.com/[email protected]/msg99042.html
https://news.ycombinator.com/item?id=40038372
https://www.theregister.com/2024/04/16/gentoo_linux_ai_ban/
https://www.infoq.cn/article/dEMW7egksha9r6laMTim
德国再次拥抱Linux：数万系统从windows迁出，能否避开二十年前的“坑”？
谷歌大裁员引发元老集体抗议：领导脑袋空空，无能的中层管理团队不断扩大
跳进 AI 的奇妙世界，一起探索未来工作的新风貌！想要深入了解 AI 如何成为产业创新的新引擎？好奇哪些城市正成为 AI 人才的新磁场？《中国生成式 AI 开发者洞察 2024》由 InfoQ 研究中心精心打造，为你深度解锁生成式 AI 领域的最新开发者动态。无论你是资深研发者，还是对生成式 AI 充满好奇的新手，这份报告都是你不可错过的知识宝典。欢迎大家扫码关注「AI 前线」公众号，回复「开发者洞察」领取。
微信扫码关注该文公众号作者