Bendi新闻
>
美国公布法案准备限制开源大模型对华出口

美国公布法案准备限制开源大模型对华出口

6月前
报名:首席人工智能官认证CCAIO™课程(上海班)
  • 时间:CAIM(6月22日、23日);CAIL(6月29日);CAIT(6月30日)

  • 形式:线下为主、线上同步

  • 费用:CAIL和CAIT各3000元;CAIM6000元,早鸟价9折和团购价8折

  • 地址:上海市徐汇区宜山路889号4号楼5楼SGS上海培训中心

  • 咨询:138 1664 6268,[email protected]

加入咨询群


来源:清华大学人工智能国际治理研究院
作者:李依栩 







华盛顿时间2024年5月8日,美国众议院外交事务委员会(House Foreign Affairs)和两党议员提出了一项法案(H.R.8315-Enhancing National Frameworks for Overseas Restriction of Critical Exports Act)。该法案核心内容是对 2018 年《出口管制改革法案》(Export Control Reform Act of 2018)的修订,将使拜登政府更容易对人工智能模型实施出口管制,以保护美国人工智能及其他支持技术免受外国对手的利用。

该法案由众议院共和党人迈克尔·麦考尔(Michael McCaul)、约翰·莫莱纳尔(John Molenaar)以及民主党人拉贾·克里希纳莫蒂(Raja Krishnamoorthi)和苏珊·怀尔德(Susan Wild)发起,将赋予商务部明确的权力,禁止美国人与外国人合作开发对美国国家安全构成风险的人工智能系统。




PART1 ENFORCE法案的主要内容
1.临时定义

2.最终定义


Part2 ENFORCE法案通过可能带来的影响


      1.完善美国的出口管制政策

      2.向外传导人工智能治理压力

      3.对美国其他方面影响

      4.影响中国经济、技术发展

Part3






美国人工智能出口政策的未来展望

1.开源化趋势因素


2.芯片与技术出口管制后果


3.技术创新与国家安全的平衡,国际合作与国际竞争的平衡



Part1 ENFORCE法案的主要内容


该法案共有五条,其中第二至五条涉及有3项对2018年《出口管制改革法》的修改和1项涉及对《国际紧急经济权力法》的修改,具体内容概括如下:

第一条 名称和目录

指出法案名为“增强海外关键出口限制的国家法案框架法案”(Enhancing National Frameworks for Overseas Restriction of Critical Exports Act,ENFORCE Act),提供五部分的框架。

第二条 定义

在2018年出口管制改革法案的第1742条末尾增加了对“人工智能”“人工智能系统”“受限人工智能系统”“模型权重”四个名词的定义。

第三条总统的权力

修订了2018年《出口管制改革法案》第1753(a)条,在该条文末增加了授权总统对美国人在从事特定受限人工智能系统、被确定为对美国国家安全至关重要的新兴和基础技术相关活动的管制权

第四条额外的权力

修订了2018年《出口管制改革法案》第1754(d)条,在该条文末增加了美国人在出口、再出口或者国内转移被确定为对美国国家安全至关重要的新兴和基础技术,或者可能支持设计、开发、生产、使用、操作、安装、维护、修理、检修或者翻新这些系统核技术或相关服务时,美国总统有权要求上述相关人员申请并获得商务部许可

第五条对国际紧急经济权力法的修订

在《国际紧急经济权力法》(International Emergency Economic Powers Act)第203(b)(3)节将“1979年出口管理法第5条,或在促进美国的不扩散或反恐政策的范围内根据该法第6条”替换为“2018年出口管制改革法案第1754条”。

而关于本法案具体会限制哪些人工智能,第二条第三款对主要主体“受限人工智能系统”的定义进行规定,从时间上分为“临时定义”和“最终定义”两种:


01


临时定义


总体而言,法案规定的这种人工智能系统能表现出较高的能力,能够对美国国家安全和外交政策构成严重风险,或者本不具备该能力但经修改后具备了该能力。
法案还表明,该定义的标准仅关于人工智能系统构成风险的能力,因此系统即便提供了技术保障以防止用户利用能力,也并不能得到豁免。
对此,法案通过“举例+兜底”的方式进行具体规定:

·例一,该种人工智能系统能够大幅降低设计、合成、获取或使用化学、生物、放射性或核(CBRN)武器的门槛

·例二,该种人工智能系统能够自动化发现和利用漏洞,以针对广泛潜在目标进行攻击性网络行动;

·例三,该种人工智能系统能够通过欺骗或混淆手段规避人类控制或监督;

·兜底条款:该种人工智能系统如果可以合理预期具有上述构成严重风险的能力,即可被判断为受限人工智能系统,例如人工智能系统表现出上述有构成严重风险能力的人工智能系统模型有的技术上的相似性或等效的性能。
02


最终定义

法案指出,上述临时定义随后会得到更新。在法案生效365天内,商务部长在和国务卿、国防部长、能源部长协商后,应当发布法律规定,给“受限人工智能”一个新的定义。该定义的作出需要考虑技术和非技术因素,尤其要最有效地维护美国国家安全。


由此看出,本法案主要内容是将人工智能模型纳入美国2018《出口管制改革法案》的管制框架内,通过补充人工智能相关定义、赋予总统人工智能管制权、增加美国人从事人工智能模型出口相关活动的申请和获得许可义务的方式,对人工智能模型进行管控。


其中,受限人工智能模型的定义和范围并未得到最终确定,有专家推测该标准可能与人工智能系统的计算能力相关,也有专家推测可能与人工智能系统的用途与出口地区有关如关于网络安全和网络攻击防御技术、军事用途、歧视性用途、大型基础设施用途等。该定义的官方解释需要持续关注。


Part2 ENFORCE法案通过可能带来的影响


01


完善美国的出口管制政策

(1)美国的出口管制框架


美国对出口管制的政策由多个机构共同管理,其中包括国务院、商务部和国防部等。这些政策的主要目标是确保关键技术不被敌对国家或恐怖组织滥用,同时促进国家安全、外交政策和经济利益的平衡。


具体来说,美国的出口管制政策包括以下几个方面:


①国际武器出口控制(ITAR):由国务院管理,主要针对军事技术和装备的出口管制。ITAR覆盖的物品包括武器、军事设备、相关技术和服务等,以确保这些物品不被敌对国家获取或用于军事目的。


②商务部出口管制条例(EAR):由商务部管理,适用于民用技术和商品的出口管制。EAR的范围更广,包括了大部分非军事技术、商品和软件。EAR覆盖的物品需要符合出口管制清单上的规定,并可能需要取得出口许可证。


③制裁措施:美国还会通过单边或多边制裁措施来限制某些国家或实体的特定交易。这些制裁可能包括禁止出口特定物品、限制金融交易或其他经济制裁措施。


④技术转让管制:美国还会限制涉及关键技术和知识产权的国际技术转让。这些限制可能通过许可证制度、技术合作协议或其他机制来实施。

总体而言,美国的出口管制政策是一个综合性的体系,旨在保护国家安全、维护国家利益,并确保关键技术不被滥用或落入敌对势力手中。此外,以上出口管制政策的合规性和有效性,需要政府和企业的共同参与来维护。


(2)ENFORCE法案进一步完善出口管制矩阵
美国对人工智能出口管制措施可以被视为对美国出口管制政策的一种补充和完善。
在ENFORCE法案出台之前,美国尚没有将人工智能作为广泛类别进行管制的出口管制政策,更未有专门针对人工智能系统的管制法律。但美国智库“安全与新兴技术中心”(CSET)在《对于人工智能出口管制,不要忘记“包罗万象”的基础知识》中指出,现有的出口管制控制措施已经使美国人或外国人很难使用美国本土的LlaMa或其他人工智能系统来帮助其他国家开发武器,该措施无论是基于项目的控制、最终用户控制,还是对美国人的控制,

本法案若被通过,将会使人工智能模型相关的商业行为也被纳入美国出口管制框架体系,从而形成美国基于技术发展、地缘政治、国家安全、经济贸易等因素而构建的,更完备、严格的出口管制框架矩阵。


02


向外传导人工智能治理压力

(1)美国当前的人工智能相关法案和政策梳理

随着人工智能技术的进一步发展,其在当今世界的战略和安全意义上变得越来越重要,对于各国政府对于人工智能治理都倍感压力,需要在人工智能治理和市场自由发展之间进行利弊权衡。

当前,美国正在多个层面推进人工智能监管,包括立法、行政命令、政策文件等,主要有:

《人工智能创新未来法案》(AI Innovation for the Future Act)

该法案由两党参议员提出,旨在为美国在人工智能和新兴技术发展方面继续保持领导地位奠定基础。
主要内容包括:
·在国家标准与技术研究院(NIST)下设立美国人工智能安全研究所,负责制定确保国家安全、公共安全和个人权利的人工智能标准。
·在国家实验室、NIST等机构之间创建人工智能测试平台计划,为公司开发评估系统安全风险的工具和测试环境。

·要求审计总署向国会提交关于人工智能创新监管障碍的报告。

《联邦人工智能风险管理法案》(Federal AI Risk Management Act)

拜登政府的人工智能治理政策
1)2022年10月发布《人工智能权利法案蓝图》,列出五项指导自动化系统设计和使用的原则。
2)2023年2月签署行政命令,要求联邦机构在使用新技术时消除算法偏见。

3)2023年5月修订《国家人工智能研发战略计划》,协调联邦研发投资。

④其他相关倡议

1)2023年7月,拜登政府召集主要人工智能公司,承诺推动人工智能技术的安全可靠发展。
2)国会计划成立人工智能两党特别工作组,确保美国在人工智能创新方面处于领先地位。


(2)ENFORCE法案构建新型人工智能治理模式,向外传导治理压力

不同于上述针对人工智能的专门管理法案和发展计划等文件,ENFORCE法案是将人工智能纳入已有出口管制框架,通过扩张总统权力、扩大商务部授权许可范围,利用传统的出口管制机构进行对于人工智能治理。

这是一次对于机构职能调整的立法实践,可能减小美国人工智能安全委员会等专门机构的管理压力,将治理压力向外部机关传导,从而构建能够持续、健康运行的美国各机关之间的权力制约平衡机制,实现对于人工智能更加一般化、长效性的管制。

同时值得注意的是,当前ENFORCE法案的出口限制主要是针对针对构成危险能力较高的人工智能系统,但通过“临时定义”和“最终定义”可知,何种人工智能系统最终可被确定为“受限人工智能系统”从而受到管制尚未有定论,其具体标准的解释权仍需经过商务部长、国务卿、国防部长、能源部长讨论得出。这意味着美国对于限制人工智能出口范围尤为谨慎,将各方面因素纳入考虑,以防止在新型的嵌入式人工智能出口管制机制下,出现立法预期和法律实践不一致的情况。


03


对美国其他方面影响

(1)有利影响

除了对美国政策体系和政治职能结构变化的影响,该法案对于人工智能行业发展也具有显而易见的规制与引导作用,将有助于美国在人工智能领域的领先地位和国家安全利益得到有效保障。

首先,该法案将促进关键技术保护常态化。人工智能技术在当今世界具有重要战略价值,涉及到国家安全、经济竞争和社会发展等多个领域。目前,AlphaTech已经开发了用于军事侦察的先进人工智能图像识别系统。由于其具有潜在的军事应用意义,美国政府决定禁止将该技术出口到“有不安全行为的国家和组织”,以确保美国在军事领域的优势地位不受到威胁。通过制定人工智能出口管制政策,美国可以更好地保护关键人工智能技术不被敌对国家或组织获取或滥用。

其次,该法案将维护美国经济和贸易利益。人工智能技术已成为全球经济发展的重要引擎,对国际贸易和投资产生了重大影响。通过出口管制政策,美国可以确保其在人工智能领域的竞争优势不受到侵蚀,同时保护本国企业的利益。例如,美国可能会限制将用于先进制造业的人工智能技术出口到竞争对手如中国等国家,以防止其加剧美国的贸易逆差和技术泄露问题。

另外,该法案还将加强国际合作和促进标准制定。人工智能技术的发展需要国际社会共同努力,加强合作和标准制定对于解决跨国安全和治理挑战至关重要。通过制定出口管制政策,美国可以向国际社会发出信号,呼吁其他国家共同采取行动,加强对人工智能技术的监管和管理。例如,美国可能与欧盟、日本等盟国合作,共同制定人工智能出口管制标准和机制,以建立更加健全的国际人工智能治理体系。

(2)不利影响

但同时,也有专家指出法案将对美国产生不利影响,研究主要集中在下述三个方面

①美国或将丧失巨大人工智能市场(摘自环球时报)

位于旧金山的开放人工智能研究中心的政策主管杰克·克拉克对梅茨说:“可以完全控制出口的例子非常少,而犯错的几率相当大。如果事情出了问题,可能给人工智能界造成真正的破坏。”梅茨认为,在接受公众意见后,美国商务部将起草一份正式计划,该计划可能导致从指定人工智能出口的许可新规到彻底禁止出口。而中国是世界第一消费大国,美国如果放弃掉中国这个大市场,不仅自身因市场萎缩利润不足,竞争力下降。而且,这样一个大市场让中国和欧日韩企业占领,无疑是给竞争对手添油加力。

②该法案结果或将对美国人工智能的发展带来不利影响(摘自环球时报)

作为人工智能领域资深记者,梅茨指出,公司极少像对待秘方那样秘密持有人工智能研究的详细情况。相反,它们共享新学到的内容,希望其他研究者能在此基础上继续研究。一家公司的“突破”常常是私人公司和大学的多位研究者一直研究的内容的最新重复。据悉,许多人工智能的计算机密码都公布在阿奇夫论文预印本网站等网站上。阿奇夫论文预印本网站是学术界和企业研究的知识库。因此,许多政策专家认为,如果美国限制人工智能产品和服务的出口,那么它将几乎不会对中国及其他国家的人工智能的进步产生影响。

例如在数据集问题上,禁止对华AI模型出口同样可能让美国公司错失借助中国数据进行AI迭代的机会。作为AI迭代的核心,机器学习让AI的智能程度随着互动次数与质量的上升而提高,简言之就是“越用越聪明”。许多 AI 初创公司主动开源的目的之一,便是让尽可能多的用户参与,帮助其AI模型加速演进。而中国市场庞大、信息化程度高,巨大的用户基数与多样化的需求,堪称 AI 迭代的“富矿”。如今美方为了遏制中国AI发展,竟将这座金山主动放弃,足见其急切与紧张。

③该法案可能导致人才流失(摘自环球时报)

文章还称,过严的限制规定,比如不准外国公民在美国从事特定技术的研究,这也可能将研究人员和公司推到其他国家去。正如奥尔斯顿-伯德律师事务所律师杰森·韦特说:“人们在欧洲从事此类事情也许会容易些。”

04


影响中国经济、技术发展

该法案将多大程度影响中国发展,是被广泛关心的问题。对于中国的人工智能技术和产业以及国家安全,人工智能出口管制可能会造成如下影响:

(1)技术研究受阻碍
因为无法获取到美国领先的人工智能大模型或其他技术,中国人工智能研究可能会受到限制,在该方面的技术进步放缓,尤其是在军事、网络安全等高度敏感的领域。

(2)产业竞争受影响
可能会影响中国企业的技术创新能力和产品竞争力,特别是那些依赖于进口美国技术、依赖美国人工智能基础模型的企业。这可能会导致中国企业在国际市场上的竞争地位受损,或者迫使它们寻找其他替代方案来填补技术缺口,例如迫使中国企业更加依赖国内创新和自主研发。

(3)国家安全风险增加
中国政府和军方可能会面临更大的国家安全风险,因为无法获得来自美国的关键人工智能技术。这可能会影响中国的国防能力和网络安全,尤其是在与美国的军事和情报方面的较量。

(4)自主研发和创新加速
也有专家认为减少国内个体和企业对于美国人工智能大模型的依赖本是中国谋求自身发展的应然之举,美国的管制恰好能够为中国独立发展自身人工智能技术创造空间。
正如美国针对中国芯片出口管制,虽然在一定程度上影响了中国半导体生态系统,但同时也产生了令美国头疼的后果:中国正在加大对更先进芯片的国内投资,且由于美国芯片公司在中国市场份额的下降和收入的降低,对美国芯片公司支撑地位的研发投入也随之降低。

因此,该人工智能出口法案的提出和通过,反而可能减少中国对美国技术的依赖,受到限制的影响可能会促使中国政府和企业加大对自主研发和创新的投入。中国可能会加快培育本土人工智能技术和产业生态系统,以减少对进口技术的依赖,从而提高自身的技术实力和竞争力。

总体而言,人工智能出口管制可能会对中国的人工智能产业和国家战略产生重大影响,迫使中国加速实现技术自主化和创新驱动发展。同时,这也可能会加剧中美之间在人工智能领域的竞争和地缘政治的紧张局势。


Part3 美国人工智能安全委员会发展展望




在复杂的技术基础、国际合作竞争的背景下,美国的人工智能出口政策不一定能完全按照两党议员在众议院提交的文本得到通过与执行。未来美国人工智能出口政策仍然受到多方面因素的影响:

01


开源化趋势因素:


生成式人工智能行业似乎呈现出转向开源模型的发展趋势。最早OpenAI的GPT-1、GPT-2都是开源的。2023年,Meta和IBM成立了“人工智能联盟”,倡导以“开放科学”的方式进行人工智能开发。2024年4月,科技巨头Meta将其最新的LlaMA 3模型完全开源,这意味着任何人都可以检查和使用它。谷歌在此前将其所有人工智能开发都保留为专有之后,2024年2月开始也更加接近开源。这家搜索引擎巨头表示,其新的人工智能“开放模型”系列将可供免费实验。尽管GPT-3开源之后又闭源了,但包含上述例子在内的科技企业实践已然奠定开源作为整个生成式人工智能的主流。

未来很长一段时间内,开源和闭源会形成互相博弈和竞争的格局,控制对于人工智能模型的访问将非常困难。并且,由于监管机构可能难以制定正确的标准(正如ENFORCE法案中的“受限人工智能系统”的定义)来确定哪些模型应该受到控制,对更专有模型、封闭式模型实施控制也具有极大的挑战性。

而随着越来越多的人工智能模型转向开源,美国或将发现难以通过传统的出口管制手段有效地控制人工智能技术的传播。由于技术模型相较于实体物品来说更容易流入国际市场,开源模型的普及可能会削弱美国政府对出口管制的影响力。


02


 芯片与技术出口管制后果

美国对芯片出口的限制可能会导致一些国家加大在芯片和人工智能领域的国内投资,以减少对美国技术的依赖。这种情况下,美国可能会面临更多竞争对手,同时失去一些市场份额。美国最大的人工智能芯片制造商英伟达首席财务官科莱特•克雷斯 (Colette Kress) 在 2024年2 月份表示,英伟达收入“在美国政府2023年10 月实施出口管制法规后大幅下降”。

03


技术创新与国家安全的平衡,国际合作与国际竞争的平衡

美国政府需要在技术创新和国家安全之间找到平衡。出口管制政策需要确保国家的关键技术不被敌对国家滥用,同时又不能过度限制技术创新和国际合作。美国在制定人工智能出口政策时还需要考虑国际合作与竞争的因素,与盟国和合作伙伴的密切合作可以加强对技术传播的控制,同时也可以促进技术发展和创新。对此,出口管制措施可能会新增豁免条款,或受到后续人工智能出口相关的双边协定、多边协定的影响。

综上所述,美国人工智能出口政策的展望将受到开源化趋势、芯片出口管制、技术创新与国家安全之间的平衡以及国际合作与竞争等因素的影响。在这一复杂的背景下,美国政府需要制定灵活而有效的政策来适应不断变化的国际环境和技术发展,或许针对受限人工智能系统的“临时定义”豁口就是为上述问题留下的灵活调整空间。

主编丨刘典

作者丨李依栩

排版丨夏冉

审核丨梁正 鲁俊群




已开课!扫码加入学习

微信扫码关注该文公众号作者

来源:数据法盟

相关新闻

美国「开源 AI 大模型」出口限制法案:43票赞成、3票反对!第一轮通过!李彦宏内部评璩静风波;美国拟限制“开源 AI 大模型出口”;OpenAI 人工智能搜索产品有望于下周一推出 | AI 周报美国拟限制“开源 AI 大模型出口”;百度副总裁“狼性职场言论”惹争议,李彦宏情绪激动点评;谷歌一半员工没干活?| Q资讯美国众议院推进大模型出口限制法案,业内学者:自损八百万达引入600亿元投资,未设立对赌协议;美国升级对华芯片出口限制;OpenAI发布语音模型Voice Engine|邦早报突发!全球最大光刻机巨头“爆雷”,股价跳水!订单骤降超60%,此前被美国施压意图限制其对华出口美国封锁开源AI!国产大模型还能卷多久?华府消息|美国要求盟友进一步收紧对华芯片出口限制美国准备对华为放开制裁达沃斯论坛芯片战交锋实录:揭秘美国对华限制措施的真正目的曝美国升级对华出口管制!晶圆厂、芯片设备、EDA软件受影响美政府再发AI禁令!限制美国人对华AI技术和产品投资嘴硬但是动作诚实!俄媒:韩国超越美国,成为对华第一出口国家阿里云突然发布全球最强开源模型 Qwen2,性能超越美国最强开源模型美国对华芯片出口管制再升级!美对华芯片出口限制再升级!4月4日生效AI早知道|界面财联社入局AI;CACTER AI实验室获清华大模型商用授权;美国禁止国会使用Copilot零一万物发布千亿参数模型 Yi-Large,李开复:中国大模型赶上美国,立志比肩 GPT-5“跟中国关系太近”,美国撤销了他们对华为的出口许可OpenAI 联创 Ilya 离职内幕曝光;微软中国AI团队集体打包去美国?最新回应;华为回应大模型发布会演示造假 | AI周报BB鸭 | OPPO Reno12发布;刘强东微信群跨国操盘京东;阿里宣布向大公司病开刀;马斯克反对美国对华电动汽车征收关税“美国最该尴尬的,是今天中国开源模型们重大的贡献”前图森未来中国CTO加入小米,网易注册蛋仔手表商标,美国对华关税新规8月1日生效,恒大汽车被要求退补贴,这就是今天的其他大新闻!余承东变更为终端BG董事长,苹果就宣传视频致歉,美国被曝最快下周对华加征关税,EA考虑在3A游戏投广告,这就是今天的其他大新闻!
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。