美国公布法案准备限制开源大模型对华出口
时间:CAIM(6月22日、23日);CAIL(6月29日);CAIT(6月30日)
形式:线下为主、线上同步
费用:CAIL和CAIT各3000元;CAIM6000元,早鸟价9折和团购价8折
地址:上海市徐汇区宜山路889号4号楼5楼SGS上海培训中心
咨询:138 1664 6268,[email protected]
加入咨询群
Part2 ENFORCE法案通过可能带来的影响
Part3
美国人工智能出口政策的未来展望
1.开源化趋势因素
2.芯片与技术出口管制后果
3.技术创新与国家安全的平衡,国际合作与国际竞争的平衡
该法案共有五条,其中第二至五条涉及有3项对2018年《出口管制改革法》的修改和1项涉及对《国际紧急经济权力法》的修改,具体内容概括如下:
第一条 名称和目录
指出法案名为“增强海外关键出口限制的国家法案框架法案”(Enhancing National Frameworks for Overseas Restriction of Critical Exports Act,ENFORCE Act),提供五部分的框架。
第二条 定义
在2018年出口管制改革法案的第1742条末尾增加了对“人工智能”“人工智能系统”“受限人工智能系统”“模型权重”四个名词的定义。
第三条总统的权力
修订了2018年《出口管制改革法案》第1753(a)条,在该条文末增加了授权总统对美国人在从事特定受限人工智能系统、被确定为对美国国家安全至关重要的新兴和基础技术相关活动的管制权;
第四条额外的权力
修订了2018年《出口管制改革法案》第1754(d)条,在该条文末增加了美国人在出口、再出口或者国内转移被确定为对美国国家安全至关重要的新兴和基础技术,或者可能支持设计、开发、生产、使用、操作、安装、维护、修理、检修或者翻新这些系统核技术或相关服务时,美国总统有权要求上述相关人员申请并获得商务部许可。
第五条对国际紧急经济权力法的修订
在《国际紧急经济权力法》(International Emergency Economic Powers Act)第203(b)(3)节将“1979年出口管理法第5条,或在促进美国的不扩散或反恐政策的范围内根据该法第6条”替换为“2018年出口管制改革法案第1754条”。
而关于本法案具体会限制哪些人工智能,第二条第三款对主要主体“受限人工智能系统”的定义进行规定,从时间上分为“临时定义”和“最终定义”两种:
·例一,该种人工智能系统能够大幅降低设计、合成、获取或使用化学、生物、放射性或核(CBRN)武器的门槛
·例二,该种人工智能系统能够自动化发现和利用漏洞,以针对广泛潜在目标进行攻击性网络行动;
·例三,该种人工智能系统能够通过欺骗或混淆手段规避人类控制或监督;
法案指出,上述临时定义随后会得到更新。在法案生效365天内,商务部长在和国务卿、国防部长、能源部长协商后,应当发布法律规定,给“受限人工智能”一个新的定义。该定义的作出需要考虑技术和非技术因素,尤其要最有效地维护美国国家安全。
由此看出,本法案主要内容是将人工智能模型纳入美国2018《出口管制改革法案》的管制框架内,通过补充人工智能相关定义、赋予总统人工智能管制权、增加美国人从事人工智能模型出口相关活动的申请和获得许可义务的方式,对人工智能模型进行管控。
其中,受限人工智能模型的定义和范围并未得到最终确定,有专家推测该标准可能与人工智能系统的计算能力相关,也有专家推测可能与人工智能系统的用途与出口地区有关如关于网络安全和网络攻击防御技术、军事用途、歧视性用途、大型基础设施用途等。该定义的官方解释需要持续关注。
(1)美国的出口管制框架
美国对出口管制的政策由多个机构共同管理,其中包括国务院、商务部和国防部等。这些政策的主要目标是确保关键技术不被敌对国家或恐怖组织滥用,同时促进国家安全、外交政策和经济利益的平衡。
具体来说,美国的出口管制政策包括以下几个方面:
①国际武器出口控制(ITAR):由国务院管理,主要针对军事技术和装备的出口管制。ITAR覆盖的物品包括武器、军事设备、相关技术和服务等,以确保这些物品不被敌对国家获取或用于军事目的。
②商务部出口管制条例(EAR):由商务部管理,适用于民用技术和商品的出口管制。EAR的范围更广,包括了大部分非军事技术、商品和软件。EAR覆盖的物品需要符合出口管制清单上的规定,并可能需要取得出口许可证。
③制裁措施:美国还会通过单边或多边制裁措施来限制某些国家或实体的特定交易。这些制裁可能包括禁止出口特定物品、限制金融交易或其他经济制裁措施。
④技术转让管制:美国还会限制涉及关键技术和知识产权的国际技术转让。这些限制可能通过许可证制度、技术合作协议或其他机制来实施。
总体而言,美国的出口管制政策是一个综合性的体系,旨在保护国家安全、维护国家利益,并确保关键技术不被滥用或落入敌对势力手中。此外,以上出口管制政策的合规性和有效性,需要政府和企业的共同参与来维护。
本法案若被通过,将会使人工智能模型相关的商业行为也被纳入美国出口管制框架体系,从而形成美国基于技术发展、地缘政治、国家安全、经济贸易等因素而构建的,更完备、严格的出口管制框架矩阵。
(1)美国当前的人工智能相关法案和政策梳理
随着人工智能技术的进一步发展,其在当今世界的战略和安全意义上变得越来越重要,对于各国政府对于人工智能治理都倍感压力,需要在人工智能治理和市场自由发展之间进行利弊权衡。
当前,美国正在多个层面推进人工智能监管,包括立法、行政命令、政策文件等,主要有:
①《人工智能创新未来法案》(AI Innovation for the Future Act)
·要求审计总署向国会提交关于人工智能创新监管障碍的报告。
②《联邦人工智能风险管理法案》(Federal AI Risk Management Act)
3)2023年5月修订《国家人工智能研发战略计划》,协调联邦研发投资。
④其他相关倡议
(2)ENFORCE法案构建新型人工智能治理模式,向外传导治理压力
不同于上述针对人工智能的专门管理法案和发展计划等文件,ENFORCE法案是将人工智能纳入已有出口管制框架,通过扩张总统权力、扩大商务部授权许可范围,利用传统的出口管制机构进行对于人工智能治理。
这是一次对于机构职能调整的立法实践,可能减小美国人工智能安全委员会等专门机构的管理压力,将治理压力向外部机关传导,从而构建能够持续、健康运行的美国各机关之间的权力制约平衡机制,实现对于人工智能更加一般化、长效性的管制。
同时值得注意的是,当前ENFORCE法案的出口限制主要是针对针对构成危险能力较高的人工智能系统,但通过“临时定义”和“最终定义”可知,何种人工智能系统最终可被确定为“受限人工智能系统”从而受到管制尚未有定论,其具体标准的解释权仍需经过商务部长、国务卿、国防部长、能源部长讨论得出。这意味着美国对于限制人工智能出口范围尤为谨慎,将各方面因素纳入考虑,以防止在新型的嵌入式人工智能出口管制机制下,出现立法预期和法律实践不一致的情况。
(1)有利影响
除了对美国政策体系和政治职能结构变化的影响,该法案对于人工智能行业发展也具有显而易见的规制与引导作用,将有助于美国在人工智能领域的领先地位和国家安全利益得到有效保障。
首先,该法案将促进关键技术保护常态化。人工智能技术在当今世界具有重要战略价值,涉及到国家安全、经济竞争和社会发展等多个领域。目前,AlphaTech已经开发了用于军事侦察的先进人工智能图像识别系统。由于其具有潜在的军事应用意义,美国政府决定禁止将该技术出口到“有不安全行为的国家和组织”,以确保美国在军事领域的优势地位不受到威胁。通过制定人工智能出口管制政策,美国可以更好地保护关键人工智能技术不被敌对国家或组织获取或滥用。
其次,该法案将维护美国经济和贸易利益。人工智能技术已成为全球经济发展的重要引擎,对国际贸易和投资产生了重大影响。通过出口管制政策,美国可以确保其在人工智能领域的竞争优势不受到侵蚀,同时保护本国企业的利益。例如,美国可能会限制将用于先进制造业的人工智能技术出口到竞争对手如中国等国家,以防止其加剧美国的贸易逆差和技术泄露问题。
另外,该法案还将加强国际合作和促进标准制定。人工智能技术的发展需要国际社会共同努力,加强合作和标准制定对于解决跨国安全和治理挑战至关重要。通过制定出口管制政策,美国可以向国际社会发出信号,呼吁其他国家共同采取行动,加强对人工智能技术的监管和管理。例如,美国可能与欧盟、日本等盟国合作,共同制定人工智能出口管制标准和机制,以建立更加健全的国际人工智能治理体系。
(2)不利影响
但同时,也有专家指出法案将对美国产生不利影响,研究主要集中在下述三个方面:
①美国或将丧失巨大人工智能市场(摘自环球时报)
位于旧金山的开放人工智能研究中心的政策主管杰克·克拉克对梅茨说:“可以完全控制出口的例子非常少,而犯错的几率相当大。如果事情出了问题,可能给人工智能界造成真正的破坏。”梅茨认为,在接受公众意见后,美国商务部将起草一份正式计划,该计划可能导致从指定人工智能出口的许可新规到彻底禁止出口。而中国是世界第一消费大国,美国如果放弃掉中国这个大市场,不仅自身因市场萎缩利润不足,竞争力下降。而且,这样一个大市场让中国和欧日韩企业占领,无疑是给竞争对手添油加力。
②该法案结果或将对美国人工智能的发展带来不利影响(摘自环球时报)
作为人工智能领域资深记者,梅茨指出,公司极少像对待秘方那样秘密持有人工智能研究的详细情况。相反,它们共享新学到的内容,希望其他研究者能在此基础上继续研究。一家公司的“突破”常常是私人公司和大学的多位研究者一直研究的内容的最新重复。据悉,许多人工智能的计算机密码都公布在阿奇夫论文预印本网站等网站上。阿奇夫论文预印本网站是学术界和企业研究的知识库。因此,许多政策专家认为,如果美国限制人工智能产品和服务的出口,那么它将几乎不会对中国及其他国家的人工智能的进步产生影响。
例如在数据集问题上,禁止对华AI模型出口同样可能让美国公司错失借助中国数据进行AI迭代的机会。作为AI迭代的核心,机器学习让AI的智能程度随着互动次数与质量的上升而提高,简言之就是“越用越聪明”。许多 AI 初创公司主动开源的目的之一,便是让尽可能多的用户参与,帮助其AI模型加速演进。而中国市场庞大、信息化程度高,巨大的用户基数与多样化的需求,堪称 AI 迭代的“富矿”。如今美方为了遏制中国AI发展,竟将这座金山主动放弃,足见其急切与紧张。
③该法案可能导致人才流失(摘自环球时报)
文章还称,过严的限制规定,比如不准外国公民在美国从事特定技术的研究,这也可能将研究人员和公司推到其他国家去。正如奥尔斯顿-伯德律师事务所律师杰森·韦特说:“人们在欧洲从事此类事情也许会容易些。”
美国政府需要在技术创新和国家安全之间找到平衡。出口管制政策需要确保国家的关键技术不被敌对国家滥用,同时又不能过度限制技术创新和国际合作。美国在制定人工智能出口政策时还需要考虑国际合作与竞争的因素,与盟国和合作伙伴的密切合作可以加强对技术传播的控制,同时也可以促进技术发展和创新。对此,出口管制措施可能会新增豁免条款,或受到后续人工智能出口相关的双边协定、多边协定的影响。
综上所述,美国人工智能出口政策的展望将受到开源化趋势、芯片出口管制、技术创新与国家安全之间的平衡以及国际合作与竞争等因素的影响。在这一复杂的背景下,美国政府需要制定灵活而有效的政策来适应不断变化的国际环境和技术发展,或许针对受限人工智能系统的“临时定义”豁口就是为上述问题留下的灵活调整空间。
主编丨刘典
作者丨李依栩
排版丨夏冉
审核丨梁正 鲁俊群
微信扫码关注该文公众号作者