上周，欧盟官员就世界上第一个规范人工智能使用的综合法律达成了临时协议。

第一部AI法案

上周五，经过接近36小时的谈判，欧盟谈判代表就规范人工智能规则达成了一份人工智能法律提案。欧洲议会将于明年初对该人工智能法律提案进行投票。如是该法案通过生效，会在两年后正式适用。

欧盟委员蒂埃里·布雷顿（Thierry Breton）在X上发帖证实协议已经达成。Breton将这些计划描述为“历史性的”，并表示 “《人工智能法案》不仅仅是一本规则手册，它还是欧盟初创企业和研究人员引领全球人工智能竞赛的跳板。”

Breton后来还在新闻发布会上表示：“欧洲将自己定位为先锋，了解其作为全球标准制定者角色的重要性。是的，我相信，这是历史性的一天。” 

欧盟委员会主席乌尔苏拉·冯德莱恩（Ursula von der Leyen）表示，人工智能规则将为开发值得信赖的技术提供一个独特的法律框架。

这些提案包括对欧盟内部使用人工智能的保障措施以及对执法机构采用人工智能的限制。消费者有权在发现有违规现象时提出投诉，并要求监管机构对违规行为处以罚款。

这份临时协议的针对的一个主要主体就是开发模型的企业。该协议要求ChatGPT和通用人工智能系统（GPAI）等基础模型在投放市场之前遵守透明公开义务。其中包括起草技术文件、遵守欧盟版权法以及传播有关培训内容的详细摘要。

此外，具有系统性风险的高影响力的AI模型必须进行模型评估，评估和减轻系统性风险，进行对抗性测试，向欧盟委员会报告严重事件，确保网络安全并报告其能源效率。具有系统性风险的GPAI可能需要依靠实践守则来遵守新法规。

临时协议针对的另一个主体就是政府。根据协议，政府只能在公共场所对某些犯罪的受害者使用实时生物识别监视，例如恐怖袭击，以及搜查涉嫌犯下最严重罪行的人。

同时，该协议禁止进行认知行为操纵、从互联网或闭路电视录像中无目的地删除面部图像、社会评分和用生物识别分类系统来推断政治、宗教、哲学信仰、性取向和种族。

处罚方面，对违反人工智能法案的罚款按照违规公司上一财年全球年营业额的百分比或预定金额来确定，以较高者为准。对于违反被禁止的人工智能应用程序，罚款为3,500万欧元或全球营业额的7%；对于违反人工智能法案义务的，罚款为1,500万欧元或全球营业额的3%；对于提供不正确信息的，罚款750万欧元或全球营业额的1.5%。

批评的声音

尽欧盟达成的这个人工智能法律提案也招致了不少批评的声音。

受限一个主要批评声音来自商界，有部分商业人士认为，过早或是过严限制AI发展，会影响企业的创新。

6月，法国空中客车公司和德国西门子公司等数十家最大的欧洲公司就曾公开表示，所制定的规则过于严格，无法培育创新和帮助当地产业。

而在此次提案出炉后，信息技术与创新基金会 (ITIF) 副总裁丹尼尔·卡斯特罗（Daniel Castro）认为：“鉴于人工智能的发展速度如此之快，欧盟立法者应该暂停任何立法，直到他们更好地了解他们所监管的到底是什么。考虑不周的立法所带来的意外后果的风险可能与现在相当，甚至更大。不幸的是，修复技术通常比修复糟糕的法律容易得多。”

Castro觉得，欧盟应该专注于赢得创新竞赛，而不是监管竞赛。“现在确切地知道可能需要哪些新规则还为时过早。迅速采取行动可能会给人一种进步的错觉，但事实并非如此。”

商业组织DigitalEurope的总干事塞西莉娅（Cecilia Bonefeld-Dahl）称：“我们达成了一项协议，但代价是什么？”Bonefeld-Dahl认为，新的要求将需要公司投入大量资源来遵守，这些资源将花在律师身上，而不是雇用人工智能工程师。

除了商界，专注于保护公民隐私权利的人权组织European Digital Rights也同样对该AI法案持批评态度。

该组织的埃拉·雅库博斯卡（Ella Jakubowska）表示：“很难对一项在欧盟首次采取措施使整个欧盟的实时公共面部识别合法化的法律感到兴奋。”Jakubowska认为：“虽然议会努力限制损害，但生物识别监控和特征分析的整体方案充其量只是不冷不热。”

尽管外界意见众多，但是对AI进行规范早已是主流。不仅是欧盟，美国、中国等AI企业众多的国家均在研究立法监管人工智能技术。今年10月底，美国总统拜登签署了一项关于AI的全面行政命令，这是美国针对AI采取的第一个合法行动。虽然行政命令并不等于法律，但该行政命令也体现出AI强国——美国对AI技术的态度。

欧盟率先形成这样一份人工智能草案，打响了监管AI的“第一枪”。有专业人士认为，这一监管条文后续有可能成为其他政府编制规则的参考对象。