文章主题：全球首部人工智能领域的全面监管法规草案, 欧洲议会, 欧盟成员国, 欧盟委员会
全球首部人工智能领域的全面监管法规草案达成协议。
在经过長達40小時的談判後，歐洲議會、歐盟成員國和歐盟委員會三方於布鲁塞尔當地時間12月8日晚就《人工智慧法案》達成協議。根據媒體報導，這次談判过程相當艱苦，但最終各方還是成功地找到了共識。
据报道，该法案的目标在于对人工智能进行全面的管理和监督，从而为这种技术的研发和应用创造更加优良的环境。在谈判过程中，各方就对生成式人工智能工具（例如OpenAI的ChatGPT和谷歌的Bard）执行一系列限制性规定达成一致意见。
欧盟委员 Thierry Breton 在 X 平台发文称：
《人工智能法案》（AIAct）不仅是一本规范性的 rulebook，它更是一个具有战略意义的起跳板，为欧洲的初创企业与研究人员在全球人工智能领域竞争提供了重要的支持。
据相关报道，该立法草案仍需得到欧盟成员国和议会的正式批准，一旦双方正式批准，该立法预计将于明年初生效，并应在两年后实施，或将为全球范围内监管人工智能技术定下基调。
矛头直指 ChatGPT 和谷歌 Bard
在欧洲议会的官方网站上，我们可以发现，他们对于AI监管的首要目标在于确保欧盟所应用的人工智能系统能够满足安全性、透明度、可追溯性、非歧视性和环保性的要求。具体而言，这些系统必须由人类来监督，而非仅仅依赖自动化技术，这样可以避免出现不良后果。因此，欧洲议会强调在AI监管方面，人类的角色至关重要。
因此，据称，该立法草案提出了一种平衡、适度的人工智能横向监管方法，仅限于解决人工智能相关风险和问题的最低必要要求，而不会过度限制或阻碍技术发展，或以其他方式不成比例地增加将人工智能解决方案投放市场的成本。
具体来看，该草案的主要内容包含以下几点：
采用基于风险占比的方法，为欧盟内人工智能系统的开发、市场投放和使用制定了统一规则。
为确保人工智能的发展与欧盟的核心价值保持一致，我们需要对其采取谨慎的态度。部分可能违背我们的价值观和特别有害的做法必须受到限制。这些做法包括利用人工智能进行“社会评分”以及操纵人类行为以规避其自由意志等。因此，我们有必要制定相应的规定以确保人工智能的合理使用，防止其被滥用。
在执法领域中，远程生物识别系统的使用受到了广泛关注。为了确保其合法性和合理性，相关限制和保障措施必须得到充分考虑。其中，对于涉及政治、宗教信仰、性取向和种族等敏感特征的人进行分类的生物识别技术，已被明确禁止在执法场合使用。这一问题在谈判过程中被认为是最具挑战性和敏感性的议题之一，媒体也对此进行了大量报道。
本文将介绍一种有效的方法来确定那些对人类健康、安全和基本权利具有显著风险的”高风险”人工智能系统。这种方法为我们提供了一个可靠的框架，以便我们能够识别和应对这些系统中可能存在的潜在威胁。通过对这些系统的全面评估和风险分析，我们可以确保人工智能技术在保障人类利益方面发挥其积极作用，同时降低潜在的风险和负面影响。
在一些特定的人工智能系统中，透明度义务的设定较为低限，尤其是在涉及聊天机器人或“深度伪造技术（deepfake）”等领域时。
值得注意的是，Breton 表示，立法者同意采取两层办法，即 ” 对所有通用人工智能模型（例如 ChatGPT）提出透明度要求 “，以及对整个欧盟 ” 具有系统影响的强大模型提出更严格的要求 “。
知情人士也曾于 12 月 8 日向媒体透露，谈判代表已同意对 OpenAI 的 ChatGPT 和谷歌的 Bard 等能够根据命令生成内容的生成式人工智能工具进行一系列控制。
也就是说，该草案直接要求 ChatGPT 和通用人工智能系统（GPAI）等基础模型在投放市场之前遵守透明度义务，其中包括起草技术文件、遵守欧盟版权法以及传播有关培训内容的详细摘要。
比如，具有系统性风险的高影响力 AI 模型必须进行模型评估，评估和减轻系统性风险，进行对抗性测试，向欧盟委员会报告严重事件，确保网络安全并报告其能源效率；具有系统性风险的 GPAI 可能需要依靠实践守则来遵守新法规。
在处罚规定方面，拟议的立法将对违反规定的公司处以经济处罚，罚款最高可达 3500 万欧元，或全球营业额的 7%，具体取决于违规情况和公司规模。
接下来，欧盟等还将就此草案讨论细节，这可能会改变最终立法的形式。法案正式颁布实施后，各成员国将基于本国的公共政策基础，做出一定的变通适用。
率先立法，欧洲领跑 AI 竞赛？
该项草案如果成功立法，意味着欧盟将成为第一个制定人工智能法律的世界主要强国。
Breton 表示：
” 欧洲将自己定位为先锋，了解其作为全球标准制定者角色的重要性。是的，我相信，这是历史性的一天。”
根据央视新闻报道，此前，欧盟方面一直希望推动《人工智能法案》尽早出台。
2019 年以来，欧盟一直布局人工智能监管领域，先后发布人工智能伦理准则并出台《人工智能白皮书》。
2021 年 4 月，欧盟委员会提出《人工智能法案》提案的谈判授权草案。此后，欧洲议会和欧盟理事会就草案进行了多轮修订和讨论。
2023 年 6 月，欧洲议会以 499 票赞成、28 票反对和 93 票弃权，高票通过了《人工智能法案》谈判授权草案，推动了该法案进入立法程序的最后阶段，即举行欧洲议会、欧盟成员国和欧盟委员会的 ” 三方谈判 “，以确定法案的最终条款。
《人工智能法案》的出台也将为欧洲自身的 AI 技术发展带来便利。
草案中提及：
” 鉴于技术变革的速度和可能面临的挑战，欧盟致力于努力采取一种平衡的方法。保持欧盟的技术领先地位，确保欧洲人能够从根据欧盟价值观、基本权利和原则开发和运行的新技术中受益，符合欧盟的利益。”
反对的声音
今年 6 月，包括空客和西门子在内的数十家欧洲大型企业曾采取集体行动，以 ” 可能损害欧洲竞争力 “” 不能应对潜在挑战 ” 等为由，公开反对欧盟通过《人工智能法案》。
Open AI 的 Altman 也此前曾批评欧盟监管 AI 技术的计划。
此前起草的拟议法律暗示 ChatGPT 和大型语言模型 GPT-4 都可能被指定为高风险。Altman 曾就此回应道：” 如果我们能遵守，我们会，如果我们不能，我们将停止运营。我们需要试试，但可能存在技术限制。”
草案达成协议的结果公布后，欧盟高级政策顾问 Ella Jakubowska 表示：
” 欧盟首次采取措施使整个欧盟范围内的实时公共面部识别合法化，这很难让人感到兴奋。”
” 虽然议会努力限制损失，但生物识别监视和分析的整体方案充其量只是冷淡。”
商业组织 DigitalEurope 的总干事 Cecilia Bonefeld-Dahl 称：
” 我们达成了一项协议，但代价是什么？我们完全支持基于人工智能使用的基于风险的方法，而不是技术本身。”
不过，该法案草案达成协议的背后，更重要的意义或许在于提供了监管 AI 技术的政策蓝图。
欧盟执行机构欧盟委员会主席 Ursula von der Leyen 表示：在该法案完全适用之前，我们将支持企业和开发商预见新规则。大约 100 家公司已经表示有兴趣加入我们的《人工智能法案》。
全球首部人工智能领域的全面监管法规草案, 欧洲议会, 欧盟成员国, 欧盟委员会
