欧盟《人工智能法案》：对巴西的启示

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

欧盟通过了全球范围最全面的人工智能监管条例，巴西可以（也应当）借鉴这一经验，构建自己的监管框架。

什么是《人工智能法案》，它为何具有全球意义

欧盟《人工智能法案》（AI Act，即《人工智能条例》）是第一部专门针对人工智能系统法律规制的完整监管框架。该条例于2024年3月由欧洲议会通过，自2025年起分阶段生效，并根据每类人工智能应用对欧洲公民基本权利所构成的风险等级，设定了与之相称的规则。

放眼全球，欧盟的《人工智能法案》并非孤立出现。它属于一股监管趋势的一部分：这一趋势认识到，人工智能技术已经在影响医疗、信贷、公共安全、就业和司法领域的决策，因而需要对其加以治理。欧盟的做法与众不同之处在于采用基于风险的模式，把人工智能系统分为四类：不可接受的风险（禁止）、高风险（严格监管）、有限风险（承担透明度义务）和最低风险（自由使用）。

在被认定为不可接受风险的做法中，包括政府实施的社会评分（social scoring）、造成损害的潜意识行为操控、对特定群体弱点的利用，以及在公共场所进行的某些形式的实时生物识别监控。这些禁令体现了一种明确的政治选择：有些人工智能应用在民主社会中根本不应存在，无论它们能带来多大的效率提升。

对于被归类为高风险的系统（用于关键基础设施、教育、就业、基本服务、执法和司法管理），条例要求事先进行合规评估、提供详尽的技术文档、实施有效的人工监督、保证系统运行的透明度，并为受影响者提供提出异议的机制。

巴西的监管现状：我们处在什么位置

审视巴西的情况可以发现，该国尚无专门且全面的人工智能立法。目前正在国会审议的第2.338/2023号法律草案是进展中的主要立法动议。该草案部分借鉴了欧盟模式，同样采用基于风险的方法，但与《人工智能法案》相比存在显著差异。

巴西已有一套法律框架，可在一定程度上适用于人工智能应用。《通用数据保护法》（第13.709/2018号法律）规范个人数据的处理，包括由自动化系统进行的处理，并保障数据主体有权请求复核完全基于自动化处理作出的决定。《互联网民事框架法》（第12.965/2014号法律）确立了在巴西使用互联网的各项原则。《消费者权益保护法典》则为涉及自动化系统的消费关系提供保护。

然而，这些规范并非为应对人工智能的特殊性而设计。例如，《通用数据保护法》（LGPD）处理的是个人数据保护，却没有涉及以下问题：不处理个人数据的系统中的算法偏见、生成式人工智能造成损害的民事责任，或通用目的模型的治理。因此，存在一个需要以战略眼光加以填补的监管空白。

监管人工智能并不意味着遏制创新，而是要确保技术发展在保护基本权利的界限内进行，并增进社会对自动化系统的信任。

我们还注意到，巴西国家数据保护局（ANPD）已成为这场讨论中的重要参与者，它发布了关于人工智能监管的初步分析，并积极参与立法讨论。究竟由哪个机构在巴西对人工智能拥有监管权限，目前仍悬而未决，也是这场辩论中最敏感的问题之一。

《人工智能法案》对巴西立法的具体启示

第一个重要启示涉及基于风险的分类。欧盟模式表明，对所有人工智能应用一视同仁是不恰当的。客户服务聊天机器人的风险，与辅助司法裁判或决定社会保障福利发放的系统的风险，有着天壤之别。巴西可以从这种分级做法中获益，并根据本国实际调整风险类别。我们认为，巴西的分类必须考虑本国的社会不平等与数字鸿沟，因为它们会放大带有偏见的人工智能系统所造成的负面影响。

第二个启示涉及透明度和可解释性的要求。《人工智能法案》规定，用户在与人工智能系统交互时应当被告知，高风险系统也须具备足够的透明度，以便人们能够解读其输出结果。在巴西，当我们想到INSS（巴西国家社会保障局）用于审查福利的系统、银行用于发放信贷的系统，或雇主用于筛选应聘者的系统时，这一要求就更显重要。巴西公民应当享有权利，至少从总体上了解为什么会作出对自己不利的自动化决定。

第三个启示是强制性的人工监督。《人工智能法案》要求高风险系统具备能够让人类进行有效监督的机制。这一要求对巴西的公共行政领域尤为重要，因为在社会福利、税收和公共服务方面的自动化决定影响着数以百万计的人。人工监督不能流于形式，而必须是实质性的，由经过培训的公职人员承担，并让他们有自主权对算法决定提出质疑并予以撤销。

第四个启示涉及通用目的人工智能（如大型语言模型）的治理。《人工智能法案》为这类模型的提供者引入了具体义务，包括技术文档、版权合规政策，以及对最强大模型的系统性风险评估。我们认为，巴西应当关注这一类别，因为该国使用的大多数生成式人工智能系统由外国公司开发，这引发了关于管辖权和执法（enforcement）的复杂问题。

巴西语境下的特殊挑战

在提出将《人工智能法案》的经验移植到巴西时，我们必须承认，欧盟与巴西的背景之间存在重大的结构性差异。欧盟拥有成熟的监管传统，其独立机构具备雄厚的技术和财政资源。相比之下，巴西面临着不容忽视的制度能力方面的挑战。

第一个挑战是确定主管机构。《人工智能法案》在每个成员国指定国家主管机构，并由欧盟委员会的人工智能办公室（AI Office）负责协调。在巴西，关于由哪个机构监管人工智能的讨论，涉及ANPD、行业监管机构，以及设立一个新机构的可能性。这一制度选择将对监管的实效产生深远影响。我们主张，无论采用何种模式，该机构都必须具备技术自主性、充足的预算，以及与各受监管行业沟通对话的能力。

第二个挑战涉及对本国创新的影响。与拥有相对成熟的人工智能生态系统的欧洲不同，巴西仍在这一领域搭建其技术基础。过于严格的监管可能抑制巴西初创企业和研究中心的发展，使其对外国解决方案的依赖进一步加深。监管需要在保护与激励创新之间取得平衡，或许可以通过《人工智能法案》本身所规定的监管沙盒（受控的测试环境）来实现。

第三个挑战是数字包容和算法素养。要让未来的人工智能法律所规定的权利真正有效，巴西公民必须具备最基本的条件，来理解自己正受到算法决定的影响，并行使提出异议的权利。在一个相当一部分人口仍面临数字接入障碍的国家，这一挑战不容低估。

民事责任问题

一个值得特别关注的问题是人工智能系统造成损害的民事责任。欧盟在制定《人工智能法案》的同时，正在起草一项关于人工智能民事责任的专门指令，以减轻受害者的举证负担。在巴西，责任应当适用客观责任（无须证明过错）还是主观责任（须证明过错），仍然是立法辩论的核心。我们认为，对于高风险系统，客观责任更有利于保护公民权利，尤其是考虑到人工智能开发者与受其决定影响的人之间存在信息不对称。

巴西人工智能监管的未来展望

尽管欧盟的《人工智能法案》有其长处，但并不是一个完美的模型。它因复杂性、对欧洲竞争力的潜在影响，以及在军事和国家安全应用方面的某些空白而受到批评。巴西有机会同时借鉴欧洲的成功经验与失误教训。

我们认为，巴西良好的人工智能监管应包括以下基本原则：比例原则（要求与风险等级相称）、透明度（有权知晓自己何时受到人工智能的影响）、人工监督（尤其是在影响基本权利的决定中）、不歧视（积极应对算法偏见）、问责（明确的损害赔偿机制）以及社会参与（开放、民主的监管过程）。

当下是一个关键时刻。在第2.338/2023号法律草案（PL 2.338/2023）于国会推进的同时，其他国家也在确定各自的监管策略。中国、加拿大、日本以及众多拉丁美洲国家都在发展自己的做法。巴西有机会成为全球南方的监管标杆，构建一个技术上稳健、社会上公正、经济上可行的模式。

我们需要密切关注立法进展，并积极参与有关这一主题的公共讨论。人工智能监管并不单纯是一个技术问题，它关乎基本权利、关乎民主，也关乎我们希望在未来几十年里建设一个什么样的社会。

这一主题与巴西的深度伪造与人工智能监管直接相关，我们已在专文中对此进行了探讨。

这一主题与巴西人工智能法律框架直接相关，我们已在专文中对此进行了探讨。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.