巴西虚拟助手与对话式人工智能的监管

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

虚拟助手和人工智能聊天机器人已经走进数以百万计巴西人的日常生活，但相比这些技术的普及速度，相关监管的步伐仍然缓慢。

对话式人工智能的发展与监管的必要性

近几年，企业、公共机构和服务提供者与用户沟通的方式发生了深刻变化。基于人工智能的虚拟助手早已不再是单纯的技术新鲜事物，而是广泛应用于客户服务、医疗健康服务、金融行业，甚至公共行政领域的常见工具。然而，这场变革也带来了监管空白，必须以紧迫感和责任感加以应对。

审视当前的情况可以发现，对话式人工智能处于巴西法律体系的灰色地带。截至目前，巴西尚无一部专门的法律对这类系统的运行作出全面规范。现有的只是一些零散的规定，例如《通用数据保护法》（LGPD，第13.709/2018号法律）、《消费者保护法典》（第8.078/1990号法律）以及《互联网民事框架法》（第12.965/2014号法律）。这些规定提供了一般性的基本准则，但面对应用于自动化沟通的人工智能的种种特殊性，仍然不够用。

问题的核心在于，虚拟助手所作出的决定会直接影响人们的生活。当聊天机器人拒绝退款申请、就症状向患者提供指引，或者给出笼统的法律信息时，这些互动都会产生实实在在的后果。缺少清晰的监管框架，公民就可能面临算法歧视、侵犯隐私以及自动化决策过程缺乏透明度等风险。

适用于对话式人工智能的法律原则

虽然目前没有专门针对虚拟助手的法律，但巴西法律体系中存在一系列原则，应当指引这些技术的开发与运行。例如，LGPD规定，一切个人数据处理活动都应遵循目的、适当性、必要性、透明和非歧视等原则。这些原则可直接适用于虚拟助手，因为这类工具在与用户互动的过程中，会收集、存储和处理大量个人数据。

对虚拟助手的监管不应被视为创新的障碍，而应被视为一项必不可少的手段，确保技术在安全、透明并尊重基本权利的前提下服务于公民。

在这一背景下，LGPD第20条值得特别关注。该条保障数据主体有权要求对仅基于个人数据自动化处理所作出的决定进行复核。这意味着，当虚拟助手作出影响用户利益的决定时（例如拒绝提供某项服务，或对信用风险作出分级），公民有权对该决定提出异议，并要求由真人重新评估。

除LGPD之外，《消费者保护法典》也规定了重要的义务。该法典第6条第III项规定的告知义务，要求经营者以清晰、恰当的方式向消费者说明所提供的产品和服务。放在虚拟助手的语境下，应当理解为消费者有权被告知，自己正在与自动化系统而非人工客服互动。未履行这一告知义务，可能构成滥用行为。

算法透明度

对虚拟助手进行监管的一大基本支柱，就是算法透明度。可以看到，大多数对话式人工智能系统都像“黑箱”一样运行，也就是说，其决策过程不透明，普通用户难以理解。算法透明度要求开发和使用这些技术的企业，能够用通俗易懂的语言说明系统如何运作、使用哪些数据，以及依据什么标准生成回答。

人工智能造成损害的民事责任

虚拟助手造成损害时的民事责任问题，是另一个敏感之处。如果聊天机器人提供了错误信息，导致消费者作出不利的决定，应当由谁对损害负责？分析认为，在巴西法律体系中，责任倾向于由服务提供者承担，依据的是《消费者保护法典》，该法典采用无过错责任理论。这意味着企业无须存在过错即可被追究责任，只需证明存在损害以及因果关系即可。

立法草案与巴西监管的未来

近几年，关于巴西人工智能监管的讨论愈发热烈，国会中有多项法案正在审议。其中值得一提的是第2.338/2023号法案，该法案提议为巴西建立人工智能的法律框架，并就人工智能系统的开发和使用确立原则、权利与义务。该法案部分借鉴了欧盟的《人工智能法案》（AI Act），按风险等级对人工智能系统进行分类，并对被认定为高风险的系统施加更为严格的义务。

在敏感领域（如医疗、金融和公共服务）运行的虚拟助手，往往会被归入高风险系统，这就意味着需要进行影响评估、定期审计，并建立人工监督机制。与对所有人工智能系统一视同仁的笼统监管相比，这种基于风险的思路被认为更加符合比例原则。

在行业层面，也能看到一些值得关注的动向。巴西中央银行已经就金融机构使用聊天机器人发布了相关规范，要求在客户与自动化系统互动时予以告知。国家补充健康监管局（ANS）也在探讨人工智能用于服务健康保险受益人的指导方针。这些行业举措虽然较为分散，却表明监管层面对这一议题的关注与日俱增。

国际经验的借鉴意义

将巴西的情况与国际情况相比，可以发现欧盟走在了前面，通过了《人工智能法案》（AI Act，即人工智能条例），该法案于2024年生效，为所有成员国确立了全面的规则。欧盟条例将人工智能系统分为四个风险类别（不可接受风险、高风险、有限风险和最低风险），并对违反其规定的行为设定了严厉的处罚。

在美国，做法则更为分散，以行业层面和各州层面的监管为主。联邦贸易委员会（FTC）在查处涉及人工智能的欺骗性做法方面，行动更为积极，其中包括聊天机器人误导消费者的案件。这些国际经验为巴西立法者提供了宝贵的参考，不过任何借鉴都必须考虑到本国法律体系的特点及社会经济现实。

对企业和消费者的实际影响

对虚拟助手的监管将对企业和消费者都带来重大的实际影响。在企业方面，使用聊天机器人和人工智能助手的机构需要投入算法治理，制定内部政策，对这些系统进行开发、测试和持续监测。这包括开展基本权利影响评估、建立审计机制，以及设立有效渠道，让用户能够对自动化决策提出异议。

对消费者而言，监管意味着保护水平的显著提升。分析认为，目前许多用户甚至不知道自己正在与自动化系统互动，这就削弱了他们对所收到信息进行批判性判断的能力。有了监管，知情权有望得到充分保障，公民能够知晓自己是否正在与机器对话，并在需要时获得人工服务。

另一个值得关注的方面是无障碍问题。虚拟助手的设计应当面向各个群体，包括残障人士、老年人以及数字素养较低的人群。监管可以确立最低无障碍标准，保障数字包容，避免技术加剧已有的不平等。

伦理挑战与对弱势群体的保护

除了严格意义上的法律问题，虚拟助手的监管还涉及不容忽视的伦理层面。其中最严重的问题之一是算法偏见，即人工智能系统会复制并放大训练数据中存在的偏见。例如，用带有偏见的数据训练出来的虚拟助手，可能会依据用户的性别、种族、年龄或社会经济状况作出带有歧视性的回答。

对儿童和青少年的保护同样值得特别关注。出现在未成年人可以访问的平台上的虚拟助手，应当遵守《儿童与青少年法》（第8.069/1990号法律）的规定，并采取专门的保障措施，避免接触不适宜的内容、不当收集数据以及行为操纵。针对这一群体的注意义务更为严格，需要有可靠的年龄验证和内容审核机制。

对于老年人和处于数字弱势的人群，有观点主张，监管应规定：只要虚拟助手无法令人满意地解决用户的诉求，就必须转接人工服务。在基本服务领域（如健康保险、银行和公共服务），如果完全以聊天机器人取代人工服务，可能会给这些群体造成无正当理由的使用障碍。

综上所述，对虚拟助手和对话式人工智能进行监管，不仅有必要，而且十分紧迫。挑战在于，如何在促进技术创新与保护公民基本权利之间找到平衡。一套设计良好、以透明、负责、非歧视和尊重人的尊严为原则的监管，能够为企业和消费者营造安全的环境，增进对技术的信任，并确保其红利由全社会公平分享。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.