人工智能造成损害的民事责任

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能已经给个人和企业造成了实实在在的损害，但巴西法律体系仍在探索，究竟应由谁来为这些损害担责。

人工智能的发展与新的法律风险

随着人工智能系统的使用日益广泛，社会关系和经济关系正经历一场深刻的变革。算法所做出的决定，影响着信贷、医疗、公共安全、消费关系，甚至个人的人身自由。在这样的背景下，有一个问题正变得越来越紧迫：当人工智能系统给他人造成损害时，应当由谁来承担责任？

巴西《民法典》和《消费者保护法典》所构建的民事责任制度，针对的是人的行为与损害之间因果链条相对清晰的情形。然而，人工智能系统带来了前所未有的复杂性。其中许多系统如同“黑箱”一般运作，内部机理连开发者自己都难以看透。这种不透明性使得因果关系难以认定，责任的归属也随之变得困难。

可以看到，人工智能造成的损害形式多样：招聘筛选中的自动化歧视性决定、算法生成的错误医疗诊断、自动驾驶车辆引发的事故、人脸识别系统对隐私的侵犯，以及资本市场中算法交易所导致的经济损失。每一种情形都给法律体系提出了特定的挑战，需要对所适用的民事责任基础进行审慎的分析。

适用于人工智能的民事责任基础

在巴西法中，民事责任传统上建立在两大支柱之上：一是主观责任（以过错为基础，依据《民法典》第186条），二是客观责任（无须证明过错，规定于《民法典》第927条单项条款，并被《消费者保护法典》广泛采用）。在分析人工智能系统造成的损害时，我们认为，在大多数情况下，客观责任是更为恰当的路径。

原因在于，要求受害人证明人工智能系统的开发者或运营者存在过错，实际上等于让受害人承担几乎无法完成的举证责任。一个普通消费者，连算法如何运行都不理解，又怎么可能证明算法的编程存在疏忽呢？巴西法律体系所确立的活动风险理论给出了更公平的答案：开发或使用具有潜在危害性的技术的人，应当承担该活动所固有的风险。

在消费关系领域，法律框架就更加清晰了。《消费者保护法典》第12条和第14条规定了供应商的客观责任，供应商须对产品或服务的缺陷负责。提供给消费者的人工智能系统若在运行中出现故障，完全符合这一法律规定。供应商无论有无过错都须承担责任，受害人只需证明损害，以及损害与缺陷产品或服务之间的因果关系即可。

人工智能算法的不透明，不能成为那些从中获利的人逃避责任的挡箭牌。

我们还注意到，开发风险理论在这一语境下具有重要意义。该理论探讨的是：对于产品投放市场时尚无法认知的缺陷，供应商是否仍应担责。就人工智能而言，这一讨论呈现出特殊的面貌，因为机器学习系统在部署之后，随着不断处理新数据、在内部调整参数，可能会形成难以预测的行为。

责任链条：开发者、运营者与用户

人工智能造成损害的民事责任中，最复杂的问题之一，就是如何确定责任主体。与传统产品不同，人工智能系统的创建和运行链条上涉及多个主体。我们至少可以识别出这一链条上的三类核心角色：开发者（创建并训练算法）、运营者（在其业务中部署并使用该系统）以及最终用户（直接与该技术交互）。

如果损害源于算法设计上的缺陷、训练数据中存在的偏见，或系统安全机制的不足，开发者可能需要承担责任。而当损害源于系统的部署、配置或维护方式时，则由运营者负责。例如，使用信贷分析算法的金融机构，如果系统作出了歧视性决定，即便该算法是由第三方开发的，该机构仍可能被追究责任。

我们认为，在许多情况下，开发者与运营者将承担连带责任，在消费关系中尤其如此。受到损害的消费者可以向链条中的任何一方提起诉讼，而各方之间则可根据各自应承担的责任份额享有追偿权。这种连带责任对于确保受害人获得有效赔偿至关重要，受害人不应因技术产业链条的复杂而受到不利影响。

至于用户，其责任将逐案评估。如果用户没有按照系统设计的用途使用人工智能系统，或者无视供应商的明确警示，则其他主体的责任可能被排除或减轻。不过，我们要强调，对这种责任排除应当作限缩解释，尤其是当用户为消费者时，更应基于弱势地位原则予以考量。

巴西人工智能法律框架与民事责任

近年来，巴西围绕人工智能的监管展开了激烈讨论。国会正在审议多项法案，旨在为人工智能建立监管框架，其中包括有关民事责任的专门条款。我们对这些立法讨论保持密切关注，因为其中的规定将直接影响司法机关处理人工智能损害的方式。

在立法辩论的核心议题中，值得一提的是是否采用基于风险的责任制度。依照这一思路，被归类为“高风险”的人工智能系统（即影响基本权利、健康、安全或自由的系统）将适用更为严格的责任制度，并承担更强的透明度、可审计性和问责义务。而风险较低的系统，则适用较为灵活的监管。

可以看到，国际经验同样提供了重要的参考。欧盟通过《人工智能法案》（AI Act，即人工智能条例）建立了以风险等级为基础的监管模式，这一模式已影响到包括巴西在内的多个国家的讨论。欧盟关于人工智能民事责任的指令提案也带来了有价值的贡献，例如在特定情形下的举证责任倒置，以及获取系统运行信息的权利。

即使没有专门立法获得通过，我们认为，巴西现行法律体系也已具备足够的工具来处理大多数人工智能损害案件。《民法典》《消费者保护法典》《通用数据保护法》（Lei Geral de Proteção de Dados）和《互联网民事框架法》（Marco Civil da Internet）提供了规范基础，经过体系化的、与时俱进的解释，足以让相关主体承担相应的责任。人工智能专门立法的作用，在于完善和细化这一框架，而不是填补绝对的规范空白。

举证难题与算法透明度的作用

追究人工智能损害责任时，最大的现实障碍之一就是取证。如果算法的内部运行无从知晓，如何证明它作出了歧视性决定？如果连开发者自己都无法完整解释算法的行为，又如何确立系统缺陷与所受损害之间的因果关系？

我们认为，在这种情况下，算法透明度不仅是值得提倡的伦理原则，更是法律上的必要条件。如果没有能够对人工智能系统所作决定进行审计和理解的机制，获得赔偿的权利就会沦为空谈。因此我们主张，透明义务应被视为人工智能系统开发者和运营者的一项法律义务，违反该义务本身就可能构成应予追责的违法行为。

举证责任倒置同样是此类案件中的关键工具。鉴于受害人与开发、运营人工智能系统的主体之间存在信息不对称，由后者来证明系统运行正常、其运行与所称损害之间不存在因果关系，是合理的。这种倒置在消费者权益法中早已被允许，法官可依据《消费者保护法典》（CDC）第6条第VIII项适用，条件是消费者的主张具有可信性，或消费者处于弱势地位。

此外，技术鉴定在这类诉讼中也处于核心地位。评估人工智能系统的运行，需要高度专业的知识，因此必须有具备计算机科学和人工智能专业背景的鉴定人参与。巴西各级法院需要适应这一现实，既要加强司法辅助人员的能力培训，也要针对涉及人工智能技术的案件，制定专门的诉讼审理规程。

最后，我们要强调，对人工智能系统全生命周期的完整记录（包括训练数据、配置参数、运行日志和更新历史）是至关重要的证据要素。使用人工智能的企业和机构应当保存详尽的记录，以便在发生诉讼时能够还原算法的决策过程，并找出可能存在的缺陷。

这一话题与人工智能与监管密切相关，我们已在专文中对此作了探讨。

这一话题与人工智能如何改变INSS (巴西国家社会保障局)密切相关，我们已在专文中对此作了探讨。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.