AI开发者的责任：责任追究链条

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能开发者的责任追究链条，是当今最重大的法律挑战之一，需要构建新的监管框架，以保护基本权利。

人工智能民事责任的现状

涉及人工智能系统的法律关系正在经历深刻的变革。算法越来越多地做出直接影响人们生活的决定（发放信贷、医疗诊断、行政决定），因此，弄清楚由谁来为这些技术造成的损害负责，已经变得刻不容缓。本文探讨的问题已经超出了纯粹的技术争论，进入了基本权利的领域：AI开发者的责任追究链条。

在巴西法律体系中，《民法典》已经确立了民事责任的一般原则，这些原则可以适用于智能系统造成的损害。《民法典》第927条及其后各条规定了因不法行为造成损害的赔偿义务，而同一第927条的单项条款（parágrafo único）则对那些因其性质会给他人权利带来风险的活动规定了无过错责任（responsabilidade objetiva）。可以看到，这一规范基础虽然重要，但并不是为应对自主决策系统的复杂性而设计的。

《人工智能法律框架》目前正通过第2338/2023号法案在国会审议，旨在为人工智能系统生命周期中各方主体的责任追究确立专门规则。该法案认为，责任链条并不仅限于算法的开发者，而是延伸至参与这些系统的构思、部署、运行和监测的所有主体。

我们注意到，国际经验对指导巴西的讨论起到了关键作用。欧盟通过《人工智能法案》（AI Act，即人工智能条例），确立了以风险为基础的监管思路，根据人工智能系统造成损害的可能性对其进行分级。这种分级直接影响链条中不同主体所承担责任的程度，并根据所识别的风险水平设定相应的义务。

责任追究链条中各方主体的识别

要准确理解责任追究链条，就需要先识别人工智能系统生命周期中涉及的每一方主体。这条链条由多个主体构成，各自承担特定的义务与责任，具体程度取决于其对系统的控制程度，以及其参与行为所关联的损害可能性。

链条的第一环是基础模型的开发者。它是设计并训练基础算法的企业或机构，负责确定算法架构、选择训练数据并设定运行参数。这一主体对系统的安全性和可靠性负有首要责任，因为在这一初始阶段所做的决定，可能对后续整个链条产生影响。训练存在缺陷、输入数据存在偏见、缺乏适当的安全机制，都是明确应当追究责任的情形。

第二环包括为特定应用而调整和定制AI模型的企业。这些技术集成商需要对系统是否适合预期使用场景、是否开展安全测试以及是否落实必要的保障措施负责。例如，集成商在没有进行适当调整和验证的情况下，将通用模型用于医疗或法律用途，就要对可能产生的损害承担相当大的一部分责任。

第三环是运营者，即在自身业务中实际部署并使用AI系统的法人。利用AI进行诊断的医院、采用算法进行信贷分析的金融机构，以及使用自动化决策系统的公共机关，都属于运营者。其责任包括合理选择系统、持续监测系统运行情况，并在必要时保证有人工监督。

追究AI开发者的责任，不能孤立地看待：链条中的每一方主体，都应按其对系统的控制程度以及其参与行为所带来的风险比例承担责任。

最后，还要看到数据提供方的作用，它们为系统提供训练和运行所用的信息。数据的质量、代表性和合法性，是AI正常运行的决定性因素，数据提供环节的缺陷可能造成严重损害，尤其是涉及受《通用数据保护法》（第13.709/2018号法律）保护的敏感个人数据时。

责任类型与归责标准

下面来探讨适用于AI链条各方主体的不同责任类型，同时考虑自主系统的特殊性，以及切实保护受影响者权利的必要性。争论的核心在于：对不同的主体和情形，应采用过错责任（基于过错）还是无过错责任（不以过错为前提）。

过错责任要求证明行为人存在疏忽、轻率或不熟练。在AI的语境下，这意味着要证明开发者没有采取合理的安全措施，集成商没有进行适当的测试，或者运营者没有落实必要的监测。这一类型虽然是巴西民法中的传统做法，但适用于复杂的AI系统时会遇到相当大的实际困难，因为所谓算法“黑箱”使得难以准确识别缺陷及其责任人。

相反，无过错责任无需证明过错，只需证明损害和因果关系。在《消费者保护法典》（第8.078/1990号法律）中，这一类型已经适用于消费关系，而许多向终端消费者提供产品和服务的AI系统使用场景都属于消费关系。我们认为，对高风险AI系统适用无过错责任，是保障公民权利得到有效保护的最合适做法，尤其是考虑到开发者与用户之间的信息不对称。

一个重要的方面是，链条中不同主体之间可能存在连带责任。当损害源于多个主体缺陷的共同作用时（例如，数据存在偏见，加之运营者缺乏人工监督），所有相关方都可能被要求对受害人承担连带责任，同时各方之间保留追偿权，按各自对损害所起作用的比例进行追偿。

因果关系在自主系统中的作用

在AI系统中证明因果关系，给民事责任法带来了前所未有的挑战。传统损害中，行为与结果之间的关系通常是可以识别的，而AI系统通过决策过程运行，这些过程并不总是透明或可解释的。可以看到，如果不采取适当的机制，这种算法不透明性会形成举证障碍，可能使受影响者的权利无法得到保护。

在此背景下，算法的可解释性与透明度作为开发者和运营者的法律义务，其重要性日益凸显。记录系统运行方式、保存自动化决策记录，并就算法所采用的标准提供通俗易懂的解释，这些义务不仅是良好实践，更是实现适当责任追究的必要条件。

预防机制与AI治理

除了损害发生后的责任追究，还应探讨构成AI开发者责任链条一部分的预防机制。采取适当的算法治理实践，不仅能降低损害风险，还可以在可能发生的诉讼中作为抗辩要素，证明行为人在履行义务时尽到了勤勉义务。

在最重要的预防机制中，值得一提的是算法影响评估，即开发者或运营者在系统部署前，对AI系统相关风险进行系统分析的程序。这项评估应当考虑对基本权利的潜在影响，识别可能受到不成比例影响的弱势群体，并针对已识别的风险制定缓解措施。

算法审计是另一项重要机制。它是由具备资质的专业人员对AI系统的运行情况进行独立核查，目的是发现偏见、安全漏洞和运行偏差。我们认为，对高风险AI系统强制进行定期审计，是一项相称且必要的措施，有助于保证链条中各方主体的问责性（accountability）。

落实有意义的人工监督机制（human-in-the-loop或human-on-the-loop），是额外的一层保护。在对个人权利有重大影响的决定中，有合格的人员参与决策过程，可以发现算法错误，并在造成不可逆转的损害之前纠正不公正的决定。

记录与可追溯性

详细保存AI系统的运行记录（决策日志、所用数据、适用参数），对于预防和责任追究都至关重要。这些记录能够还原算法的决策过程，便于查明损害的原因和责任主体。建议开发者和运营者制定完善的记录与数据留存政策，同时遵守LGPD（巴西《通用数据保护法》）对个人数据保护的要求。

监管前景与未来挑战

巴西针对AI开发者责任的监管格局仍在构建之中。除了前文提到的第2338/2023号法案（PL 2338/2023），还有其他立法倡议试图解决责任追究中的具体问题，例如在公共部门、司法裁判和医疗健康场景中使用AI。我们正密切关注这些讨论的进展，它们倾向于巩固透明度、禁止算法歧视以及责任与风险相称等基本原则。

我们认为最重大的挑战之一，是责任规范的管辖权和地域适用问题。AI系统往往在一个国家开发，用来自多个法域的数据训练，并在全球范围内运行。这种跨国维度需要国际合作和监管协调机制，而这些机制目前仍处于起步阶段。

另一个相关的挑战涉及AI系统的持续演进。随着时间推移而学习和调整的模型（持续学习），可能表现出其原始开发者未曾预见的行为。这一特点引发了一些复杂的问题：开发者责任在时间上应延伸多久，以及在系统交付给运营者之后是否仍有必要持续监测。

我们认为，为AI构建适当的责任制度，需要在保护公民权利与促进技术创新之间取得平衡。过于严苛的规则可能抑制有益解决方案的发展，而缺乏适当的监管，则可能使公民在算法损害面前得不到保护。最有前景的路径，是采用以风险为基础的思路，使义务与潜在损害的严重程度以及系统的自主程度相称。

这一主题与LGPD与责任密切相关，我们已有专文论述。

这一主题与损害的民事责任密切相关，我们已有专文论述。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.