司法领域的人工智能：算法在司法裁判中的应用

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能（IA）已经参与到巴西的司法裁判之中，了解算法如何影响司法体系，对于保障基本权利至关重要。

人工智能在巴西司法系统中的快速发展

巴西的司法体系正处于一场深刻的变革之中。法院采用基于人工智能的工具，早已不是对未来的设想，而是一个正在影响全国数百万件案件的现实。审视当前的状况不难发现，不少法院已经使用自动化系统来进行案件分流、诉状分类、起草裁判文书草稿，甚至协助确定刑罚以及计算社会保障福利。

巴西国家司法委员会（CNJ）在这一转型过程中发挥着核心作用，为司法领域负责任地使用人工智能技术制定了指导方针。CNJ 2020年第332号决议是一项重要的规范性里程碑，为这类工具的应用确立了伦理和技术方面的参数。在其确立的各项原则中，尤其值得一提的是算法透明、不歧视、数据治理，以及保持人类法官作为最终裁判者的自主地位。

可以看到，Victor（巴西联邦最高法院用于对具有普遍意义的议题进行分类）、Elis 和 Socrates（由各州法院开发）等系统，代表着技术成熟度的不同阶段。这些系统能在几分之一秒内处理海量信息，完成原本需要人工耗费数小时甚至数天的工作。然而，运行效率不应成为评价这些技术的唯一标准。

这一话题与自动驾驶车辆的监管直接相关，我们已有专文探讨。

这一话题与人工智能治理直接相关，我们已有专文探讨。

算法在司法裁判中如何运作

要了解人工智能对司法系统的实际影响，首先需要弄清楚这些算法在实践中是如何运作的。概括地说，应用于司法领域的人工智能系统运用自然语言处理（PLN）和机器学习（machine learning）技术，分析法律文本、识别裁判规律，并就程序上的处理方式提出建议。

其基本运作包含几个依次进行的步骤。首先，系统接收大量既往裁判作为训练基础。算法再从这些数据中找出反复出现的规律：哪些论点会导向特定结果，哪类诉求中哪些证据最为关键，类似的判决中通常确定多大金额。基于这些规律，系统生成建议，法官可以接受、修改或否决。

我们注意到，司法领域的自动化存在不同层次。最基础的层面上，人工智能只承担纯粹的行政事务，例如按案由对案件分类，或在各法庭之间自动分案。在中间层面，算法为例行性指令或标准化的中间裁定提供草稿。在最高（同时也最具争议）的层面，人工智能系统会起草完整的判决书草稿，包括说理部分和判决主文。

在这一背景下，区分事务性工作的自动化与裁判性工作的自动化至关重要。前者的益处几乎得到一致认可，而后者则引发了关于正当法律程序、裁判说理义务以及审判活动本质的深入争论。

预测分析与司法计量学

其中一个尤其值得关注的方向，是在司法领域使用预测分析。司法计量学（jurimetria）是将统计方法应用于法律研究的学科，随着能够估算各类诉讼胜诉概率的算法不断发展，这一学科又获得了新的动力。从理论上讲，律师和当事人可以依据某一法院或法庭过往的裁判记录，预判裁判走向。

人工智能为司法系统带来的效率，不能以牺牲宪法保障为代价，例如辩论权、充分辩护权，以及对裁判进行充分说理的要求。

然而，对这一应用进行批判性审视时，我们发现其中存在重大风险。预测分析可能形成反馈循环：如果律师依据算法的预测调整诉讼策略，而法官又使用以既往裁判训练出来的人工智能工具，那么系统就倾向于强化既有的模式，从而妨碍判例的发展，也妨碍新的解释视角的纳入。

在司法裁判中使用人工智能的风险与伦理挑战

将算法引入司法裁判过程，带来了一系列需要审慎对待的风险。首先也是讨论最多的，是算法偏见。人工智能系统是通过历史数据来学习的，如果这些数据反映了结构性的不平等（例如以往裁判中存在的种族、社会经济或性别差异），算法就倾向于复制甚至放大这些偏差。

国际上的经验可以作为警示。在美国，用于评估再犯风险的 COMPAS 系统（Correctional Offender Management Profiling for Alternative Sanctions）曾引发激烈争论，因为有研究表明，在类似情形下，该算法对黑人被告给出的风险评分，系统性地高于白人被告。这一案例说明，数字表面上的客观性可能掩盖着深层的歧视。

另一项核心挑战是算法的不透明性，通常被称为“黑箱”问题。许多人工智能系统采用深度学习（deep learning）模型，其内部的决策过程即便是开发者本人也难以解释。这与《联邦宪法》第93条第IX项所规定的司法裁判说理原则直接冲突。如果连法官都无法完整解释算法为何提出某一方案，又如何保证裁判得到了充分的说理？

我们还发现了司法独立被侵蚀的风险。当法官收到算法的建议时，会面临一种隐性的压力，倾向于予以采纳，在工作负担繁重的情况下尤其如此。所谓“自动化偏见”（automation bias），指的是人类过度信赖自动化系统建议的倾向，从而削弱了每一项裁判本应具备的批判性审查。

责任归属问题

一个值得特别关注的问题是：当借助人工智能作出的司法裁判对一方当事人造成不当损害时，责任应如何界定。如果算法给出了错误的裁判建议，而法官未经充分复核便予以采纳，责任是否完全由法官承担？如果错误源于模型训练中的缺陷，系统开发者是否也可能被追责？这些问题在巴西法律体系中尚无明确答案，尽管正在国会审议中的《人工智能法律框架》力图填补其中的部分空白。

监管与人工智能在司法系统中的未来

对司法领域使用人工智能的监管，是一个不断发展的议题。除了前面提到的CNJ 2020年第332号决议之外，我们还看到构建更全面规范框架的趋势日益明显。提出巴西《人工智能法律框架》的第2.338/2023号法案，将应用于司法领域的人工智能系统归为“高风险”类别，要求其满足更严格的透明度、审计和治理要求。

在国际层面，欧盟通过《人工智能法案》（AI Act，即欧盟人工智能条例），确立了以风险等级为基础的监管模式，这一模式已成为包括巴西在内的多个国家的参考。欧盟条例同样将用于司法行政的人工智能系统列为高风险，要求进行影响评估、提供详尽的技术文档，并实施有效的人工监督。

我们认为，对巴西而言，最有前景的路径是采用一种在创新与权利保护之间取得平衡的监管模式。这意味着，除其他措施外，需要：对司法系统所使用的算法进行定期审计，公布算法影响报告，保证当案件分析中使用了人工智能工具时当事人能够得知这一情况，并将最终的裁判权完全保留在人类法官手中。

我们认为，法律从业者的培养也需要与时俱进。法官、检察官和律师需要对算法的运作方式、统计偏差以及人工智能系统的技术局限具备基本的了解。缺乏这样的能力，不加批判地接受算法建议的风险只会更大。

对律师和当事人的实际影响

从实践角度看，人工智能在司法系统中的推进，对律师以及寻求司法救济的公民都带来了直接影响。对律师而言，了解这些技术已不再是可选项。理解案件分流算法如何运作的律师，可以更高效地组织诉状，确保核心论点能被自动化系统正确识别。

对当事人而言，最主要的关切是确保自己的权利不会因带有偏见或监督不足的算法裁判而受损。解释权（即了解人工智能工具是否以及如何影响了自己案件裁判的权利）是一项需要落到实处的保障。任何公民都不应在无法质疑算法标准和结果的情况下，让自己的诉讼命运由算法决定。

可以看到，这些技术的应用只会不断深化，而不会倒退。因此，律师在数字环境中积极维护程序性保障，监督机构持续开展监督，公民社会参与监管讨论，这些都是必不可少的条件，唯有如此，司法领域的人工智能才能兑现其提升效率的承诺，而不以牺牲它本应服务的公正为代价。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.