人工智能与在线调解和协商（ODR）

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能正在改变在线调解和协商的方式，同时带来新的监管挑战，法律从业者和立法者需要立即予以关注。

融入人工智能的ODR平台的发展

在线争议解决，简称ODR（Online Dispute Resolution），早已不再是遥远的设想，而是成为巴西乃至国际司法体系中一项成熟的现实。回顾这些平台近年来的演变可以发现，人工智能工具的引入带来了质的飞跃：冲突如何被管理、分流，在许多情况下又如何无需传统司法介入便得到解决，都因此发生了明显变化。

配备人工智能的ODR平台可以在多个环节发挥作用。自然语言处理算法能够解读起诉状，按性质和复杂程度对争议分类，依据类似先例提出和解金额建议，甚至在当事人之间开展自动化协商的初步环节。在巴西，国家司法委员会（Conselho Nacional de Justiça）一直鼓励采用技术方案来缓解司法系统的压力，多个私营和公共平台也已在调解与协商流程中不同程度地引入了智能自动化。

可以看到，这一变化并不局限于消费纠纷。家事法、债务催收、物业管理冲突，乃至复杂程度较低的劳动争议，都已出现由人工智能辅助调解的实践。其规模化潜力十分巨大：人类调解员一次只能主持一场调解，而自动化系统可以同时处理成千上万场协商，持续调整方案，并不断找出双方的共识点。

巴西的监管框架与规范空白

审视巴西针对在线调解和协商中使用人工智能的监管现状，会发现这是一套由多项规范拼成的“马赛克”：这些规范虽然重要，却尚未为这一类型提供专门而完整的规制框架。《调解法》（第13.140/2015号法律）确立了调解的一般原则，包括中立性、意思自治和保密性，但它制定于人工智能工具大规模普及之前，并未明确回应这些技术带来的挑战。

《人工智能法律框架》在国会审议期间，围绕算法治理展开了激烈辩论，其中对人工智能系统的透明度、可解释性和问责作出了一般性规定。不过，要将其适用于争议解决这一特定场景，还需要审慎解释。有一点值得分析：人工智能监管与程序规范的交叉地带形成了若干不确定区域，必须正视——当算法提出和解金额建议时，这一建议是否构成一项决定性行为？因算法偏见而产生的不公正结果，应由谁负责？

CNJ第358/2020号决议规范了司法机关为解决冲突而创建技术方案的活动，承认了数字平台的正当性，这是一项进步。然而，其条款并未详细规定这些平台所用人工智能算法的技术要求，例如自动化决定可解释性的最低标准，或算法审计的规程。这一规范空白令人担忧，因为不透明的系统可能复制并放大结构性不平等，而当事人乃至系统运营者自身都未必察觉。

对在线调解和协商平台中的人工智能进行监管，需要在技术创新与基本程序保障之间取得平衡，尤其要保障当事人了解自动化决定是如何得出的权利。

在国际层面，联合国国际贸易法委员会（UNCITRAL）和欧盟已经出台了有关ODR的指引，并逐步纳入对人工智能的关切。例如，欧盟《人工智能法案》（AI Act）将用于司法管理的人工智能系统归为“高风险”，并要求其满足严格的合规条件。这一思路为完善巴西的监管提供了宝贵的比较参照。

算法透明度与程序保障

在人工智能与ODR的交汇处，最敏感的问题之一就是算法透明度。参与传统调解时，无论是面对面还是通过视频会议，我们都可以观察调解员的行为，质疑其建议，并理解所提方案背后的思路。而在自动化环境中，这种互动方式发生了根本变化。如果算法建议甲方接受某一特定金额作为和解条件，这一建议是依据什么标准形成的？当事人有权知道。

可解释性原则既贯穿于《通用数据保护法》（LGPD）（第20条涉及自动化决定），也贯穿于有关人工智能监管的讨论之中。该原则要求系统能够对其决策过程作出易于理解的说明。在ODR情境下，这意味着，凡是利用人工智能建议和解方案、为争议排序或评估风险的平台，都应当能够用通俗的语言说明影响每一项建议的因素。

可以看到，作为调解基石的保密原则，在当事人数据被用于机器学习系统时面临额外挑战。如果以以往成千上万次调解的信息来训练预测模型，如何确保敏感数据不会被间接泄露，又如何确保歧视性模式不会被带入模型？遵守LGPD要求，对这些数据的处理必须具备适当的法律依据、明确的特定目的，并采取可靠的安全措施。

另一个值得强调的方面是知情同意。使用含有人工智能组件的ODR平台的当事人，必须被清楚告知技术在程序中的作用：哪些决定是自动作出的，哪些只是由算法辅助的，以及在哪些环节能够保证人工介入。这些信息应当清晰、事先地提供，而不是埋没在几乎无人阅读的冗长使用条款之中。

算法偏见与诉诸司法的权利

在将人工智能应用于在线调解和协商时，一个核心关切是算法偏见及其对诉诸司法的影响。人工智能系统以历史数据训练而成，而这些数据不可避免地反映了现实中存在的社会、经济和地区不平等。如果模型学到涉及某类社会经济背景的争议往往以较低金额达成和解，它就可能系统性地向具有相似特征的当事人建议更低的金额，从而延续这种差距。

值得分析的是，在巴西的背景下，这一风险尤为严重，因为深层的结构性不平等可能被编码进训练数据集之中。若ODR平台使用人工智能却缺乏恰当的偏见检测与纠正机制，反而可能加剧调解本应帮助缩小的不对等。行业监管需要确立强制性的偏见审计要求，通过定期测试评估系统结果在不同群体之间是否存在不合理的差异。

与此同时，也应当承认，人工智能具有显著扩大诉诸司法渠道的潜力。自动化ODR平台可以服务偏远社区，在非工作时间运行，支持多种语言，并大幅降低解决冲突的成本。对于金额较小的争议，传统诉讼的成本与预期收益相比不成比例，自动化调解可能是唯一可行的解决途径。监管面临的挑战在于，既要获取这些益处，又不牺牲基本保障。

人工智能在ODR领域行业监管的前景

展望巴西在线争议解决中人工智能监管的未来，有几项方向被认为至关重要。首先，需要采取与风险相称的监管思路。并非ODR中所有的人工智能应用都具有同等的敏感度：协助填写初始表格的聊天机器人，与真正提出和解条款或评估主张是否成立的系统，所需的管控并不相同。

其次，主张为使用人工智能的ODR平台建立行业认证标准。这些标准应当涵盖算法透明度要求、独立审计规程、对自动化决定的异议机制、数据保护政策，以及能够检验结果公平性随时间变化的绩效指标。CNJ可会同数据保护机构和可能设立的人工智能监管机构，在司法系统范围内牵头推进这一举措，可谓顺理成章。

再次，在程序的关键环节保障有实质意义的人工介入，被认为必不可少。在没有任何人工监督的情况下实现调解的完全自动化，会引发伦理和法律上的质疑，而现有技术尚无法令人满意地加以解决。由人工智能充当人类调解员的辅助工具（增强其分析能力并提高事务性工作的效率）的混合模式，无论从监管角度还是实践角度，似乎都更为合适。

最后，调解员和协商员的培养需要更新，纳入数字能力以及对算法运行方式的基本理解。在ODR平台工作的专业人员应当能够批判性地评估人工智能生成的建议，识别可能的偏差，并在必要时介入。监管可以而且应当鼓励这种能力培养，并将其作为在技术辅助的争议解决环境中执业的条件。

这一主题与在线调解平台与冲突直接相关，我们另有专文探讨。

这一主题与Cookie与在线追踪直接相关，我们另有专文探讨。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.