人工智能与审计法院：公共支出的算法审计

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

巴西各级审计法院（Tribunais de Contas）开始运用人工智能审计公共支出，开启了算法监督的新时代，有望改变巴西的外部监督格局。

审计法院算法审计的背景

巴西公共行政正处于转型期。审计法院（Tribunais de Contas）是宪法设立的机关，负责对各联邦实体的会计、财务和预算进行监督。如今它们面临一个日益严峻的挑战：国家机器产生的数据量早已远远超出人工分析所能承受的范围。在这样的背景下，人工智能成为扩大公共支出审计的覆盖范围、加深审计深度的战略性工具。

回顾审计法院的传统运作方式，不难发现监督工作向来依赖抽样。一个市在一个财政年度内会产生成千上万份合同、承诺拨款（empenho）、核实（liquidação）和付款记录，审计人员只能挑选具有代表性的部分进行详细审查。这种做法在方法上固然成立，却留下了明显的漏洞：有些违规行为之所以未被发现，仅仅是因为相关文件没有被抽入样本。

算法审计带来了范式的转变。基于人工智能的系统不再只检查数据全集中的一小部分，而是能够处理全部可用信息，识别出人工分析难以察觉的异常模式、统计偏差和风险指标。需要说明的是，这种海量处理能力并不取代人类审计员，而是大幅提升其工作效能，使专业人员能把精力集中在真正需要深入调查的案件上。

人工智能如何应用于公共支出监督

要了解算法审计的实际运作，就需要看一看其中涉及的各个技术层面。整个流程始于数据的采集，数据来源包括公共管理系统、透明度门户网站、登记数据库和数字化文件，既有结构化数据，也有非结构化数据。自然语言处理算法从合同、招标公告和承诺拨款单据中提取相关信息，机器学习模型则对这些信息进行分类和关联分析。

在分析层面，系统运用异常检测技术，找出偏离预期模式的交易。例如，算法可以标记出以下情形：采购价格明显高于同一地区类似招标的中位价格；合作供应商与公职人员存在股权关联；或者出现拆分支出的模式，暗示有人试图规避法律规定的免招标额度上限。

另一个重要方面是网络分析。图算法可以描绘自然人、法人与公职人员之间的关系，揭示隐藏的关联，这些关联可能表明存在利益冲突、量身定制招标或形成串通卡特尔。对这些网络进行大规模分析时，肉眼无法察觉的模式便会清晰浮现：共用地址、股东或会计师的空壳公司，轮流中标的供应商，或者系统性地批准有利于特定企业集团的支出的公务人员。

算法审计并不排除人的判断，而是放大人的判断，让审计员能够审查全部公共支出，而不必仅仅依赖抽样。

预测分析进一步丰富了这套技术手段。利用已确认违规行为的历史数据训练的模型，可以为新的交易打出风险分值，从而为审计员确定工作的优先顺序。需要指出的是，这种基于风险的方法能让人力资源得到更高效的配置，而对审计发现的情境化解读以及正式审计程序的开展，仍然离不开人力。

算法审计面临的法律与监管挑战

将人工智能引入外部监督流程，引发了一系列复杂的法律问题，而巴西法律体系对此尚无专门的规范。首要挑战涉及算法透明度。当人工智能系统将某项支出标记为违规时，被审计的公共管理者有权了解作出这一分类所依据的标准。正当程序原则和充分辩护权要求算法作出的决定（或建议）必须可以解释。

在这一点上，效率与透明度之间存在张力。较为复杂的深度学习（deep learning）模型往往像“黑箱”一样运行，结果高度精确，却难以解释；较为简单、可解释的模型则可能为了透明度而牺牲部分准确度。我们认为，在公共监督领域，可解释性并非可有可无：它是直接源自对抗辩论原则和行政行为说明理由原则的宪法性要求。

个人数据保护问题同样值得关注。算法审计系统不可避免地要处理公职人员、供应商和公共政策受益人的敏感信息。《通用数据保护法》（LGPD）对公权力机关处理数据作出了专门规定，要求具备适当的法律依据、明确的目的以及相称的安全措施。审计法院需要证明其人工智能系统所进行的数据处理符合这些要求，在监督的公共利益与数据主体的隐私权之间取得平衡。

另一项监管挑战涉及算法错误的责任归属。如果人工智能系统出现假阳性，把一笔合法支出标记为违规，那么对于被无端调查的公共管理者所遭受的损害，应当由谁负责？我们的分析认为，这一问题需要建立治理机制，设定明确的人工核验规程，确保在任何法律后果源自算法发现之前，都先经过人工验证。

巴西的实践经验与前景

巴西多个审计法院已经着手将人工智能引入工作流程。我们观察到，这些实践在成熟度和范围上各不相同，既有针对特定任务的试点项目，也有一体化的数据分析平台。一些审计法院使用软件机器人（RPA）自动采集公共数据库中的信息并进行交叉比对，让审计员从重复性工作中解放出来；另一些则在构建预测模型，用以评估合同和招标中出现违规的风险。

联邦审计法院（TCU）已成为这一领域的标杆，投入建设创新实验室，并与研究机构合作开发基于数据的解决方案。在州和市一级，类似的举措也在逐步展开，只是资源相对有限。需要说明的是，审计法院之间在技术和方法上的合作共享，是推广这些做法的关键因素，既能避免重复投入，又能降低实施成本。

还有一点值得强调，就是技术人员的能力培养。算法审计并不要求审计法院的每一位工作人员都成为数据科学家，但要求他们对人工智能系统的运作方式、潜力和局限具备基本的认识。审计专业人员需要培养相关能力，以解读算法结果、质疑模型的前提假设，并识别训练数据中可能存在的偏差。

与其他监督机构的整合，则进一步扩大了算法审计的潜力。当审计法院的数据与检察院、总审计署以及各行业监管机构的信息相互交叉比对时，发现违规行为的能力会成倍提高。我们的分析认为，这种整合不仅需要互操作性的技术方案，还需要通过制度安排来明确责任、信息流转和数据共享的规程。

算法治理与外部监督的未来

人工智能在公共支出监督中的不断推进，使得为审计法院构建专门的算法治理框架成为当务之急。我们认为，这一治理至少应当涵盖四个方面：透明度（对所用算法及决策标准予以记录）、问责（明确系统监督及其结果的责任归属）、公平（防止并纠正可能对特定管理者或地区造成不公正歧视的算法偏差）以及安全（防范系统被操纵，并保障数据完整性）。

算法审计的伦理层面同样需要思考。以历史数据训练的人工智能系统可能复制带有偏向的监督模式，把审查集中在某些地区或某类管理者身上，而忽视其他对象。需要指出的是，对审计算法本身进行审计是不可回避的必要之举：定期复核机制、偏差测试和影响评估，都应纳入外部监督所用人工智能系统的整个生命周期。

未来的监督将越来越趋于持续化，而不再是阶段性的。人工智能系统使公共支出的实时监测成为可能，不必等到财政年度结束后再审计，而是通过发出早期预警，在违规行为固化之前及时纠偏。从被动应对转向主动预防，这一范式转变有望为国库节约可观的资金，并提升公共管理的廉洁水平。

我们的分析认为，审计法院要成功实施算法审计，取决于技术创新与法律保障之间的微妙平衡。人工智能所承诺的效率，不能以牺牲被管理者的基本权利或审计法院的制度正当性为代价。这条道路需要在技术和能力建设上持续投入，需要适当的监管框架，更重要的是，需要一种制度文化：既乐于拥抱数字化转型，又不忘共和制下公共支出监督所依据的价值。

这一主题与框架与检查清单直接相关，我们已在专门的文章中作过探讨。

为方便您进一步阅读，也请参阅本所关于算法透明度的文章。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.