信贷与小额金融系统中的人工智能监管

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能如今已在巴西决定谁能获得贷款，而缺乏专门的监管规定，使小额金融领域数以百万计的弱势消费者面临风险。

人工智能在信贷发放中的快速普及

近年来，金融机构评估信贷申请的方式发生了深刻变化。过去完全依赖人工分析师的决策，如今越来越多地由人工智能模型主导：它们处理海量数据，将消费者划分为不同的风险等级。这一变化为银行、金融科技公司和信用合作社带来了显而易见的运营收益，同时也带来了一个充满法律空白与不确定性的局面，值得我们认真审视。

在小额金融领域，这一现实更为敏感。我们谈论的，是长期以来难以进入正规金融体系的人群：非正规就业的劳动者、个体微型创业者、家庭农户以及城市边缘社区的居民。当算法接手审批或拒绝这些人的小额贷款时，一旦出现失误或带有歧视性的偏差，其后果会被不成比例地放大。同样一个算法错误，对大企业家来说只是一次不便；对一位微型创业者而言，却可能意味着生意就此终结。

可以看到，巴西的数字信贷市场在近年来快速增长，推动力来自Pix（巴西即时支付系统）的普及、开放金融（open finance）的推进，以及金融服务类应用的广泛使用。在这一生态中，人工智能模型所使用的数据，既包括传统的身份与登记信息，也包括从社交网络、浏览习惯和地理位置中收集的行为信息。随之而来的问题十分明确：在信贷决策中收集和使用这些数据，法律的界限在哪里？

巴西现行法律框架及其空白

审视现行规范体系可以发现，巴西目前尚无专门规范人工智能且已生效的法律，尽管第2338/2023号法案已在国会进入较为靠后的审议阶段。该法案确立了在巴西开发和使用人工智能的一般原则，并将自动化信贷系统归入“高风险”类别，这意味着需要更高的透明度和人工监督。然而，在该法案最终获得通过并出台配套规定之前，我们只能依靠一系列零散的规范，它们合在一起，只能为消费者提供部分保护。

《通用数据保护法》（第13.709/2018号法律）是目前这一领域最主要的保护工具。其第20条保障数据主体有权要求复核完全基于个人数据自动化处理作出的决定，其中包括用于确定信用画像的决定。这一规定至关重要，但在实践中存在局限：许多消费者并不了解自己的这项权利，而金融机构也常常以商业秘密为由，拒绝披露其算法所采用的标准。

在金融监管层面，巴西中央银行（Banco Central do Brasil）发布了关于网络安全政策的第4.893/2021号决议，以及关于云端数据处理和存储服务外包的第4.949/2021号决议。而国家货币委员会（Conselho Monetário Nacional）现行的信贷发放标准，则是在算法出现之前的时代制定的。因此我们认为，技术创新的速度与监管者的应对能力之间，存在明显的规范滞后。

《消费者保护法》（第8.078/1990号法律）同样提供了重要依据，尤其是其中关于滥用行为以及获得充分信息的权利的规定。当消费者被自动化系统拒绝，却没有得到任何可以理解的拒绝理由时，就存在违反消费者法透明原则和客观诚信原则的可能。

小额信贷中的算法偏差与歧视

我们发现，在信贷发放中使用人工智能最严重的问题之一，是对历史性歧视的复制和放大。算法从过往数据中学习，而当这些数据反映了结构性的不平等（种族、性别、地区方面）时，系统往往会在今后的决策中延续这些不平等。在小额金融领域，这种风险尤为突出。

缺乏适当监督的信贷决策自动化，会把历史上的不平等变成算法造成的排斥，而受影响最深的恰恰是最需要获得信贷的人。

以将邮政编码（CEP）或居住社区作为预测违约的变量的模型为例。从技术角度看，这种做法似乎是中立的，但在城市隔离现象如此明显的巴西，它实际上成了种族和社会阶层的代理变量。一位来自边缘社区的居民，即使还款记录无可挑剔，得到的评分仍可能低于财务状况相近、居住在高档街区的居民。就这一问题的分析而言，这种做法构成了《联邦宪法》和反歧视立法所禁止的间接歧视。

在小额金融领域，服务对象本身的特点使问题更加严重。非正规的微型创业者往往无法按传统方式提供收入证明，没有长期的银行往来记录，也拿不出实物担保。当算法主要用传统银行体系客户的数据进行训练时，往往会把这类人群归为高风险，而不论其真实的偿还能力如何。这是一个悖论：本应让信贷更普惠的工具，最终却加高了准入的门槛。

性别问题也值得在这一讨论中特别关注。国际数据显示，在小额信贷业务中，女性创业者的违约率与男性相当甚至更低，但在自动化系统中得到的条件却往往不那么有利。当与性别相关的变量（如经济活动类型、收入区间或婚姻状况）影响预测模型时，就可能产生一种人工操作者难以察觉的系统性歧视。

算法透明与获得解释的权利

要使信贷系统中的人工智能监管真正有效，一个关键支柱是获得解释的权利。当消费者的信贷申请被自动化系统拒绝时，我们认为，他有权以通俗易懂的语言了解究竟是哪些因素决定了这一结果。这项权利不止于笼统地告知“画像不符”或“评分不足”，而这类做法在巴西市场上仍然十分普遍。

不过，金融机构对算法透明提出了一些合理的异议。人工智能模型意味着在研发上的大量投入，详细公开其参数，可能损害企业的知识产权，也可能让欺诈者更容易操纵系统。我们承认这确实是一个现实的两难，但我们主张，透明与知识产权保护是可以兼顾的。

在业内看来，最有前景的方式是所谓的“分层可解释性”。第一层，向消费者提供对决定产生影响的主要因素（无论正面还是负面）的简明说明。第二层，经正式申请后，金融机构提供更为深入的技术细节。第三层面向监管机构和司法机关，开放模型的完整参数，用于审计和监督。这样的结构，在消费者的知情权与机构的商业秘密保护之间取得了平衡。

在小额金融领域，透明还有一层现实意义：了解被拒原因的消费者，可以采取措施改善自己的信用状况。如果系统不作任何解释就直接拒绝贷款，就会延续金融排斥的循环，这与政府制定的小额信贷政策的目标背道而驰。

监管路径与未来展望

考察国际经验，可以为巴西的讨论找到重要的参照。欧盟通过了《人工智能法案》（AI Act），将信用评分系统归为高风险系统，并规定了严格的影响评估、技术文档和人工监督义务。在美国，《平等信贷机会法》（Equal Credit Opportunity Act）和《公平信用报告法》（Fair Credit Reporting Act）规定了不歧视和透明的义务，这些义务同样适用于算法决策，不过在人工智能背景下对这些规定的执法仍在发展之中。

针对巴西的情况，我们建议，信贷与小额金融系统中的人工智能监管至少应包含五项基本内容。第一，在部署新模型之前，必须进行算法影响评估，包括对潜在歧视性偏差的分析。第二，保障所有受自动化决定影响的消费者，都有权获得通俗易懂的解释。第三，保留有效的渠道，对受到质疑的算法决定进行人工复核。第四，对运行中的模型定期开展独立审计，并特别关注公平性指标。第五，针对歧视性或错误的算法决定所造成的损害，建立明确的民事和行政责任机制。

具体到小额金融领域，我们认为，监管应当考虑金融机构（掌控算法的一方）与小额贷款借款人（往往属于弱势群体）之间力量的不对称。在被指控存在算法歧视的案件中实行举证责任倒置，以及推行数字金融教育项目，都有助于平衡这一关系。

我们的结论是，对信贷系统中人工智能的监管，并不是创新的障碍，而是创新真正带来普惠成果的前提。在小额金融领域，信贷是促进社会变革的工具，确保算法公正、透明、负责地运行，是一项不容拖延的要求。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.