人工智能与消费者权益保护：防范滥用性商业行为

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能已经在影响消费、信贷和客户服务方面的决策，了解针对滥用性商业行为的保护机制，对每一位消费者都至关重要。

人工智能在消费关系中的快速渗透

如今，人工智能系统几乎渗透到了企业与消费者之间关系的每一个环节。从数字平台上的个性化推荐，到信贷的自动化审核，再到客服聊天机器人和动态定价，算法在巴西消费者日常生活中的存在感越来越强。这一变化带来了毋庸置疑的好处，比如服务更高效、体验更个性化，但同时也带来了新的风险，法律体系必须认真对待，并切实加以应对。

审视当前的局面，我们会发现，许多消费者甚至不知道自己的商业互动是由自动化系统居中完成的。算法的不透明性，使信息不对称比消费关系中传统意义上的不对称更加严重。经营者原本就在技术和经济上占据优势，如今又掌握了能够处理海量个人数据的工具，可以借此引导消费行为、对人群进行细分，在更严重的情形下，还可能实施《消费者保护法典》（Código de Defesa do Consumidor）所认定的滥用性行为。

在这样的背景下可以看出，要在人工智能系统面前保护消费者，并不一定需要建立一套全新的法律框架。1990年颁布的《消费者保护法典》（CDC）确立的原则足够宽泛，能够涵盖新技术：客观诚信、透明、禁止滥用性行为，以及经营者的无过错责任（responsabilidade objetiva）。难点在于，如何结合算法技术的特殊性来解释和适用这些原则，确保创新不会沦为侵害权利的工具。

人工智能放大的滥用性商业行为

《消费者保护法典》第39条规定的滥用性行为，在人工智能系统介入之后有了新的表现形式。动态定价（或称个性化定价）就是争议最多的例子之一。算法可以根据消费者的画像实时调整价格，考虑的变量包括地理位置、浏览记录、所用设备，甚至对购买紧迫程度的估算。如果这种做法导致同一商品或服务出现没有正当理由的价格差异，就可能被认定为滥用性歧视。

另一个令人担忧的现象是所谓算法式的“暗黑模式”（dark pattern），即借助人工智能设计数字界面，诱使消费者做出本不会在自由、知情的状态下做出的决定。具体包括：自动把商品加入购物车，故意增加取消订阅的难度，展示虚假的稀缺信号（“仅剩2件”），以及操纵选项的展示顺序，把消费者引向对经营者更有利可图的选择。这些做法直接违背了客观诚信原则和获得充分信息的权利。

在信贷和保险领域，同样存在不容忽视的风险。自动化评分系统可能复制并放大训练所用历史数据中存在的歧视性偏见。于是，消费者可能被拒绝授信，或者只能得到不利的条件，原因并不是其真实的财务能力，而是他属于算法在统计上与较高违约率相关联的某个人口群体。这种算法歧视往往连消费者本人都察觉不到，它不仅违反CDC，也违反《联邦宪法》和《通用数据保护法》（Lei Geral de Proteção de Dados）。

保护消费者免受人工智能滥用性行为的侵害，不需要重新发明法律，而是要把诚信、透明和无过错责任这些早已确立的原则，坚定地适用于算法世界。

自动化的消费者服务系统同样值得关注。当企业完全用聊天机器人取代人工客服，而这些机器人又无法处理复杂的诉求时，就等于为消费者行使权利设置了人为的障碍。需要投诉、申请取消服务或行使反悔权的消费者，可能被困在自动化的循环里，始终得不到任何有效的解决，这就构成了阻碍权利行使的滥用性行为。

人工智能法律框架与消费者保护

巴西正在推进专门的人工智能监管框架，国会中已有多项法案在审议，旨在为人工智能系统的开发和使用确立原则、权利和义务。无论立法进展到哪一步，现行规范中已经有可适用于算法场景下消费者保护的工具。CDC仍然是这一保护体系的主干，同时由LGPD（第13.709/2018号法律）加以补充，该法中有明确与此议题相关的规定。

LGPD第20条尤其值得一提：它保障数据主体有权申请复核那些仅基于个人数据自动化处理作出、并影响其利益的决定。这包括与个人画像、职业画像、消费画像、信贷画像或人格特征有关的决定。把这一规定与CDC所规定的各项权利结合起来，就构成了一套稳固的保护体系：消费者有权知道某项决定是由算法作出的，有权了解所采用的标准，也有权对结果提出异议。

使用人工智能的经营者所应承担的民事责任，适用CDC第12条和第14条规定的无过错责任制度。也就是说，经营者对其自动化系统造成的损害承担责任，无论其有无过错。如果定价算法实施了滥用性的价格，如果评分系统以歧视性的方式拒绝授信，或者聊天机器人妨碍了消费者行使权利，经营者就要对造成的损害后果负责，即使并非有意设定了那样的行为模式。系统的技术复杂性不能成为免责事由。

我们认为，算法透明原则是这场讨论中的一根基本支柱。消费者有权以清晰、易懂的方式获知自己何时正在与自动化系统交互、哪些个人数据被用于算法决策，以及这些决策遵循哪些总体标准。这种透明并不一定意味着公开算法的源代码（那可能与商业秘密相冲突），但要求经营者能够用通俗易懂的语言解释系统的总体逻辑。

算法时代的消费者维权途径

面对人工智能系统实施的滥用性行为，巴西消费者有多种维权途径。最先想到、也最便捷的，是向消费者保护机构投诉，例如各州和各市的Procon（消费者保护局），以及Consumidor.gov.br平台。这些渠道可以在消费者与经营者之间进行调解，并且通过汇集投诉，帮助发现滥用行为的规律，从而可能引发集体诉讼或行政程序。

在司法层面，个人诉讼和集体诉讼仍然是不可或缺的工具。检察院（Ministério Público）、公设辩护院（Defensoria Pública）以及消费者权益保护协会，都可以提起公益民事诉讼（ação civil pública），以制止影响消费者群体的滥用性行为。我们认为，这一途径在人工智能场景下尤为重要，因为算法行为往往同时波及大量人群，使集体救济比个人救济更为有效。

CDC第6条第VIII项规定的举证责任倒置，在涉及人工智能的纠纷中尤其重要。当消费者主张自己遭到了算法歧视或自动化的滥用性行为时，要求其从技术上证明系统的内部运作是不合理的。应当由经营者来证明其算法在法定参数范围内运行、没有无正当理由地实施歧视，并且尊重消费者权利。这种举证责任的分配，与消费者在面对不透明系统时所处的信息弱势地位是相一致的。

此外，建议消费者主动采取一些保护措施，例如仔细阅读隐私政策（尤其是涉及自动化决策的部分），定期行使LGPD规定的各项权利（查阅、更正和删除数据），通过截图和记录留存与自动化系统的交互证据，以及在不同设备和不同账户画像下比较价格和条件，以发现可能存在的歧视。

消费关系中人工智能监管的前景

关于人工智能的监管讨论正在全球范围内推进，巴西也顺应这一趋势，越来越关注其中的消费者保护层面。欧盟《人工智能法案》（AI Act）的经验提供了重要参照，特别是按风险等级对人工智能系统进行分类，并据此施加与风险相称的义务。直接影响消费关系的系统，例如信贷评分和个性化定价系统，往往会被归入高风险类别，从而需要承担更严格的透明、人工监督和影响评估义务。

就巴西的情况来看，国家消费者秘书处（Senacon）和国家数据保护局（ANPD）在监管算法滥用行为方面发挥着相互补充的作用。未来几年，这两个机构的协同行动预计会进一步加强，包括出台关于在消费关系中使用人工智能的专门指引、开展算法审计，以及对通过自动化系统侵害消费者权利的经营者实施处罚。

我们认为，巴西的人工智能监管必须采取兼顾创新与保护的思路。算法技术如果以合乎伦理、透明的方式使用，可以让消费者受益，提供更个性化、更高效、更易获得的服务。需要遏制的并不是人工智能本身，而是将其工具化，用于损害消费者、侵犯其决策自主性或延续没有正当理由的歧视的做法。有效的监管应当激励企业以负责任的方式开发和使用人工智能，同时在权利受到侵害时，确保有切实有效的救济机制。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.