INSS (巴西国家社会保障局)的算法治理

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

算法已经在决定巴西部分社会保障福利的发放，而缺乏完善的治理机制，使数百万INSS参保人面临风险。

算法在社会保障决定中的不断渗透

近年来，巴西国家社会保障局经历了一场意义重大的数字化转型。过去完全依赖人工审查的流程，开始引入自动化决策系统，从申请的初步筛选，到福利的批准或驳回，都有涉及。这一变化带来了提高效率、缩短参保人等待时间的希望，同时也引发了关于透明度、公平性和问责制的根本性问题。

审视当前的情形，我们会发现，INSS的自动化并不局限于简单的事务性工作。信息系统会比对登记数据、核查劳动关系、计算缴费年限，在很多情况下，甚至在没有工作人员逐案审查的情况下就直接作出决定。这种算法决策模式虽然能够处理海量申请，却也带有固有的风险，必须通过完善的治理机制加以认识和缓解。

在这一语境下，算法治理指的是一整套原则、规范、流程和控制机制，用以指导INSS所使用的自动化系统的开发、实施与监督。缺少这样的治理架构，算法就如同黑箱一般运行：它作出的决定直接关系到退休人员、遗属抚恤金领取人以及处于弱势地位的劳动者的生计，而人们却无法切实地对其提出质疑，也无从了解其所采用的标准。

算法透明度与参保人的权利

算法治理的基本支柱之一是透明度。在社会保障领域，许多参保人收到驳回决定时，并不明白真正导致拒绝的原因。当驳回源于自动化处理时，这种不透明会更加严重，因为在不少情况下，就连负责审查的工作人员也无法准确说明系统究竟适用了哪些标准才得出这一结论。

《1988年联邦宪法》保障行政程序中的充分辩护权和对质权（contraditório，即当事人有权了解并反驳对方主张与证据的权利）。要让这些权利得到切实行使，参保人不仅要能够获知决定的结果，还要能够了解支撑该结果的逻辑。当算法拒绝发放某项福利时，公民有权知道系统考虑了哪些数据、适用了哪些规则，以及系统是如何得出“条件未满足”这一结论的。

因此，INSS的算法透明度包括：对所使用的模型作出清晰的记录，以通俗易懂的方式解释决策标准，并提供有效的渠道，让参保人能够对其认为有误的结果提出异议。缺少这些要素，自动化就会变成行使基本权利的障碍，颠倒了本应指导公共行政的逻辑：技术的存在是为了服务公民，而不是为了设置额外的障碍。

INSS的技术应当扩大人们获得社会保障权利的机会，而绝不能通过缺乏适当人工监督的自动化决定来限制这些权利。

我们还注意到，《通用数据保护法》(第13.709/2018号法律)确立了对仅基于个人数据自动化处理所作决定提出复核的权利。这一规定可直接适用于社会保障领域，因为它赋予参保人要求由人工重新评估算法决定的权利，从而确保自动化不会凌驾于公职人员的专业判断之上。

自动化系统中的偏见与歧视风险

我们密切关注的算法治理的一个关键问题，是歧视性偏见的风险。算法是基于历史数据构建的，而这些数据可能反映了巴西社会中早已存在的结构性不平等。如果INSS的某个自动化决策系统是依据再现歧视（性别、种族、地区或社会阶层方面的歧视）的模式进行训练或配置的，它就很可能延续甚至放大这些不公。

例如，农村劳动者和传统手工渔民历来难以证明其劳动关系和缴费情况。如果算法过度看重正式登记记录的连续性，就可能系统性地对这些群体不利，忽视非正规劳动的特点以及这些参保人在提供书面材料方面的困难。同样，数字基础设施较为薄弱地区的劳动者，也可能因系统要求只能通过线上方式办理而受到不成比例的影响。

对弱势群体的影响

在分析对弱势群体的影响时，我们发现，缺乏适当治理的自动化可能造成一种我们称之为“社会保障数字排斥”的现象。当流程转移到完全数字化、自动化的环境中时，难以使用技术的老年人、依赖无障碍功能却往往无法在INSS平台上获得这些功能的残障人士，以及身处偏远地区、网络连接不足的群体，都将处于明显的不利地位。

算法治理必须为这些群体纳入专门的保障措施，确保INSS的技术现代化不会加剧在获得社会保障福利方面的不平等。这包括保留线下现场服务渠道、实施无障碍界面，以及为无法与数字系统顺畅交互的参保人建立协助机制。

监管框架与未来展望

在监管层面，巴西在构建人工智能法律框架方面不断推进，但就算法在社会保障决定中的应用而言，仍存在明显空白。国会关于人工智能监管的讨论，除其他内容外，还涉及对高风险系统开展算法影响评估的必要性；INSS的决策系统因直接影响基本权利，属于这一类别。

《巴西人工智能战略》包含以人为本、不歧视和透明等原则。这些原则虽然较为笼统，却为制定更具体的规范、规制公共社会保障行政中算法的使用提供了基础。我们认为，专门针对INSS的行业性规范与总体框架同样重要，因为它能够兼顾巴西社会保障体系的特殊性。

对于INSS建立有效的算法治理，我们认为以下措施至关重要：设立常设的算法伦理委员会；规定在实施新的自动化系统之前必须提交影响报告；定期开展独立审计；并保证每一项算法决定都可由合格的人工工作人员复核。此外，参保人还应当能够获得清晰易懂的说明，了解算法如何影响了与其福利有关的决定。

民间社会与法律从业者的作用

在INSS构建完善的算法治理，并非公权力机关独有的任务。律师、公设辩护人、民间社会组织和行业团体，在监督自动化系统、维护受算法决定影响的参保人权利方面发挥着重要作用。这些主体的参与有助于发现缺陷、提出改进建议，并确保在算法的开发与修订过程中听取参保人的声音。

从事社会保障法的法律从业者，越来越需要了解INSS所用系统的技术原理，才能提供有效的法律协助。这并不意味着律师应当成为程序员，而是需要培养这样的能力：质疑自动化决定的逻辑，要求给出技术性说明，并在必要时向司法机关证明算法产生了不公正或带有歧视性的结果。

国际良好实践及对巴西的借鉴

考察国际经验，我们可以找到一些有价值的例子，为INSS实施算法治理提供指引。欧洲国家在《通用数据保护条例》(GDPR)和欧盟《人工智能法案》(AI Act)的影响下，已经针对公共服务中人工智能的使用制定了专门的框架。这些举措强调，风险评估应与自动化决定对公民权利的影响相称。

例如在荷兰，一起涉及社会福利欺诈检测算法系统的丑闻表明，缺乏适当的治理可能造成毁灭性的后果。该系统依据带有偏见的标准，将数千个家庭认定为欺诈者，导致了不当追缴，并使这些家庭陷入极端的社会弱势处境。该事件引发了严重的政治危机，也进一步说明，在社会保护体系中，必须对算法决定实行有效的人工监督。

对巴西的INSS而言，这些国际经验进一步表明了采取预防性做法的重要性。在严重问题出现之前就投入算法治理，要比等到数百万参保人已经受到错误的自动化决定影响之后再去补救有效得多（无论是在经济上还是社会层面，成本也都更低）。建立公开的算法登记册，由INSS记录所使用的系统及其各自的影响，将是朝这一方向迈出的切实一步。

这一话题与人工智能如何密切相关，我们已在专文中对此作了探讨。

为了便于您进一步阅读，您还可以参阅本所关于Meu INSS (巴西社保局线上服务平台)以及的文章。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.