人工智能与隐私：推断信息与衍生数据

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能系统能够从看似无害的数据中推断出公民的敏感信息，这给巴西的隐私保护带来了新的法律挑战。

人工智能语境下的推断信息与衍生数据是什么

谈到个人数据保护，人们首先想到的往往是数据主体直接提供的信息：姓名、CPF (巴西自然人纳税人登记号)、住址、电话号码。然而，人工智能的发展带来了一类新的数据，对传统的隐私保护框架提出了挑战。我们所说的就是推断信息和衍生数据，即算法通过对既有数据进行交叉比对、统计分析和处理而生成的信息，数据主体从未主动提供过这些信息。

我们来看一个实际的例子：某数字平台收集了用户的浏览数据、购物记录和地理位置。单看这些信息，似乎都无关紧要。但是，一旦将它们输入机器学习模型，平台就可能推断出此人的健康状况、政治倾向、财务状况，甚至情绪状态。这些推断出来的数据并不是数据主体自己分享的，却成为其数字画像的一部分，并产生真实的、往往不为人知的后果。

要理解现行监管的边界，就必须区分提供的数据与衍生数据。提供的数据来源清晰，并且（至少在理论上）经过数据主体同意。衍生数据则产生于不透明的算法过程，其前提和结论，当事人本人很少有机会了解。这种不透明在数据控制者与数据主体之间造成了严重的信息不对称，使隐私权利难以得到有效行使。

从LGPD与巴西监管框架看推断信息的处理

《通用数据保护法》(LGPD，第13.709/2018号法律) 将个人数据定义为“与已识别或可识别的自然人相关的信息”。这一定义范围宽泛，因此只要推断数据能够识别数据主体，就可以被认定为个人数据。然而，LGPD并未专门规定人工智能过程所产生的衍生数据的特殊性，这就留下了相当重要的解释空白。

LGPD第20条赋予数据主体权利，可以就仅基于个人数据自动化处理而作出、并影响其利益的决定，要求进行复核。这一规定对推断信息问题尤为重要，因为许多自动化决策（授信、保险定价、简历筛选）恰恰建立在算法推断出的数据之上。但可以看到，这项权利在实践中面临显著障碍：数据主体首先得知道有人对自己的数据作了推断，然后才谈得上提出质疑。

目前正在国会审议的《人工智能法律框架》，试图弥补其中的一些空白。该草案对被视为高风险的人工智能系统规定了算法透明度义务和影响评估。如果按现行文本获得通过，该框架有望对衍生数据的生成和使用确立更明确的规则，要求人工智能系统的开发者和运营者记录其推断过程，以及这些过程对数据主体权利可能造成的影响。

我们也注意到，ANPD (巴西国家数据保护局) 同样关注这一主题。在其发布的文件和公开征询中，该机构表现出对个人数据概念作扩张解释的倾向，涵盖自动化过程所产生的衍生信息。这一立场与国际上扩大保护范围、以应对人工智能带来的新型数据处理方式的趋势是一致的。

算法推断给公民带来的具体风险

衍生数据带来的风险并非纯属理论。在经济的多个领域，算法推断已经对公民的生活产生了切实的影响。例如在保险领域，算法可以根据消费模式推断出既往健康状况，并以歧视性方式调整保费，而投保人甚至不知道有过这样的推断。在劳动力市场，自动化筛选系统可能依据统计相关性淘汰求职者，而这些相关性复制了历史上基于性别、种族或年龄的歧视偏见。

尤其令人担忧的一点是，错误的推断可能在系统中持续存在。当算法错误地对某人作出分类（例如给他贴上与实际不符的风险标签），这一分类可能扩散到其他系统和数据库，形成连锁反应，造成损害。数据主体不知道这些推断的存在，也就无从更正，由此陷入一种信息层面的不公。

算法能够从看似中性的信息中推断出敏感数据，这是当代对公民信息自决权最大的威胁之一。

另一项重要风险涉及敏感数据的推断。LGPD对揭示种族或民族出身、宗教信仰、政治观点、工会会员身份的数据，以及与健康或性生活有关的数据、基因数据或生物识别数据，给予特别保护。即便数据主体从未提供过这些信息，复杂的算法也可以从普通数据中推断出来。一个系统根据用户的浏览模式推断其宗教信仰，实际上就是在没有适当法律依据的情况下处理敏感数据，违反了法律规定的目的原则和必要性原则。

国际经验与巴西监管的发展方向

对衍生数据的法律应对并非巴西独有。欧盟通过《通用数据保护条例》(GDPR)，逐步确立了这样的认识：当推断信息能够识别数据主体时，即构成个人数据。欧洲各数据保护机构强调，GDPR规定的访问权同样涵盖推断数据，使数据主体不仅能够了解自己提供过的信息，还能了解算法由此得出的结论。

欧盟已经生效的专门针对人工智能的《人工智能法案》(AI Act)，采取基于风险的方法，并明确涵盖推断过程。被归类为高风险的人工智能系统（包括用于信贷、就业和获取基本服务决策的系统），必须满足严格的透明度、文件记录和人工监督要求。这一经验为巴西的监管讨论提供了宝贵的借鉴。

在美国，做法则较为分散，主要是行业性和各州层面的监管。一些州的立法在算法透明度要求以及拒绝自动化决策的权利方面有所推进。联邦贸易委员会 (Federal Trade Commission) 也对被认定为滥用或具有欺骗性的、基于推断的商业做法采取了行动。

就巴西的情况而言，我们认为，要为算法推断建立有效的监管框架，至少应考虑四大支柱：明确扩大个人数据的概念，使其涵盖衍生数据；就推断过程设立专门的透明度义务；强化对错误推断的更正和异议机制；以及为人工智能系统的开发者和运营者界定清晰的责任。

实际保护措施与专业律师的作用

面对这一局面，无论是组织还是个人，都需要对防范滥用性推断采取积极主动的态度。对于使用人工智能系统的组织，建议开展数据保护影响评估（即LGPD第38条规定的影响报告），并专门涵盖其系统的推断过程。这类评估应当梳理：进行了哪些推断、基于哪些数据库、出于什么目的，以及为保障数据主体权利采取了哪些保障措施。

对数据主体而言，行使LGPD规定的权利是最直接的保护手段。访问权（第18条第II项）允许数据主体向控制者索取其数据处理的相关信息，包括衍生数据。对自动化决策的复核权（第20条）则使数据主体可以对算法生成的分类和评分提出质疑。数字法和数据保护领域的专业人士，对于指导有效行使这些权利变得至关重要，他们能把复杂的技术概念转化为具体的法律策略。

专业律师在识别侵权行为、追究滥用算法推断者的责任方面发挥着核心作用。可以看到，随着公民逐渐意识到风险、监管日趋完善，这一领域对法律咨询的需求预计将显著增长。法律与技术的交汇，要求从业者能够同时与两个领域对话，既理解人工智能的技术机制，也理解指导其负责任使用的法律原则。

最后我们想指出，关于推断信息和衍生数据的讨论并不止于数据保护领域。它还关系到算法公正、不歧视和数字环境中的人格尊严等更广泛的问题。要构建一个尊重基本权利的人工智能生态系统，需要立法者、监管者、开发者、公民社会和法律从业者共同努力。

这一问题与健康数据密切相关，我们已在专文中对该主题进行了探讨。

这一问题与位置数据密切相关，我们已在专文中对该主题进行了探讨。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.