人工智能与社交媒体隐私：算法内容审核

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

社交媒体上的算法内容审核，在隐私、言论自由和个人数据保护方面引发了复杂的法律问题，这些问题在巴西乃至全球都备受关注。

算法内容审核的发展及其法律影响

如今，每天都有数十亿条内容发布在社交媒体上，审核如此海量内容的任务，也越来越多地落在人工智能系统身上。这些工具能在极短的时间内分析文字、图片和视频，决定哪些内容继续可见，哪些内容被删除、限制，或者在分发算法中被降低权重。从法律的角度来看，这样的局面是当下监管领域最大的挑战之一。

算法内容审核并不只是过滤明显违法的内容，例如儿童色情或宣扬恐怖主义的内容。它还延伸到许多灰色地带，比如政治言论、讽刺作品、对公众人物的批评以及有关健康的讨论。在这种情况下，自动化决策可能直接影响基本权利的行使，包括言论自由（《巴西联邦宪法》第5条第IX项）和获取信息的权利（第5条第XIV项）。当这些决策缺乏透明度、没有有效的申诉途径，也没有向用户公开的明确标准时，问题就会更加严重。

在巴西，《互联网民事框架》（第12.965/2014号法律）确立了互联网治理的基本原则，其中包括对隐私和个人数据的保护。然而，这部法律制定之时，人工智能在内容审核中尚未占据如今这样的核心地位。《通用数据保护法》（第13.709/2018号法律）则带来了重要的进步，尤其是其第20条规定，数据主体有权要求对完全基于个人数据自动化处理所作出的决定进行复核。考虑到算法内容审核必然涉及对用户个人数据的大规模处理，这一条款尤为重要。

隐私与用户画像：自动化审核背后隐藏的代价

人工智能系统要有效地审核内容，就需要数据，而且是大量的数据。平台收集的不仅是用户发布的内容，还有各种元数据，例如访问时间、地理位置、使用的设备、浏览记录、互动模式，甚至用户查看某条内容所停留的时间。这些信息汇集起来，就能构建出极为详细的行为画像，既用于内容审核，也用于广告的个性化投放。

从数据保护的角度看，算法用户画像引发了严重的担忧。《通用数据保护法》（LGPD）要求个人数据的处理遵循目的、适当性、必要性和透明度等原则（第6条）。当平台出于某一目的（例如改善用户体验）收集数据，又将其用于自动化审核系统时，就会产生关于目的偏离，以及是否需要针对每一项处理操作取得特定同意的正当质疑。

一个尤其敏感的方面是敏感个人数据的处理。这一类别包括种族或民族出身、宗教信仰、政治观点、工会会员身份、与健康或性生活有关的数据，以及基因或生物识别数据（LGPD第5条第II项）。审核算法经常需要解读直接或间接透露这类信息的内容。当人工智能系统分析一条涉及性取向、政治立场或宗教实践的内容，以判断其是否违反平台规则时，就必然在处理敏感个人数据，这需要有特定的法律依据和更严格的保护措施。

社交媒体上的算法内容审核，始终处于隐私保护、言论自由与用户数字安全三者相互拉扯的紧张地带。

我们还注意到，审核算法的不透明，使平台与用户之间出现了明显的信息不对称。在大多数情况下，内容被删除或账号被停用的用户，无从得知导致该决定的具体标准。这种透明度的缺失，不仅妨碍用户行使辩护权，也使监管机构难以开展监督。巴西国家数据保护局（ANPD）在这方面发挥着重要作用，但面对相关系统的技术复杂性以及平台的全球规模，它也面临着相当大的挑战。

国际监管格局及对巴西的启示

放眼国际，我们可以看到一些重要的监管动向，它们可能会影响巴西的相关讨论。欧盟通过了《人工智能条例》（AI Act），按风险等级对人工智能系统进行分类，并针对每一类别规定了具体义务。大型平台上的内容审核系统被视为高风险系统，因此需要承担严格的透明度、人工监督和影响评估义务。

同样来自欧盟的《数字服务法》（Digital Services Act，DSA），要求超大型数字平台开展系统性风险评估，其中包括与内容算法审核相关的风险。这些平台须就其审核做法提供详细的透明度报告，内容包括自动化决策的数量、错误率以及可用的申诉机制。这一监管模式建立在一个重要的前提之上：由人工智能进行的内容审核，不只是单纯的技术问题或企业经营问题，而是关乎公共利益的问题，需要适当的监管监督。

在巴西，关于数字平台和人工智能监管的讨论正在国会推进。第2338/2023号法案规定了巴西境内人工智能的使用，其中包含有关算法透明度、解释权和人工智能系统影响评估的重要条款。要补充LGPD和《互联网民事框架》已有的保护，一部完善的人工智能监管框架至关重要，它能够为应对算法审核带来的挑战构建更为完整的法律体系。

用户的权利与保护机制

面对这样的局面，用户了解自己的权利和现有的保护机制十分关键。LGPD第20条保障数据主体有权要求复核那些完全基于个人数据自动化处理、并影响其利益的决定。当算法审核导致内容被删除、账号被停用或发布内容的触达范围被缩减时，这项权利可以直接适用。

此外，《互联网民事框架》第19条规定，互联网应用提供者只有在收到具体的司法命令后，仍未采取措施使被认定为侵权的内容无法访问时，才须就第三方生成内容所造成的损害承担民事责任。这一规则被称为“司法性的通知—删除”（notice and takedown judicial），其设计初衷是保护言论自由；但平台往往在没有任何司法介入之前，就通过算法主动删除内容，这种做法使该规则引发了争论。

我们认为，要切实保护用户权利，需要多管齐下。首先，必须保证审核标准的透明，让用户了解适用的规则，以及作出限制性决定的理由。其次，应当有行之有效的申诉机制，包括对自动化决策进行人工复核的可能性。再次，平台在部署算法审核系统或对其作出重大修改之前，应当开展数据保护影响评估（依据LGPD第38条的规定）。

人工监督的作用

在算法审核的讨论中，争议最多的问题之一，是自动化与人工监督之间的平衡。我们承认，社交媒体的规模使得人工审查所有发布内容成为不可能。然而，这并不意味着应当放弃人工监督。从法律的角度看，更合适的模式是：人工智能作为辅助工具，标记可能存在问题的内容；而对基本权利有重大影响的决定（例如永久停用账号或删除新闻内容），则交由合格的人工复核。

这种“人在回路”（human-in-the-loop）的模式，既符合LGPD，也契合国际监管趋势。LGPD第20条第3款规定，国家主管机构可以开展审计，以核查个人数据自动化处理中是否存在歧视性因素。有大量研究表明，人工智能系统存在偏见，可能导致对不同社会群体、族裔群体或语言群体所产生内容的不平等对待，因此这一规定对算法审核而言尤其重要。

未来展望与均衡模式的构建

要对社交媒体上的算法审核加以规范，需要在多种宪法价值与正当利益之间取得微妙的平衡。一方面，我们需要打击违法内容，保护用户免受仇恨言论、虚假信息和其他形式的滥用；另一方面，我们也必须维护言论自由、隐私和个人数据保护。

我们认为，最有前景的路径是构建这样一种监管模式：它结合算法透明度义务、切实有效的异议与复核权利、与决定影响程度相称的人工监督、针对偏见与歧视的独立审计，以及平台、监管机构与民间社会之间的合作。监管的目的不应是消除算法审核，因为它在平台治理中发挥着必要的作用；而是要确保它在符合民主法治国家以及巴西公民基本权利保护的范围内运行。

我们注意到，技术的演进还将不断带来新的挑战。生成式人工智能系统、深度伪造（deepfakes）以及新型数字操纵手段，将需要灵活且具备技术依据的监管回应。在这种情况下，培养懂技术的法律专业人才，并在法学家、开发者和监管者之间搭建对话的平台，是构建一个更公正、更安全、更尊重基本权利的数字环境所必需的投入。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.