深度伪造与人工智能在巴西：确立法律框架刻不容缓

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

未经同意、由人工智能生成的私密影像大量泛滥，暴露出巴西法律体系中一个危险的空白。现在，是时候讨论第PL 2338/2023号法案提出了什么，又还缺少什么了。

这起事件以具体的方式印证了法学界与研究者多年来的警示：技术以指数级的速度突飞猛进，法律却步履蹒跚、充满不确定。

所谓的深度伪造（deepfakes）——由人工智能生成或篡改、用以模拟真人样貌或声音的图像、视频或音频——如今已构成对人的尊严、名誉和隐私的切实威胁，这一点有据可查。当所生成的内容具有性的性质时，伤害便愈发深重：我们面对的正是被称为深度裸照（deepnude）的现象，它能在未经被拍摄者同意的情况下，把任何一张无害的照片变成伪造的色情材料。

法律的空白及其后果

其实际后果是，受害者在及时获得司法救济方面面临重重困难。在任何下架裁定作出之前，内容早已扩散开来；而无论是开发者、平台还是用户，追究相关主体责任的问题始终悬而未决。

第PL 2338/2023号法案与立法回应的尝试

该法案最值得关注的几点包括：禁止在缺乏适当保障措施的情况下生成侵害基本权利内容的人工智能系统；要求在影响个人的决策中使用人工智能时保持透明；以及在高风险情形下适用无过错责任。法案还规定设立一个专门负责监督人工智能系统的国家级机构，与ANPD（巴西国家数据保护局）的职能形成互补。

对人工智能的监管不应被视为创新的阻碍——相反，它首先是创新得以可持续、并与民主法治国家相容地发展的前提条件。

然而，第PL 2338/2023号法案受到来自两方面的批评。科技行业警告说，过早监管有可能吓退投资、损害本国的初创企业。数字权利组织则另有看法，他们指出该文本在合成性内容方面、以及在追究那些托管或促成此类材料生成的平台责任的机制方面，仍缺乏更为具体的规定。

在创新与基本权利之间求取平衡：核心挑战

在推动技术创新与保护基本权利之间寻求平衡，公认是当代数字法律面临的最大挑战。走向任何一个极端都不符合公共利益：过度严苛的监管可能抑制那些正当而有益的技术进步；而监管的缺位又会为针对弱势群体、尤其是女性的系统性滥用敞开大门。

欧盟于2024年通过的《人工智能法案》（AI Act），为欧洲积累的经验提供了一个重要参照。欧洲模式将人工智能系统划分为若干风险等级，并对那些被认定与基本权利不相容的用途设定绝对禁止——其中包括基于敏感特征的生物识别分类系统，以及对人类行为的潜意识操纵。而未经同意生成真人的合成性内容，在欧洲的讨论中属于高度关切的领域。

就巴西的情境而言，宪法对人的尊严（CF/88第1条第3项）以及对名誉、肖像和隐私权（CF/88第5条第10项）的保护，应当成为任何人工智能立法的解释指针。这意味着，无论选择何种监管模式，未经同意生成可识别者的性化影像，都应被当作受禁行为处理，并明确地将责任同时归于用户以及提供该工具的平台。

在这样的背景下，专长于数字法与数据保护的律师所做的工作愈发不可或缺，他们能够就现行法律体系中的法律界限和可用的救济方式，为受害者、企业和开发者提供指引。

当下可用的法律工具

在专门的监管框架尚未通过之前，面对一起具体的、造成损害的深度伪造案件，可以做些什么？其路径需要在多条战线上同时展开。

在民事层面，可以提起作为之诉以请求下架内容，并一并提出紧急保全的请求，同时主张精神损害与物质损害赔偿。数字平台的责任由《互联网民事框架法》规定，须先行通知且平台未予履行，才会产生赔偿义务——但涉及性内容的情形除外，此时在收到告知后应立即予以下架。

在刑事层面，报案笔录应记录那些能够归入既有罪名的行为：侮辱、诽谤、诬告，威胁，以及在适用时，未经同意传播私密材料。侦查过程可以依据《互联网民事框架法》，向平台调取访问日志并要求识别用户身份。

在行政层面，当存在对个人数据的不当处理——包括用于制作深度伪造的生物识别数据——时，可以向ANPD寻求介入。至于为那些在业务流程中使用人工智能的企业提供预防性法律指引，同样不可或缺，以避免日后产生责任负担。

常见问题

什么是深度伪造，它为何在法律上存在问题？

深度伪造是由人工智能生成的合成视听内容，它在从未发生过的场景中再现真人的脸、身体或声音。法律上的难题源于现有规范的前提，这些规范是为记录真实事实而设计的：《互联网民事框架法》第21条要求通知私密性质裸露场景中的参与者，而捏造出来的场景并不符合这一条件。再加上举证上的困难——既要证明内容是伪造的，又要查明匿名的作者。

巴西有哪些法律适用于深度裸照的制作？

目前，主要适用的规范包括《刑法典》第218-C条（未经同意传播私密材料）、LGPD（巴西《通用数据保护法》，在不当使用生物识别数据的情形下适用），以及《互联网民事框架法》（平台责任）。这些规范没有一部是专门针对深度伪造制定的，因此需要作扩张解释，并在许多情况下给受害者带来法律上的不确定性。

第PL 2338/2023号法案能否解决深度伪造的问题？

该法案引入了基于风险的监管，并为人工智能系统的开发者和运营者规定了更为明确的责任，代表了一项重大进步。不过，批评者指出，该文本在未经同意的合成性内容方面、以及在促成此类材料生成的平台的责任方面，仍需要更具体的条款。立法讨论正在进行，法案在最终通过之前仍有可能得到完善。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.