人工智能与基本权利：宪法界限

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能正日益介入直接影响人们生活的各类决策，而《联邦宪法》设定了明确的界限，算法不能无视这些界限。

人工智能的发展与宪法界限的必要性

如今，人工智能系统已经开始影响社会几乎所有领域的决策。从信贷发放到简历筛选，从社会保障福利的审核到公共场所的监控，算法正在做出或辅助做出各类决定，这些决定关系到数百万巴西人的基本权利。在这样的背景下，本文将分析巴西法律体系，尤其是1988年《联邦宪法》，如何为这些技术的开发与应用确立应当遵循的准则。

问题的关键并不在于是否应当使用人工智能，因为它的发展不可避免，也可能带来显著的益处。真正的核心在于，如何确保这种使用尊重宪法文本所确立的基本权利与保障。《联邦宪法》第5条列举了一系列广泛的个人权利和集体权利，它们是保护公民对抗国家权力的真正屏障；通过扩大解释，这些权利同样适用于对抗任何对人们行使权力的主体，包括自动化系统。

可以看到，随着国会（Congresso Nacional）中多项专门法案进入审议程序，巴西关于人工智能监管的讨论已经逐渐清晰。《人工智能法律框架》（Marco Legal da Inteligência Artificial）旨在确立使用人工智能系统的原则、权利与义务，并始终以保护人的权益为指引。这一立法动议承认，仅靠市场自我监管不足以保护基本权利，国家必须介入，设定法律确定性方面的最低标准。

人的尊严：不容交易的根基

《联邦宪法》第1条第III项规定的人的尊严原则，是巴西整个基本权利保护体系赖以建立的基石。在审视人工智能系统的应用时，这一原则的意义更加突出，因为它要求任何技术都不得把人降格为单纯的数据处理对象。人必须始终是权利主体，拥有自主权，并有能力对影响自己的决定提出异议。

我们注意到，用于自动化决策流程的人工智能系统，可能以多种方式侵犯人的尊严。当算法在没有人工复核可能的情况下拒绝社会保障福利，当人脸识别系统出现错误识别并导致不公正的警方盘查，或者当风险分析程序依据带有歧视性的标准对个人进行分类时，技术便损害了尊严的核心内容。在这些情形下，宪法文本本身就为公民提供了保护的手段。

对自动化决策进行人工监督的要求，直接源于这一原则。我们认为，任何对人们生活产生重大影响的人工智能系统，都应当设置由合格的人员进行复核的机制。这不是单纯的程序性形式，而是一项实质性保障，确保在每一个具体案件中尊严都得到维护，使个人的具体情况能够超出算法所识别的模式而得到考虑。

隐私、数据保护与获得解释的权利

《联邦宪法》第5条第X项保障个人的隐私、私人生活、名誉和形象不受侵犯。在人工智能时代，海量个人数据被收集、处理并用于训练算法系统，这一规定因此获得了新的内涵。《通用数据保护法》（LGPD）进一步补充了这一宪法保护，针对个人数据的处理，包括由自动化系统进行的处理，规定了具体规则。

值得强调的是，LGPD第20条赋予数据主体权利，可以要求对仅基于个人数据自动化处理而作出的决定进行复核，其中包括用于界定个人画像、职业画像、消费画像和信用画像的决定。这一规定在宪法之下的层面落实了算法解释权，其依据是正当法律程序的宪法原则以及充分辩护的保障。当人工智能系统作出影响公民权利的决定时，公民有权了解所使用的标准，并对结果提出异议。

人工智能应当成为扩大权利的工具，绝不能成为悄然限制或剥夺权利的机制。

为训练人工智能模型而大规模、不加区分地收集数据，引发了重要的宪法问题。使用生物识别数据、健康信息、金融记录以及网络浏览数据来训练人工智能系统，如果未经数据主体的知情同意，或者缺乏适当的法律依据，就可能构成对隐私这一基本权利的侵犯。监管上的挑战在于，如何在技术发展对数据的需求与对个人权利的有效保护之间取得平衡。

平等、禁止歧视与算法偏见

《联邦宪法》第5条正文（caput）确立的平等原则，禁止任何形式的无正当理由的歧视。将这一原则适用于人工智能系统时，我们会遇到算法偏见的问题：当系统复制或放大其训练数据中存在的歧视性模式时，就会出现这种偏见。国际研究表明，人脸识别算法对黑人的错误率明显更高，而信用分析系统若使用反映结构性歧视的数据，则可能延续历史上形成的不平等。

在巴西，鉴于社会和种族方面深刻的不平等，这一问题尤为突出。可以看到，使用巴西历史数据训练的人工智能系统，可能吸收并复制排斥性的模式，这与宪法所确立的目标背道而驰：建设自由、公正和互助的社会（第3条第I项），以及不因出身、种族、性别、肤色、年龄和其他任何形式的歧视而存在偏见，促进全体人民的福祉（第3条第IV项）。

对人工智能的行业监管应当包含强制性的算法审计机制，以识别并纠正歧视性偏见。我们认为，这类审计不能流于形式，而应当包括对弱势群体的影响分析，以及公平性测试，以检验系统产生的结果是否对处于相似情形的人给予平等对待，而不论种族、性别、年龄或社会地位等受宪法保护的特征。

算法透明与民主原则

法治民主国家要求影响集体的决定具备透明度。当公共机构采用人工智能系统来辅助或取代行政决定时，公开原则（《联邦宪法》第37条正文）要求公民能够获知并理解这些系统所使用的标准。算法的不透明往往以商业秘密为由受到保护，但这可能构成对《宪法》第5条第XXXIII项所保障的信息获取权的侵犯。

算法透明并不一定意味着公开系统的源代码，但至少要求公众能够了解一般的决策标准、所考虑的变量、用于训练的数据以及系统的性能指标。我们认为，这种透明是行使对公共行政的社会监督、落实民主原则的必要条件。一个不知道算法依据何种标准拒绝了自己权利的公民，无法充分行使其公民身份。

在司法机关方面，使用人工智能系统辅助案件分析和司法裁判的起草，引发了特定的宪法问题。自然法官原则以及司法裁判必须说明理由的保障（《联邦宪法》第93条第IX项）要求法官对裁判过程保持完全的掌控，把人工智能当作辅助工具，而绝不能取代自己的判断。司法裁判的理由说明应当体现裁判者的法律推理，而不是对算法建议的简单照搬。

这一问题与谁是作者？这一话题直接相关，我们已在专文中对其作了探讨。

为方便您继续阅读，也可参阅本所关于技术手段与法律界限的文章。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.