AI伦理：全球原则与指导方针

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能发展迅猛，如果缺乏坚实的伦理原则，技术创新就可能演变为威胁基本权利的系统性风险。

人工智能伦理的全球格局

我们正处在科技史上的一个关键时刻。人工智能早已不再是遥远的愿景，而是融入了影响数百万人的日常决策之中：从企业招聘筛选到医疗诊断，从信用评估到公共监控系统，无处不在。面对这样的局面，国际组织、各国政府和民间社会机构开始投入大量精力，着手构建伦理框架，以指导这些技术以负责任的方式开发和应用。

人工智能伦理并不是创新的刹车，而是确保技术进步与尊重基本权利并行不悖的保障。

放眼全球，对人工智能伦理的关注并不是新近才出现的。自2010年代中期以来，联合国教科文组织（UNESCO）、经济合作与发展组织（OCDE）和欧盟等机构就一直在制定文件，力图为负责任地使用算法系统确立指导原则。这些举措的核心，是让技术服务于人，而不是让人服从于技术。人的尊严、透明、不歧视和问责，是迄今发布的几乎所有参考性文件中反复出现的支柱。

在巴西，随着立法层面围绕人工智能监管展开的讨论不断升温，如何使技术创新与权利保护相协调的问题浮出水面，这里所说的权利，是1988年《联邦宪法》所确立的基本权利。可以看到，巴西虽然仍在构建专门的监管体系，但已经拥有一套相当扎实的规范基础（包括《互联网民事框架》、《通用数据保护法》和《消费者保护法典》），为人工智能的伦理治理提供了重要的参照标准。

AI伦理的基本原则

研究有关人工智能伦理的主要国际文件，我们可以归纳出一组已成为全球参照标准的原则。这些原则并非单纯的哲学抽象，而是切实可行的指导方针，应当引导工程师、管理者、立法者和法律从业者共同构建值得信赖的算法系统。

透明性与可解释性

透明性原则要求，人工智能系统应当能够为受其决策影响的人所理解。这意味着，凡是利用算法作出重要决定（例如发放福利、批准信贷或筛选应聘者）的组织，都应当能够用通俗易懂的语言解释这些决定是如何作出的。算法的可解释性并不一定要求公开系统的源代码，而是要确保每一项输出结果背后都存在可以理解的逻辑。当一个人的福利申请被自动化系统拒绝时，他有权了解该决定所依据的标准。

不歧视与公平

人工智能系统是基于历史数据训练出来的，而这些数据往往带有早已存在的社会偏见。如果在系统开发过程中没有发现并纠正这些偏见，技术就可能固化甚至放大不平等。国际上有不少案例值得分析：用于招聘流程的算法出现了性别歧视，用于犯罪风险评估的系统则表现出种族偏见。不歧视原则要求开发者定期对其系统进行审计，专门检测是否存在可能损害历史上处于弱势地位群体的偏见。

责任归属与问责

人工智能伦理中最复杂的难题之一，是当算法系统造成损害时，究竟由谁来承担责任。责任原则（常用英文术语“accountability”表示）规定，对于自动化系统作出的决定，必须始终有明确的责任人或责任组织。自动化不能成为组织逃避其法律和伦理义务的挡箭牌。如果人工智能系统出现错误并损害了公民的利益，部署该系统的组织就应当对所造成的损害负责，无论该决定是否由算法作出。

隐私与数据保护

人工智能本质上是一种数据密集型技术。机器学习系统需要海量信息才能正常运行，这就不可避免地与隐私权产生张力。全球伦理原则强调，为训练或运行AI系统而收集和处理个人数据，必须遵守各司法辖区现行的数据保护法律框架。在巴西，LGPD（《通用数据保护法》）为处理个人数据规定了明确的法律依据，并要求就可能影响数据主体利益的自动化决策向其作出告知。

全球指导方针：从联合国教科文组织到欧盟

2021年11月，联合国教科文组织通过了《人工智能伦理建议书》，这是关于该主题的首个全球性规范文书，由其全部193个成员国一致通过。该文件确立了基本价值观（如尊重人权、多样性和环境可持续性）以及应当指导全球公共政策和企业实践的操作性原则。这一文书的重要意义在于，它代表了国际社会就人工智能应当如何开发和使用所达成的最低限度共识。

经合组织（OCDE）则在2019年发布了《人工智能原则》，强调包容性增长、可持续发展、以人为本的价值观、透明、稳健和问责。这些原则获得了G20的采纳，并直接影响了数十个国家的政策制定。我们注意到，经合组织的做法之所以尤为重要，是因为它强调国际合作：在一个互联互通的世界里，仅靠各国自行立法，不足以应对在全球范围内运行的技术。

在欧盟，2024年通过的AI Act（《人工智能法案》）是目前全球范围内最为全面的相关监管框架。这部欧盟法规采取基于风险的方法，将AI系统划分为从最低风险到不可接受风险的不同类别。高风险系统（例如用于关键基础设施、教育、就业以及获取基本服务的系统）须满足严格的透明度、文档记录、人工监督和合规评估要求。被视为具有不可接受风险的做法（如社会评分系统和潜意识操纵）则被明令禁止。

可以看到，欧洲的做法对其他国家产生了显著影响，一些专家将这一现象称为“布鲁塞尔效应”：欧洲的监管规则往往成为全球参照标准，这既源于欧盟在经济上的分量，也得益于其规范工具在技术层面的精密程度。

巴西在AI伦理监管中的位置

巴西一直积极关注全球范围内有关人工智能伦理与监管的讨论。该国制定了由科学、技术与创新部发布的《巴西人工智能战略》（EBIA），确定了包括伦理和治理在内的优先主题方向。与此同时，国会也在讨论各项立法提案，力图建立全国性的人工智能监管框架，这些提案深受我们前面提到的国际原则的启发。

审视巴西法律体系中已有的规范基础，我们发现，AI的多项伦理原则已经能在法律中找到依据。《联邦宪法》保障人的尊严、平等、隐私权和消费者保护。LGPD保障数据主体有权要求对仅基于个人数据自动化处理所作出的决定进行复核。《消费者保护法典》保护消费者免受滥用性行为之害，并保障其获得充分信息的权利。这些法律文件虽然并非专为人工智能而设计，却为算法环境下的权利保护提供了坚实的基础。

全球伦理原则与巴西法律体系之间的趋同十分显著。算法透明、不歧视、问责和数据保护，是同时贯穿国际文件与巴西国内立法的价值。摆在巴西面前的挑战，是把这些一般性原则转化为具体规则和行之有效的监督机制，既能跟上技术演进的速度，又不扼杀创新。

AI伦理的实际影响与行业影响

人工智能伦理原则的适用，在多个行业产生了切实的影响。在医疗领域，诊断算法必须对自身的局限性保持透明，不得取代医务人员的临床判断。在金融领域，基于AI的信用分析系统需要证明其没有依据种族、性别或地理位置等标准实施歧视。在公共行政领域，利用人工智能分配资源或确定服务优先次序时，必须遵守合法性、非人格化和效率原则。

在社会保障领域，也就是我们格外熟悉的领域，利用算法系统审核福利申请引发了一系列值得关注的问题。当被保险人的退休或补助申请由自动化系统（全部或部分）审核时，伦理原则要求他能够了解所使用的标准，能够向真人对该决定提出异议，同时系统也不得复制那些对特定被保险人群体不利的偏见。

在劳动领域，将人工智能用于招聘和人员管理，同样需要格外留意。基于算法的简历筛选、生产率监控和绩效评估系统，应当定期接受审计，以确保不会产生直接或间接的歧视。采用这些技术的企业有义务告知员工使用了自动化系统，并为影响劳动权利的决定提供人工复核机制。

我们注意到，全球趋势是对人工智能的行业监管日益加强，针对医疗、金融、公共安全和司法等敏感领域制定专门规则。这种行业化的做法是对一般性框架的补充，使伦理指导方针能够适应各个应用场景的特殊性。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.