数字主权与人工智能：技术依赖问题

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

巴西对外国企业开发的人工智能系统的依赖日益加深，正在威胁其数字主权，亟需监管层面作出回应。

人工智能领域技术依赖的现状

如今，人工智能已不再是一个关于未来的设想，而是成为政府、企业和公共服务不可或缺的基础设施。在这一背景下，可以看到巴西的处境颇为微妙：一方面，它迅速采用基于人工智能的解决方案来优化行政、司法和经济流程；另一方面，它仍然高度依赖由境外企业开发和控制的技术，其中主要来自美国和中国。

这种依赖并不仅仅是商业层面的。当法院使用人工智能系统协助案件分流，当INSS (巴西国家社会保障局) 利用算法审查福利申请，或者当公共安全机构借助人脸识别工具时，我们实际上是把影响基本权利的决定交给了这样一些技术：其内部运作不透明，其控制权掌握在并不直接受巴西司法管辖的主体手中。

这一局面还因为缺乏强大的本国人工智能产业而进一步恶化。巴西虽然拥有一流的研究中心和高素质的专业人才，但在研发方面缺少结构性投入，加之高性能计算基础设施匮乏，致使外国解决方案因其便利和成本优势而被采用，从而形成了一个难以打破的依赖循环。

数字主权：概念及其法律含义

数字主权的概念，是传统国家主权原则在技术领域的延伸。它指的是一国对其数字基础设施、在其境内产生的数据，以及影响本国公民生活的技术，能够实施有效控制的能力。在人工智能领域，数字主权呈现出尤为复杂的层面：它所涉及的不仅是对数据的控制，还包括对处理这些数据并作出自动化决策的算法模型的控制。

从法律角度看，数字主权与多个法律部门相互关联。《通用数据保护法》（第13.709/2018号法律）在规范数据跨境传输、要求自动化决策可被复核方面，已经奠定了重要基础。然而，该法在设计之初并非专门为应对生成式人工智能和大语言模型所带来的挑战，而这些技术近年来已无处不在。

《互联网民事框架》（第12.965/2014号法律）则确立了网络中立和隐私保护等原则，但同样没有预见到人工智能会在社会各个领域渗透到何种程度。因此，我们看到了一个亟待填补的监管空白；否则，巴西将沦为被动的技术消费者，而这些技术正在塑造涉及本国公民的关键决策。

数字主权并不意味着技术上的自我孤立，而是指一个国家有能力就人工智能如何在其境内开发、部署和使用，制定自己的规则。

目前巴西正在进行的人工智能监管框架立法讨论，是重要的一步。不过，这一监管能否奏效，取决于它能否在创新与保护之间取得平衡：既不设置使国家与全球技术发展隔绝的壁垒，又确保人工智能的采用尊重基本权利，并保持巴西国家的决策能力。

人工智能依赖给巴西带来的具体风险

分析人工智能技术依赖的风险时，我们发现其威胁远远超出经济层面。第一个风险，也许是最为迫切的，是战略脆弱性。如果国家关键基础设施系统（能源、电信、国防、公共卫生）依赖于外国企业控制的人工智能平台，那么无论是由于地缘政治制裁、贸易争端，还是这些企业的单方面决定，只要这些技术的供应出现任何中断，都可能使基本服务陷入瘫痪。

第二个风险涉及敏感数据的大规模转移。人工智能模型的训练和运行需要海量数据。当这些模型由外国企业提供时，巴西公民、企业和公共机构的数据往往在位于其他司法管辖区的服务器上处理，而这些地区的法律可能允许政府在巴西数据主体不知情或未同意的情况下获取这些信息。

第三个重大风险是输入性的算法偏见。主要以其他社会、文化和法律环境的数据训练出来的人工智能系统，可能复制并放大那些并不反映巴西社会特有不平等（或者会加剧这些不平等）的偏见。当信用分析、简历筛选或犯罪风险评估的算法以外国数据为基础开发，又未经适当调整就在巴西应用时，其结果可能带有歧视性，而且这种歧视甚至无法被现有的监督机制发现。

第四个风险是经济权力的集中。人工智能解决方案的供应依赖少数几家大型科技公司，会形成寡头垄断，这些公司可以左右价格、使用条件，甚至国家技术发展的走向。这种集中限制了竞争，抑制了本土在该领域的创业活动，也削弱了国家就采用这些技术争取更有利条件的谈判能力。

构建巴西人工智能数字主权的路径

应对人工智能领域的技术依赖，并不意味着拒绝国际合作，也不是追求适得其反的自我孤立。较为适当的路径，是采取多层面的战略，把明智的监管、对本国能力的投入，以及在更加平等的条件下开展国际合作结合起来。

在监管方面，人工智能法律框架需要纳入相应机制，以保障算法透明度，明确自动化系统造成损害时的责任，并设定可审计性要求，使巴西国家能够评估在其境内使用的人工智能系统的运行情况。法律还应当规定，在敏感应用场景中，尤其是涉及基本权利决定的应用，可以要求巴西公民的数据在国内境内处理。这一点至关重要。

在公共投资方面，我们认为迫切需要增加用于巴西人工智能研发的资金。这不仅包括为实验室和大学提供资助，还包括建设国家级计算基础设施（例如专用于训练人工智能模型的数据中心和超级计算机）、大规模培养专业人才，以及扶持开发契合本国实际的人工智能解决方案的巴西初创企业和公司。

与面临类似挑战的其他发展中国家开展合作，同样具有战略意义。金砖国家（BRICS）和南方共同市场（Mercosul）等集团，可以成为协作开发人工智能技术的平台，以满足这些国家的特定需求，从而减轻整体上对全球主要技术中心的依赖。

公共部门的引导作用

巴西国家的采购能力，可以成为促进本国人工智能产业发展的有力工具。公共采购政策如果优先选用本地开发的解决方案（或者要求以技术转让作为政府合同的条件），就能创造必要的需求，使本国替代方案的开发在经济上可行。这种做法在其他战略性行业已有成功先例，也可以适用于人工智能领域。

教育与能力培养是战略支柱

没有对人力资本培养的有力投入，任何数字主权战略都无法持续。巴西需要的不仅是工程师和数据科学家，还需要法律人士、公共管理者以及各领域的专业人员，他们要理解人工智能的影响，并能积极参与有关其监管与部署的决策。跨学科至关重要：数字主权是一个超越技术本身的问题，需要法学、伦理学、经济学和计算机科学之间持续对话。

未来的前景与挑战

随着这些技术进一步融入社会运转，关于数字主权和人工智能技术依赖的讨论在未来几年将趋于激烈。技术发展的速度给监管者带来了额外的挑战：规范既要足够灵活，能够跟上技术的演进，又要足够坚定，以保护权利，并确保公共利益优先于企业利益。

欧盟的AI Act（《人工智能条例》）经验提供了宝贵的借鉴，不过每个国家都需要使其监管方式适应自身的实际情况。巴西在数字领域素有制定开创性监管框架的传统（如《互联网民事框架》和《通用数据保护法》），有机会构建一种可以成为其他发展中国家参照的人工智能监管模式。

我们的结论是，人工智能领域的数字主权不是奢侈品，而是战略上的必需。巴西在未来几十年如何应对这一挑战，不仅将决定其在全球经济中的地位，也将决定它在一个越来越由算法居中调节的世界里保护公民权利的能力。构建这种主权，需要国家、私营部门、学术界和公民社会协调行动，并且要清醒地认识到：无所作为的代价，就是让这种依赖持续下去，从而损害国家在21世纪最具决定性的领域之一的自主权。

这一话题与数字时代的被遗忘权直接相关，我们已在专文中对该主题作了探讨。

这一话题与数字化医学鉴定直接相关，我们已在专文中对该主题作了探讨。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.