巴西卫生设施与水资源领域的人工智能监管

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能已经在改变巴西卫生设施与水资源的管理方式，但由于缺乏专门的监管框架，特许经营企业、市政当局和用户都面临着不容忽视的法律风险。

人工智能在基础卫生设施领域的快速推进

审视巴西基础卫生设施的现状便会发现，人工智能早已不再是遥远的愿景，而是成为了切实可用的运营工具。算法系统已经被用于供水管网漏损检测、处理后污水水质监测、用水需求预测，以及污水处理厂的流程优化。公营和私营的特许经营企业纷纷投资于采用机器学习技术的平台，以降低漏损、提前发现基础设施故障，并提升运营的能源效率。

《基础卫生设施法律框架》（第14.026/2020号法律）设定了雄心勃勃的目标：到2033年实现服务全覆盖，要求99%的人口用上经过处理的自来水，90%的人口享有污水收集与处理服务。为了在期限内实现这些目标，特许经营企业越来越多地借助自动化技术方案。遍布供水管网的智能传感器产生海量数据，为预测算法提供支撑，使人们得以采取预防性干预，而不再仅仅是事后补救。

然而，这种技术应用却发生在一个令人担忧的监管真空之中。目前没有任何专门规范来约束水资源管理中应如何使用算法、应遵循哪些透明度标准，也没有规定如何确保自动化决策不会损害弱势群体的利益。巴西国家水务与基础卫生设施署（ANA）尚未就该领域使用人工智能发布技术指引，各州的监管机构在这一问题上同样没有取得显著进展。

适用的规范体系与监管空白

在缺乏专门行业立法的情况下，卫生设施与水资源领域的人工智能监管只能依赖由多种规范文件拼接而成的体系。巴西《人工智能法律框架》（第2.338/2023号法案，仍在审议之中，另有后续版本）力图确立使用人工智能系统的一般原则，包括透明度、可解释性和问责。但其条款较为笼统，并未涵盖水务基础设施行业的特殊性。

卫生设施领域的人工智能监管不只是技术问题，更是获得用水权和享有生态平衡环境这两项基本权利的必然要求。

当算法处理卫生设施服务用户的个人数据时，例如居民用水信息、登记资料和使用习惯，《通用数据保护法》（LGPD，第13.709/2018号法律）即适用。LGPD第20条规定的自动化决策复核权，适用于人工智能系统作出决定的情形，例如依据算法对欠费情况的分析而决定停止供水。在这类情形下，数据主体可以要求说明所采用的标准，并对该决定提出异议。

《国家水资源政策》（第9.433/1997号法律）规定，水属于公共领域的财产，具有经济价值，水资源管理应当实行分权，并有公共部门、用户和社区共同参与。当算法开始影响用水权许可（outorga de direito de uso，即水资源使用权的行政许可）、缺水时期的资源分配或供水优先顺序等决策时，就会产生一个根本性的问题：如何使自动化与该法所确立的社会参与和民主管理原则相协调。

我们同样注意到《消费者保护法典》（第8.078/1990号法律）的重要意义，它适用于特许经营企业与服务用户之间的关系。凡影响服务提供的自动化决策（例如供水压力的调整、算法式限水，或基于人工智能生成的用水量估算而进行的收费），都必须尊重用户享有充分知情、透明以及免受滥用行为侵害的权利。

缺乏专门监管的风险

缺少明确的行业规范，会在多个层面造成法律上的不确定性。对特许经营企业而言，在其业务中部署人工智能系统时，应当采用何种透明度和可审计性标准，并无定论。对监管机构而言，缺乏标准化的指标和方法来评估算法的使用是否符合服务质量和连续性的要求。对用户而言，自动化系统的不透明使其难以行使自身权利，尤其是在算法决策直接影响用水的时候，而水是维系生命与人格尊严的基本资源。

水资源算法管理中的特殊挑战

考察人工智能在水资源领域的具体应用案例便会发现，其监管挑战有着自身的特点，需要专业化的关注。最敏感的问题之一，是在缺水情形下利用算法分配水资源。在水危机时期，人工智能系统可能被用来确定哪些区域优先获得供水、各个行业（居民、工业、农业）可获得多少水量，以及如何以最优方式分配资源。这些决定一旦交由算法作出，便带有深远的伦理和法律影响。

算法式的优先排序可能复制甚至放大卫生设施可及性方面长期存在的不平等。如果人工智能系统所使用的训练数据反映了投资不均的格局（例如外围地区长期供给不足），其给出的建议就可能使这种不公平的分配延续下去，把资源优先导向基础设施更完善、经济回报更高的地区。这种被称为算法偏见的现象，需要有审计和纠正方面的监管机制，而这些机制在该行业尚未建立。

另一项重要挑战涉及自动化环境监测。人工智能算法被用于实时分析水质数据、发现污染事件并启动应急响应程序。当自动化系统未能识别出某次污染事件（漏报，即假阴性），或者发出不必要的警报而导致供水中断（误报，即假阳性）时，就会引发复杂的民事责任问题。该由谁来承担损害赔偿责任：是运营该系统的特许经营企业、算法开发者、技术集成商，还是批准其使用的监管机构？

水务领域的数据治理

卫生设施领域的人工智能系统需要依靠大量数据才能正常运行。这包括水文数据（流量、水库水位、降水量）、基础设施数据（管网状况、维护记录）、用水数据（居民和工业用水模式）以及环境数据（水质、污染指标）。这些数据的治理，包括所有权、共享、质量与安全等问题，是任何监管框架的重要支柱。

我们注意到，其中许多数据来自授予私营部门特许经营的公共基础设施。厘清这些信息的归属，明确专有算法如何使用这些信息，以及对授权方（poder concedente，即把公共服务特许给企业经营的政府主体）和社会负有哪些共享义务，对于避免信息过度集中至关重要，因为信息集中可能削弱国家的监管能力，也会妨碍社会对资源管理的参与。

迈向适当监管的路径

鉴于上述情况，我们认为，为卫生设施与水资源领域的人工智能构建监管框架，应当遵循若干基本原则。首先是比例原则：监管力度应当与每种应用所带来的风险相称。用于泵站能效优化的算法，与决定对欠费用户停水或在水危机中分配资源的算法，风险是不一样的。

其次是适应行业特点的算法透明度。凡在直接影响用户的决策中使用人工智能的特许经营企业，都应当被要求记录算法所使用的标准，提供通俗易懂的决策方式说明，并确保设有行之有效的异议机制。与此同时，监管机构需要培养对这些系统进行审计的技术能力，这就要求在人员培训和适当的监督工具开发方面投入资源。

在算法治理中引入社会参与，是另一项不可或缺的要素。《国家水资源政策》将流域委员会规定为参与式管理机构，凡涉及影响各自流域资源管理的人工智能系统部署，都应让它们参与决策过程。自动化不能成为削弱水资源管理中民主参与的借口。

民事责任与算法问责

有一个方面值得特别关注，那就是当人工智能系统在卫生设施服务中造成损害时，如何确定责任。巴西法律体系已经具备若干重要的工具：服务提供者的无过错责任（《消费者保护法典》）、环境责任（第6.938/1981号法律），以及国家和公共服务特许经营企业的民事责任（《联邦宪法》第37条第6款）。

然而，人工智能系统的开发和运营链条涉及多个主体（开发者、集成商、运营者、监管者），一旦发生损害，可能很难认定责任人。我们认为，无论是否使用人工智能，特许经营企业对用户的无过错责任都应当予以保留；如果算法缺陷是造成损害的原因，特许经营企业则有权向技术的供应商追偿。

建立算法决策的记录与可追溯机制（审计日志），对于查明责任至关重要。这些记录的保存期限应当与适用的诉讼时效期间相匹配，并在必要时可供监管机构和检察机关（Ministério Público）检查。

这一问题与监管直接相关，我们已有专文探讨。

这一问题与金融领域的人工智能监管与信贷直接相关，我们已有专文探讨。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.