药物研发中的人工智能监管

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能已经在改变新药的发现方式，但巴西的监管框架仍在努力于这一关键领域中兼顾创新与安全。

人工智能在制药行业的快速发展

近年来，制药行业开展新药研发的方式发生了深刻变革。机器学习算法几乎已被应用于药物生命周期的每个环节，从识别分子靶点到优化临床试验，无一例外。这场技术革命有望大幅缩短新疗法惠及患者所需的时间，并降低相应成本；而在过去，这一过程往往需要十多年，耗费数十亿雷亚尔的投入。

从当前的情况来看，人工智能系统能够处理海量的基因组、蛋白质组和化学数据，预测哪些化合物最有可能具备治疗效果。预测模型可以协助模拟分子间的相互作用，识别潜在的副作用，并筛选出最适合参加临床试验的人群。这种分析能力在速度和规模上都远超任何单一的人类团队，也由此提出了一系列复杂的监管问题，法律体系需要迅速而准确地加以回应。

在巴西，国家卫生监督局 (Anvisa) 负责批准临床研究并为药品注册。当人工智能工具进入提交给该机构的各类流程，算法验证、决策透明度以及出现故障时的民事责任等问题，便都成了前所未有的新课题。我们需要了解巴西法律如何应对这一现实，以便为已经使用或打算使用这些技术的企业、研究人员和医疗从业者提供指引。

巴西的监管框架与制药领域的人工智能

巴西在构建人工智能法律框架方面不断推进，立法层面的讨论旨在确立算法治理的一般原则。然而，具体到制药领域，我们发现目前仍没有一套成熟的行业监管规定来规范人工智能在药物研发中的应用。迄今为止，现有的只是Anvisa发布的一批一般性规范，涉及临床研究良好规范、药品注册和药物警戒，需要结合新技术来加以解释。

规范该国临床研究的《集体董事会决议》(RDC) 要求，研究必须遵循严格的安全性与有效性方案，并对方法学的各个步骤提供详细的文件记录。当人工智能算法参与候选分子的筛选，或参与临床试验受试者的分层时，就不仅要记录结果，还要记录所用模型背后的逻辑。可以看到，这一透明度要求与许多深度学习 (deep learning) 算法的特性相冲突，这类算法的内部决策过程常被称为难以解读的“黑箱”。

除Anvisa之外，国家研究伦理委员会 (Conep) 在涉及人类受试者的研究伦理审查中也发挥着重要作用。当人工智能被用来决定哪些患者纳入或排除出临床试验时，算法偏见问题便立即具有了伦理上的重要性。若模型主要基于某一特定人群的数据训练，就可能使某些族裔或社会经济群体的代表性不足，从而损害人们获得创新疗法的公平性。分析认为，监管需要应对这一挑战，同时又不能令创新难以为继，为此应当就训练数据的可审计性和代表性设定清晰的标准。

制药领域的人工智能监管需要微妙的平衡：既要保护患者安全，又不能设置障碍，阻碍人们获得借助前沿技术研发的治疗方案。

在国际层面，美国FDA和欧盟EMA等机构已就人工智能在药品监管流程中的应用发布了专门指南。这些参考对巴西十分重要，因为许多借助人工智能研发的药品会同时在多个司法辖区申请注册。国际监管协调是巴西立法者和监管机构必须考虑的因素，既要避免本国成为创新的障碍，也要避免走向另一个极端，沦为民众保护不足的环境。

民事责任与法律风险

在应用于药物研发的人工智能监管中，最敏感的问题之一，就是出现差错时的民事责任。假如某个人工智能算法推荐的化合物，在获得监管批准并上市后，对患者造成了无法预见的损害，我们就必须确定应由谁承担法律责任：是算法开发者、使用该算法的制药实验室、开具处方的医务人员，还是批准该药品的监管机构？

在巴西法律中，《消费者保护法》规定了供应商的无过错责任，即对产品和服务的缺陷承担责任。按照这一逻辑，制药实验室对缺陷药品造成的损害，无论有无过错都要承担责任。不过，当研发决策有一部分交由人工智能系统作出时，情况会变得更为复杂。实验室可能辩称，自己遵循了当时可用的最佳实践，错误源于算法模型固有的局限，而按现行监管所要求的合理审慎标准，这是无法预见的。

可以看到，“技术水平”(state of the art) 这一概念在这些讨论中居于核心位置。《消费者保护法》规定的制造商抗辩事由，允许在能够证明以当时可获得的技术知识无法发现缺陷时免除责任。当人工智能参与研发过程时，对“技术水平”的评估就要涵盖所用计算模型的先进程度、训练数据的质量以及算法验证流程的稳健性。这些技术要素将要求法院对相关技术有越来越深入的理解。

另一个重要方面是知识产权问题。由人工智能系统发现或优化的分子，引发了关于可专利性的讨论。巴西国家工业产权局 (INPI) 要求发明须具备创造性，也就是说，对于该领域的专业人员而言，该发明不能是现有技术的显而易见的结果。当算法对数百万种化合物进行筛选并找出有前景的候选分子时，人类的创造性贡献可能会受到质疑，这对专利保护以及研发投资的回报都有直接影响。

人工智能制药研究中的数据保护与隐私

在制药研究中使用人工智能，从根本上依赖数据，而其中许多是患者的敏感个人数据。《通用数据保护法》(LGPD) 将健康相关数据归为敏感数据，对其处理适用更严格的法律制度。分析认为，LGPD为卫生领域研究中的数据处理规定了特定的法律依据，包括研究机构开展的研究，前提是尽可能保证数据匿名化。

实际困难在于，人工智能模型训练往往需要大量临床数据，其中包括病历、检查结果、基因信息和既往治疗记录。要对这些数据实现有效匿名化并不总是易事，尤其是基因组数据，其本质上具有高度可识别性。可以看到，差分隐私 (differential privacy) 和联邦学习 (federated learning) 等技术，已被提出作为技术方案，以兼顾对大量可靠数据的需求与对个人隐私的保护。

国家数据保护局 (ANPD) 尚未就制药领域人工智能模型训练中的个人数据使用发布专门规定。这一监管空白给企业和研究机构带来了法律上的不确定性。例如，它们需要判断，为某项特定临床研究取得的同意，是否也涵盖将这些数据用于训练算法，而这些算法日后会被用于目的不同的研究。当同一数据集在不同时期可以为多个应用各异的模型提供数据时，LGPD中处于核心地位的目的原则，其解释就变得尤为复杂。

迈向适当监管的前景与路径

综观上述情况，显而易见，巴西需要继续推进构建监管框架，以兼顾人工智能在制药领域应用的特殊性。这一进程应当在多条战线上展开，涉及Anvisa、ANPD、Conep、INPI以及国会，并通过协调一致的努力，避免规范之间出现重叠或矛盾。

可以看到，有几项原则可以为这一监管进程提供指引。首先，算法透明度的要求应与风险相称：自动化决策对患者健康的潜在影响越大，对所用人工智能模型的可解释性要求就应越高。其次，设立监管沙盒，即受控环境，让企业可以在Anvisa的监督下测试创新技术，而无需完全满足适用于市场上成熟产品的所有监管要求。

另一条有前景的路径是加强国际监管合作。巴西积极参与国际人用药品技术要求协调理事会 (International Council for Harmonisation of Technical Requirements for Pharmaceuticals for Human Use，简称ICH) 等论坛，既能为全球标准的制定贡献力量，也能从其他司法辖区积累的经验中受益。鉴于用于训练人工智能模型的许多数据来自国际多中心研究，需要协调各方在数据保护要求和伦理标准上的规定，这种合作就显得尤为重要。

最后，分析认为，在监管机构中培养专业的技术人才，是实现有效监管不可或缺的条件。Anvisa及其他相关机构需要有能够对提交的人工智能模型进行批判性评估的专业人员，充分了解其技术局限和潜在偏见。缺少这种机构能力，任何规范框架，无论设计得多么周全，面对所涉技术的复杂性，都有沦为一纸空文的风险。

此话题与人工智能监管直接相关，我们已在专门的文章中探讨过。

此话题与金融领域的人工智能监管直接相关，我们已在专门的文章中探讨过。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.