医疗器械中的人工智能监管

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能已经应用于能够诊断疾病、监测患者并辅助手术的医疗器械之中,但巴西的监管框架在跟上这场技术革命的步伐方面仍面临挑战。

人工智能在医疗领域的发展及其对监管的影响

近几年,随着人工智能系统被引入医疗器械,医疗行业正经历一场意义深远的变革。能够分析放射影像、识别实验室检查中的规律,甚至辅助机器人手术的设备,已经成为巴西医院日常运作的一部分。这一技术演进带来了一个根本性的法律问题:与传统医疗设备不同,这类设备能够持续学习并不断自我调整,那么应当如何对其进行恰当的监管?

从当前的监管格局来看,巴西国家卫生监督局 (Anvisa) 是负责医疗器械审批和监督的机构,其依据是第6.360/1976号法律及其后续修订。医疗器械的监管归类遵循第185/2001号RDC (Anvisa董事会决议) 规定的风险分类,按照对患者的潜在风险,将其分为I类、II类、III类和IV类。然而,这一分类最初是针对静态器械设计的,即功能在获得监管批准之后不会再发生变化的器械。

我们认为,挑战恰恰在于人工智能算法的自适应特性。基于机器学习的软件会在处理新数据的过程中改变自身的行为,这就使人们对一项以器械原始特征为依据所作出的监管批准能否持续有效产生疑问。这一特点要求采取有别于传统的监管思路:不仅要考察产品在获批时的状态,还要考虑其随时间演变的能力。

软件作为医疗器械 (SaMD) 的法律定性

这一讨论的核心概念是 Software as a Medical Device (SaMD),即“软件作为医疗器械”。它指的是自身即可发挥医疗功能、而不必与特定硬件绑定的计算机程序。Anvisa 承认这一类别,并通过监管指南发布了相关指引,帮助制造商和开发者理解适用的要求。

审视国际监管情况可以发现,国际医疗器械监管机构论坛 (International Medical Device Regulators Fórum,IMDRF) 已经制定了专门的 SaMD 分类指南,其依据是所涉健康状况的严重程度,以及软件所提供的信息对临床决策的重要性。这些指南已成为包括巴西在内的多个国家构建基于人工智能的医疗软件监管框架时的参考。

在巴西国内,Anvisa 一直在完善相关规范,以适应人工智能器械的特殊性。该机构认识到,不仅需要评估最终产品的安全性和有效性,还需要评估用于训练算法的数据质量、自动化决策过程的透明度,以及软件在整个生命周期内每一次修改的可追溯性。考虑到基于人工智能系统建议所作出的临床决策可能直接影响患者的健康乃至生命,这些要求就显得尤为重要。

医疗器械中的人工智能监管,需要在保护患者与鼓励医疗领域技术创新之间取得微妙的平衡。

另一个值得关注的方面,是人工智能医疗器械出现故障时所产生的民事责任。《消费者保护法典》(第8.078/1990号法律) 规定,对于产品和服务缺陷所造成的损害,供应商承担无过错责任。对于智能医疗器械而言,缺陷的认定和责任的归属可能会复杂得多,因为系统的行为可能随着其接收和处理的数据而变化。

个人数据保护与医疗领域的人工智能

在医疗器械中使用人工智能,必然涉及处理大量敏感个人数据。《通用数据保护法》(第13.709/2018号法律) 将健康相关数据归为敏感个人数据,适用更为严格的保护制度。可以看出,医疗器械监管与个人数据保护的交叉,形成了一个复杂的监管局面:制造商和医疗服务机构必须同时遵守 Anvisa 和国家数据保护局 (ANPD) 的要求。

数据主体的同意虽然是 LGPD (《通用数据保护法》) 所规定的法律依据之一,但应用于人工智能医疗器械时,在实践中存在局限。在许多情况下,患者可能并不完全理解自己的数据将如何被用于训练或改进算法,这就影响了知情同意的质量。保护生命和维护健康等其他法律依据,在某些情形下可能更为合适,但其适用需要逐案进行审慎分析。

此外,LGPD 规定的数据最小化原则,可能与机器学习算法有效训练所需的大规模数据集之间产生张力。这就要求开发者采用数据匿名化和假名化等技术,以及联邦学习等方式,使模型训练无需集中存放患者的个人数据。

我们还注意到,跨国公司开发的人工智能项目中常见的数据跨境传输,又增加了一层监管上的复杂性。LGPD 对向其他国家传输个人数据设定了具体条件,与境外服务器共享巴西患者的健康数据,必须严格遵守这些法律规定。

巴西的《人工智能法》及其对医疗器械的影响

巴西一直在推进专门的人工智能法律框架的建设。目前正在国民议会审议的第2.338/2023号法案,提出了基于风险的监管模式,与欧盟的《人工智能法案》(AI Act) 所采用的模式类似。分析该法案的规定可以发现,应用于医疗领域的人工智能系统往往会被归入高风险类别,这意味着在透明度、治理、人工监督和影响评估方面将有更严格的要求。

这种高风险分类在实践中意味着,人工智能医疗器械的开发者和运营者必须在系统的整个生命周期内建立完善的风险管理机制。这包括详尽的技术文档、运行记录的留存、定期的性能与安全测试,以及确保有专业人员能够监督自动化决策,并在必要时予以纠正。

对人工智能系统可解释性的要求,是医疗器械行业面临的另一项重要挑战。许多深度学习 (deep learning) 算法就像“黑箱”一样运作,能够得出精确的结果,却无法清楚地解释其背后的推理过程。在医疗领域,医务人员在作出临床决策之前,需要理解并验证所收到的建议,因此这种算法的不透明性无论从监管角度还是伦理角度,都可能构成重大障碍。

可以看出,未来的人工智能法、LGPD 与 Anvisa 的各项规范相互叠加,将为智能医疗器械形成一个多层次的监管环境。行业内的企业需要建立整合式的合规体系,以同时满足不同规范框架的要求。一些立法提案中设想的监管沙盒,或许是一个值得关注的选择,可以在不危及患者安全的前提下,对新技术进行可控的试验。

行业前景与建议

面对这一仍在形成中的监管格局,我们为人工智能医疗器械产业链上的各方提出以下几点建议。对制造商和开发者而言,从开发的最初阶段就采用“隐私设计” (privacy by design) 和“安全设计” (safety by design) 的做法至关重要。这意味着要把数据保护和患者安全的考量融入系统架构本身,而不是事后再作调整。

对医疗服务机构 (医院、诊所和实验室) 而言,建议建立内部规程,对本机构所使用的人工智能医疗器械进行评估和监测。这些规程应当包括定期核查算法的性能、记录可能出现的故障或意外结果,以及对与这些系统互动的医务人员开展持续培训。

在职业责任方面,医生和其他医务人员应当明白,使用人工智能系统并不能免除其对临床决策所承担的责任。人工智能应当被视为辅助决策的工具,而不是专业判断的替代品。无论从伦理还是法律角度,这一认识都十分重要,因为职业协会和法院在评估从业者的行为时,往往会参照该专科所期待的注意义务标准。

最后,我们认为,各监管主体 (Anvisa、ANPD、联邦医学委员会以及未来的人工智能主管机构) 之间的对话,将对构建协调一致、行之有效的监管环境起到决定性作用。监管碎片化可能造成法律上的不确定性,并给创新设置不必要的障碍;而协调一致的做法则能确保医疗领域人工智能的益处得到安全、负责任的利用。

这一话题与人工智能与监管密切相关,我们已就此撰写过专文。

为了便于您进一步阅读,也可以参阅本所关于信贷与信用评分的文章。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.