基因检测与个性化医疗中的人工智能监管

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

人工智能在基因检测和个性化医疗领域的应用进展迅速，但巴西的监管框架仍在努力跟上这场医疗变革所带来的伦理与法律挑战。

人工智能在基因组学中的发展及其法律影响

近年来，医学利用基因数据进行诊断、预后判断和个体化治疗的方式发生了深刻变革。人工智能算法在解读基因组测序结果、识别致病变异，以及根据每位患者的基因特征推荐个性化疗法等方面，已经发挥着核心作用。这一景象不久前还似乎只存在于科幻作品之中，如今已在巴西乃至全球的实验室和研究中心成为现实。

从法律角度看，人工智能与基因组学的融合引出了横跨多个法律领域的问题。在这一领域，敏感个人数据保护、隐私权、卫生监管、民事责任和生物伦理相互交织，关系错综复杂。《通用数据保护法》（LGPD，第13.709/2018号法律）将基因数据归类为敏感个人数据，因此对其处理、存储和共享提出了更为严格的义务。然而，现行立法在设计之初，并未专门考虑处理这类信息的人工智能系统的特殊性。

我们注意到，旨在建立巴西人工智能法律框架的第2.338/2023号法案，就人工智能系统的风险分级作出了重要规定。医疗健康领域的应用，尤其是涉及诊断和临床决策的应用，往往会被归入高风险系统，需要更高的透明度、可追溯性和人工监督。不过，针对基因检测中使用人工智能的具体规定，目前仍缺乏细化的规范。

基因数据作为敏感数据：对人工智能系统的影响

当我们分析人工智能系统对基因数据的处理时，会发现它比其他健康数据多出一层复杂性。基因信息具有独特的特点：它在个人一生中不会改变，能够揭示未来罹患疾病的倾向，对生物学意义上的亲属有直接影响（而这些亲属并未同意对信息的处理），还可能在保险、就业和信贷等场景中被用于歧视性目的。

LGPD第11条规定，处理敏感数据，只有在取得数据主体具体且明确的同意后方可进行；在无需同意的情形下，则仅限于保护生命、维护健康以及研究机构开展研究等有限列举的情形。然而，将这些法律依据适用于处理基因数据的人工智能系统时，存在明显的空白。当算法本身的运行机制并不透明时，如何保证同意是真正知情的？当机器学习模型往往需要海量信息才能精确运行时，又如何确保数据最小化？

巴西国家数据保护局（ANPD）已就人工智能与个人数据的关系发布了一些指引，但截至目前，尚未出台专门针对算法所处理基因数据的规定。这一监管真空，让生物技术企业以及使用人工智能工具解读基因检测结果的医疗专业人员都面临法律上的不确定性。我们认为，未来的监管规则应当明确规定以下事项：基因组数据的有效匿名化（即使经过去标识化处理，在技术上仍有可能被重新识别）、保存期限、删除权，以及基因数据在不同平台之间的可携带性。

民事责任与算法临床决策中的人工监督

在个性化医疗的人工智能监管中，最为敏感的问题之一，是算法系统促成错误临床决策时的民事责任。如果人工智能算法错误解读了某个基因变异并建议了不恰当的治疗（或者未能发现某种重要的患病倾向），谁应当对患者所受损害负责？是信赖该工具的医生？采用该工具的实验室？软件开发者？还是部署该系统的医院？

巴西法律体系通过《消费者保护法典》和《民法典》，已经为消费关系和医疗服务中的追责提供了工具。然而，算法主体介入临床决策链条之后，因果关系的认定和责任人的确定都变得困难得多。据分析，第2.338/2023号法案提出由人工智能系统的供应商承担责任，但在医疗场景中如何划定这一责任的边界，仍有待深入讨论。

要求有实质意义（而非仅仅流于形式）的人工监督，是另一个值得监管关注的方面。医疗专业人员不能在不理解其背后推理的情况下，对人工智能生成的结果自动“确认”。监督必须是有效的，这就要求医生能够获得通俗易懂的解释，了解算法是如何得出该结论的。从这个意义上说，LGPD（第20条）规定的解释权就显得格外重要：数据主体有权要求对影响其利益的自动化决策进行复核，包括了解所采用的标准和程序。

基因检测中的人工智能监管，需要在鼓励创新与保护基本权利之间取得平衡，确保技术进步不会凌驾于患者的尊严和信息自决权之上。

我们注意到，世界卫生组织（OMS）等国际组织已经发布了关于医疗领域人工智能伦理与治理的指南，强调算法透明、公平可及，以及防范歧视性偏见。这些原则虽然不具有约束力，但可以为构建更为完善的各国监管框架提供参考。

算法偏见与基因组健康中的公平

我们认为，将人工智能应用于基因组学时，一个核心的担忧在于算法训练数据中存在的偏见。长期以来，大型基因组数据库主要以欧洲血统人群的样本为主。这意味着，在这些数据集上训练的人工智能模型，在分析其他血统个体的基因组时，表现可能较差，其中也包括巴西人群（其特点是遗传多样性高、种族混合程度深）。

这种偏见不仅是技术问题，更是公正和基本权利的问题。如果人工智能系统因患者的血统而未能识别出其致病变异，那就构成了一种算法歧视，可能对该个体的健康和生命造成严重后果。1988年《联邦宪法》确立了健康权（第196条）和平等原则（第5条），医疗领域使用的任何技术系统，都必须符合这些宪法要求。

我们认为，巴西对基因组学中人工智能的监管，应当纳入专门的偏见审计义务，定期评估算法在不同人群中的表现。负责医疗器械注册的国家卫生监督局（ANVISA）（包括作为医疗器械的软件，即所谓的SaMD），需要制定技术标准，在基因诊断人工智能系统的验证和审批过程中，充分考虑巴西人口的遗传多样性。

此外，关于人工智能模型局限性的透明度至关重要。当某一算法系统仅在特定人群中经过性能验证时，医疗专业人员和患者必须获得告知，以便在充分了解这些限制的前提下作出临床决策。

监管前景与未来之路

审视国际监管格局可以发现，不同法域对医疗和基因组学领域的人工智能监管采取了不同的做法。欧盟通过《人工智能法案》（AI Act），将医疗领域的人工智能应用归为高风险，并规定了详细的合规要求，包括影响评估、强制性技术文档和上市后监测。美国则采取了更偏重行业的做法，由FDA（美国食品药品监督管理局）针对作为医疗器械的人工智能软件制定专门的审批框架。

在巴西，我们认为，要对基因检测和个性化医疗中的人工智能实施有效监管，需要多部门协调配合的方式。ANPD、ANVISA、联邦医学委员会（CFM）和卫生部必须协同行动，构建一套涵盖问题多个维度的规范框架：数据保护、患者安全、医疗器械质量、职业伦理和公平获取。

值得强调的是，我们认为以下几项要素对该领域的适当监管至关重要。第一，在基因诊断场景中部署人工智能系统之前，须进行算法影响评估，并分析对不同人群的风险。第二，设立监管沙盒，在主管机关的监督下，允许对新技术进行受控试验。第三，确立基因组数据的互操作性和可携带性标准，避免技术锁定（lock-in），保障患者对自身基因信息的自主权。

最后，我们要强调，对基因组学中人工智能的监管，不能脱离关于医疗可及性与社会公正的更广泛讨论而孤立地考虑。基于人工智能的个性化医疗，有潜力使社会大大受益，但如果只有一部分享有特权的人群才能获得，也有可能加剧不平等。一项真正致力于公共利益的监管，应当包含相应机制，推动这些技术在统一健康系统（SUS）中的普及，确保计算基因组学的进步惠及每一位巴西人。

这一话题与人工智能监管直接相关，我们已就此撰写了专门的文章。

这一话题与金融领域人工智能监管直接相关，我们已就此撰写了专门的文章。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.