Regulación de la IA en pruebas genéticas y medicina personalizada

Esta página es una traducción del texto original en portugués, ofrecida para facilitar la lectura. Trata del derecho brasileño. En caso de divergencia, prevalece la versión en portugués. Leer el original en portugués

La inteligencia artificial aplicada a las pruebas genéticas y a la medicina personalizada avanza con rapidez, pero el marco regulatorio brasileño aún intenta seguir el ritmo de los desafíos éticos y jurídicos de esta revolución en la salud.

El avance de la inteligencia artificial en la genómica y sus efectos jurídicos

En los últimos años hemos sido testigos de una profunda transformación en la manera en que la medicina utiliza los datos genéticos para diagnósticos, pronósticos y tratamientos individualizados. Los algoritmos de inteligencia artificial han pasado a desempeñar un papel central en la interpretación de secuenciaciones genómicas, en la identificación de variantes patogénicas y en la sugerencia de terapias personalizadas a partir del perfil genético de cada paciente. Este escenario, que hace poco parecía propio de la ciencia ficción, ya es una realidad en laboratorios y centros de investigación de Brasil y del mundo.

Desde el punto de vista jurídico, la convergencia entre la IA y la genómica plantea cuestiones que atraviesan múltiples áreas del derecho. Nos encontramos ante un campo en el que la protección de datos personales sensibles, el derecho a la privacidad, la regulación sanitaria, la responsabilidad civil y la bioética se entrelazan de manera compleja. La Ley General de Protección de Datos (LGPD, Ley nº 13.709/2018) clasifica los datos genéticos como datos personales sensibles, lo que impone obligaciones más estrictas para su tratamiento, almacenamiento y comparto. Sin embargo, la legislación vigente no fue concebida para abordar específicamente las particularidades de los sistemas de IA que procesan esa información.

Observamos que el Proyecto de Ley nº 2.338/2023, que busca establecer el Marco Legal de la Inteligencia Artificial en Brasil, contiene disposiciones relevantes sobre la clasificación de riesgo de los sistemas de IA. Las aplicaciones en el ámbito de la salud, en especial las que implican diagnósticos y decisiones clínicas, tienden a ser consideradas sistemas de alto riesgo, lo que exige mayor transparencia, trazabilidad y supervisión humana. No obstante, la regulación específica del uso de la IA en pruebas genéticas todavía carece de un desarrollo normativo detallado.

Los datos genéticos como datos sensibles: implicaciones para los sistemas de IA

Al analizar el tratamiento de datos genéticos por sistemas de inteligencia artificial, se advierte una capa adicional de complejidad en comparación con otros datos de salud. La información genética tiene características únicas: es inmutable a lo largo de la vida de la persona, revela predisposiciones a enfermedades futuras, tiene implicaciones directas para los familiares biológicos (que no consintieron el tratamiento) y puede utilizarse con fines discriminatorios en ámbitos como los seguros, el empleo y el crédito.

La LGPD establece, en su artículo 11, que el tratamiento de datos sensibles solo puede realizarse con el consentimiento específico y destacado del titular o, sin consentimiento, en supuestos taxativos como la protección de la vida, la tutela de la salud y la realización de estudios por un órgano de investigación. Con todo, se constata que la aplicación de estas bases legales al contexto de los sistemas de IA que procesan datos genéticos presenta lagunas significativas. ¿Cómo garantizar que el consentimiento sea verdaderamente informado cuando el propio funcionamiento del algoritmo es opaco? ¿Cómo asegurar la minimización de datos cuando los modelos de machine learning suelen requerir volúmenes masivos de información para operar con precisión?

La Autoridad Nacional de Protección de Datos (ANPD) ha emitido orientaciones sobre el uso de la IA en relación con los datos personales, pero hasta el momento no ha publicado una regulación específica sobre los datos genéticos procesados por algoritmos. Este vacío regulatorio genera inseguridad jurídica tanto para las empresas de biotecnología como para los profesionales de la salud que utilizan herramientas basadas en IA para interpretar los resultados de pruebas genéticas. Consideramos esencial que la regulación futura contemple reglas claras sobre la anonimización efectiva de los datos genómicos (cuya reidentificación es técnicamente posible incluso después de procesos de desidentificación), los plazos de conservación, el derecho de supresión y la portabilidad de los datos genéticos entre plataformas.

Responsabilidad civil y supervisión humana en las decisiones clínicas algorítmicas

Uno de los puntos más delicados de la regulación de la IA en la medicina personalizada es la responsabilidad civil cuando un sistema algorítmico contribuye a una decisión clínica equivocada. Si un algoritmo de IA interpreta incorrectamente una variante genética y sugiere un tratamiento inadecuado (o no identifica una predisposición relevante), ¿quién responde por el daño causado al paciente? ¿El médico que confió en la herramienta? ¿El laboratorio que la adoptó? ¿El desarrollador del software? ¿El hospital que implementó el sistema?

El ordenamiento jurídico brasileño, por medio del Código de Defensa del Consumidor y del Código Civil, ya ofrece instrumentos para exigir responsabilidad en las relaciones de consumo y en la prestación de servicios de salud. Sin embargo, la introducción de un agente algorítmico en la cadena de decisión clínica hace considerablemente más difícil establecer el nexo causal e identificar al responsable. Se observa que el PL 2.338/2023 propone la responsabilidad del proveedor del sistema de IA, pero la delimitación de esa responsabilidad en contextos médicos aún requiere un debate profundo.

La exigencia de una supervisión humana significativa (y no meramente formal) es otro aspecto que merece atención regulatoria. No basta con que un profesional de la salud «valide» automáticamente los resultados generados por la IA sin comprender el razonamiento subyacente. La supervisión debe ser efectiva, lo que presupone que el médico tenga acceso a explicaciones comprensibles sobre cómo llegó el algoritmo a esa conclusión. En este sentido, adquiere especial relevancia el derecho a la explicación previsto en la LGPD (artículo 20): el titular de los datos tiene derecho a solicitar la revisión de las decisiones automatizadas que afecten sus intereses, incluida la información sobre los criterios y procedimientos utilizados.

La regulación de la IA en las pruebas genéticas debe equilibrar el estímulo a la innovación con la protección de los derechos fundamentales, de modo que el avance tecnológico no prevalezca sobre la dignidad y la autodeterminación informativa de los pacientes.

Se constata que organismos internacionales, como la Organización Mundial de la Salud (OMS), ya han publicado directrices sobre ética y gobernanza de la IA en la salud, que subrayan la necesidad de transparencia algorítmica, equidad en el acceso y protección contra los sesgos discriminatorios. Estos principios, aunque no son vinculantes, sirven de referencia para la construcción de marcos regulatorios nacionales más sólidos.

Sesgos algorítmicos y equidad en la salud genómica

Una preocupación central que identificamos en la aplicación de la IA a la genómica se refiere a los sesgos presentes en los datos de entrenamiento de los algoritmos. Históricamente, las grandes bases de datos genómicas se construyeron con predominio de muestras de poblaciones de ascendencia europea. Esto significa que los modelos de IA entrenados con esos conjuntos de datos pueden mostrar un desempeño inferior al analizar los genomas de personas de otras ascendencias, incluida la población brasileña (caracterizada por una gran diversidad genética y por el mestizaje).

Este sesgo no es solo una cuestión técnica; es una cuestión de justicia y de derechos fundamentales. Si un sistema de IA no logra identificar una variante patogénica en un paciente a causa de su ascendencia, nos encontramos ante una forma de discriminación algorítmica con consecuencias potencialmente graves para la salud y la vida de esa persona. La Constitución Federal de 1988 consagra el derecho a la salud (artículo 196) y el principio de igualdad (artículo 5º), y todo sistema tecnológico utilizado en el ámbito de la salud debe operar en conformidad con esos mandatos constitucionales.

Consideramos que la regulación brasileña de la IA en la genómica debe incorporar obligaciones específicas de auditoría de sesgos, con evaluaciones periódicas del desempeño de los algoritmos en diferentes grupos poblacionales. La Agencia Nacional de Vigilancia Sanitaria (ANVISA), responsable del registro de dispositivos médicos (incluidos los programas informáticos considerados dispositivos médicos, los llamados SaMD), debe desarrollar criterios técnicos que contemplen la diversidad genética de la población brasileña en los procesos de validación y aprobación de sistemas de IA para el diagnóstico genético.

Además, la transparencia sobre las limitaciones de los modelos de IA es fundamental. Los profesionales de la salud y los pacientes deben ser informados cuando un sistema algorítmico tiene un desempeño validado solo en determinados grupos poblacionales, para que puedan tomar decisiones clínicas con plena conciencia de esas restricciones.

Perspectivas regulatorias y caminos hacia el futuro

Al examinar el escenario regulatorio internacional, percibimos que distintas jurisdicciones están adoptando enfoques diferentes para la regulación de la IA en la salud y la genómica. La Unión Europea, mediante la AI Act (Reglamento de Inteligencia Artificial), clasificó las aplicaciones de IA en salud como de alto riesgo y estableció requisitos detallados de conformidad, entre ellos evaluaciones de impacto, documentación técnica obligatoria y monitoreo posterior a la comercialización. Estados Unidos, por su parte, ha adoptado un enfoque más sectorial, en el que la FDA (Food and Drug Administration) desarrolla frameworks específicos para la aprobación de programas de IA como dispositivos médicos.

En Brasil, entendemos que una regulación eficaz de la IA en las pruebas genéticas y la medicina personalizada exige un enfoque multisectorial y coordinado. La ANPD, la ANVISA, el Consejo Federal de Medicina (CFM) y el Ministerio de Salud deben actuar de forma articulada para construir un marco normativo que contemple las múltiples dimensiones del problema: protección de datos, seguridad del paciente, calidad del dispositivo médico, ética profesional y acceso equitativo.

Conviene destacar algunos elementos que consideramos esenciales para una regulación adecuada en este campo. En primer lugar, la exigencia de evaluaciones de impacto algorítmico antes de implantar sistemas de IA en contextos de diagnóstico genético, con análisis de riesgos para diferentes grupos poblacionales. En segundo lugar, la creación de entornos de pruebas regulatorios (sandboxes) que permitan la experimentación controlada de nuevas tecnologías, bajo la supervisión de las autoridades competentes. En tercer lugar, el establecimiento de estándares de interoperabilidad y portabilidad de los datos genómicos, para evitar el cautiverio tecnológico (lock-in) y garantizar la autonomía de los pacientes sobre su propia información genética.

Por último, subrayamos que la regulación de la IA en la genómica no puede concebirse de manera aislada del debate más amplio sobre el acceso a la salud y la justicia social. La medicina personalizada basada en IA tiene el potencial de beneficiar enormemente a la sociedad, pero también corre el riesgo de profundizar las desigualdades si permanece al alcance de solo una parte privilegiada de la población. Una regulación verdaderamente comprometida con el interés público debe contemplar mecanismos que promuevan la democratización de estas tecnologías en el ámbito del Sistema Único de Salud (SUS, el sistema público de salud de Brasil), de modo que los avances de la genómica computacional lleguen a todos los brasileños.

Este asunto guarda relación directa con la regulación de la inteligencia artificial, tema que abordamos en un artículo específico.

Este asunto guarda relación directa con la regulación de la IA en el sector financiero, tema que abordamos en un artículo específico.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.