Regulación de la IA en las agencias reguladoras

Esta página es una traducción del texto original en portugués, ofrecida para facilitar la lectura. Trata del derecho brasileño. En caso de divergencia, prevalece la versión en portugués. Leer el original en portugués

Las agencias reguladoras brasileñas enfrentan el desafío de crear marcos normativos para la inteligencia artificial en sectores estratégicos como la salud, las telecomunicaciones, la energía y las finanzas.

El papel de las agencias reguladoras en la era de la inteligencia artificial

Vivimos un momento de profunda transformación en la administración pública brasileña. La inteligencia artificial ya impregna sectores regulados como la salud, las telecomunicaciones, el transporte, la energía eléctrica y el mercado financiero, y las agencias reguladoras deben responder a esa realidad con instrumentos normativos adecuados. Al analizar el escenario actual, vemos que la regulación sectorial de la IA no es solo una cuestión técnica, sino una necesidad institucional que involucra seguridad, transparencia, protección de derechos fundamentales y desarrollo económico sostenible.

Las agencias reguladoras brasileñas (ANVISA [Agencia Nacional de Vigilancia Sanitaria], ANATEL [Agencia Nacional de Telecomunicaciones], ANEEL [Agencia Nacional de Energía Eléctrica], ANS [Agencia Nacional de Salud Suplementaria], ANAC [Agencia Nacional de Aviación Civil], CVM [Comisión de Valores Mobiliarios], BACEN [Banco Central de Brasil], entre otras) poseen competencia técnica especializada en sus respectivos sectores. Esa experiencia sectorial las coloca en una posición privilegiada para comprender los riesgos específicos que la IA puede presentar en cada área regulada. Un algoritmo utilizado para el diagnóstico médico presenta riesgos completamente distintos de los asociados a un sistema de IA para la fijación de precios de la energía eléctrica o para el análisis de crédito. Reconocemos, por tanto, que el enfoque regulatorio debe estar informado por cada sector y respetar las particularidades de cada ámbito.

El Marco Legal de la Inteligencia Artificial, que se tramitó en el Congreso Nacional mediante el PL 2338/2023 (Proyecto de Ley), propuso una estructura de gobernanza que articula la regulación centralizada con la regulación sectorial. En ese modelo, cada agencia reguladora conserva sus competencias para disciplinar el uso de la IA dentro de su sector, observando las directrices generales establecidas por la legislación federal. Esta arquitectura regulatoria evita tanto el vacío normativo como la superposición de competencias, y permite que la regulación se adapte a las particularidades de cada mercado regulado.

Sectores estratégicos y desafíos regulatorios específicos

Salud y vigilancia sanitaria

En el sector de la salud, la ANVISA enfrenta el desafío de regular los dispositivos médicos basados en IA, como los programas de apoyo al diagnóstico, los sistemas de triaje automatizado y los algoritmos para la planificación quirúrgica. La agencia ya tiene experiencia en la evaluación de software como dispositivo médico (SaMD), pero la naturaleza adaptativa de algunos sistemas de IA (que siguen «aprendiendo» tras su implementación) exige nuevos paradigmas de evaluación de la conformidad. La tendencia internacional, seguida por agencias como la FDA en Estados Unidos y la EMA en Europa, es adoptar marcos de monitoreo continuo que van más allá de la tradicional aprobación previa a la comercialización.

La regulación sectorial de la inteligencia artificial exige que cada agencia reguladora equilibre la innovación tecnológica con la protección de derechos, adaptando sus instrumentos normativos a las particularidades del sector que supervisa.

La ANS, por su parte, debe lidiar con el uso de la IA por parte de las operadoras de planes de salud para autorizar o negar procedimientos. Los algoritmos que deciden sobre la cobertura asistencial inciden directamente en el derecho a la salud, y la regulación debe garantizar que esas decisiones automatizadas sean transparentes, auditables y susceptibles de impugnación por parte del beneficiario.

Telecomunicaciones y protección de datos

La ANATEL desempeña un papel relevante en la regulación de las infraestructuras que sustentan los sistemas de IA, especialmente en el contexto de las redes 5G y la computación en el borde (edge computing). Además de la cuestión de infraestructura, la agencia monitorea las prácticas de las operadoras de telecomunicaciones que utilizan IA para la gestión de redes, la atención al consumidor y el análisis del tráfico de datos. La intersección con la Ley General de Protección de Datos (LGPD) es inevitable, pues el tratamiento masivo de datos personales es inherente al funcionamiento de los sistemas de IA en el sector de las telecomunicaciones.

Sector financiero y mercado de capitales

El Banco Central y la CVM ya demuestran una madurez regulatoria significativa en el tratamiento de la IA. El BACEN publicó orientaciones sobre el uso de algoritmos para la concesión de crédito, la fijación de precios de productos financieros y la detección de fraudes. La preocupación central en estos casos es la no discriminación algorítmica, ya que los sistemas de IA entrenados con datos históricos pueden perpetuar sesgos que derivan en la exclusión financiera de grupos vulnerables. La CVM, por su parte, sigue el uso creciente de robo-advisors (asesores de inversión automatizados) y de algoritmos de negociación de alta frecuencia, con el fin de garantizar la integridad del mercado y la protección del inversor.

Principios comunes para la regulación sectorial de la IA

Aunque cada sector regulado presenta particularidades, identificamos principios que deben guiar la actuación de todas las agencias reguladoras en la disciplina de la inteligencia artificial. El primero de ellos es la transparencia algorítmica: los sistemas de IA utilizados en sectores regulados deben ser explicables en la medida necesaria para que los reguladores puedan ejercer su función fiscalizadora y para que los ciudadanos puedan comprender las decisiones que los afectan.

La responsabilización (accountability) es otro principio fundamental. Cuando un sistema de IA causa un daño en un sector regulado (sea un diagnóstico médico equivocado, una denegación indebida de crédito o una falla en una infraestructura crítica), es necesario que existan mecanismos claros para identificar a los responsables y garantizar la reparación. Las agencias reguladoras pueden exigir que las empresas reguladas mantengan registros detallados sobre el desarrollo, el entrenamiento y la implementación de sus sistemas de IA, lo que facilita la trazabilidad en caso de incidentes.

La proporcionalidad regulatoria también merece destacarse. No todo uso de la IA en sectores regulados presenta el mismo nivel de riesgo. Las clasificaciones basadas en el riesgo (como la adoptada por el AI Act de la Unión Europea) permiten que la regulación sea más rigurosa donde los riesgos son mayores y evitan imponer obligaciones desproporcionadas a aplicaciones de bajo riesgo. Consideramos que este enfoque es especialmente relevante para el contexto brasileño, donde es necesario equilibrar la protección de los derechos con el estímulo a la innovación y a la competitividad.

La interoperabilidad regulatoria entre agencias es igualmente crucial. Muchas aplicaciones de IA operan en zonas de intersección entre sectores regulados. Un sistema de telemedicina basado en IA, por ejemplo, puede estar sujeto simultáneamente a la regulación de la ANVISA (dispositivo médico), de la ANS (plan de salud), de la ANATEL (infraestructura de telecomunicaciones) y de la Autoridad Nacional de Protección de Datos (tratamiento de datos personales). La coordinación entre estas entidades es esencial para evitar la inseguridad jurídica y los costos regulatorios excesivos para los agentes económicos.

Gobernanza regulatoria y sandboxes de IA

Una de las herramientas más prometedoras para la regulación de la IA en sectores específicos son los sandboxes regulatorios. Estos entornos controlados permiten que las empresas prueben soluciones innovadoras de IA bajo la supervisión de la agencia reguladora, con una flexibilización temporal de determinadas exigencias normativas. El Banco Central de Brasil ya implementó un sandbox regulatorio para fintechs, y esa experiencia puede ser replicada por otras agencias para evaluar el impacto de los sistemas de IA antes de establecer una regulación definitiva.

Estimamos que los sandboxes regulatorios ofrecen beneficios tanto a los reguladores como al sector privado. Las agencias adquieren conocimiento práctico sobre el funcionamiento de las tecnologías, lo que permite una regulación mejor informada y más eficaz. Las empresas, por su parte, obtienen mayor previsibilidad regulatoria y pueden adecuar sus productos antes de lanzarlos a gran escala. Es fundamental, sin embargo, que estos entornos experimentales incluyan salvaguardas para la protección de los consumidores y mecanismos de salida claramente definidos.

Otro aspecto relevante de la gobernanza regulatoria es la capacitación técnica de las propias agencias. La regulación eficaz de la IA exige que los reguladores comprendan a fondo las tecnologías que pretenden disciplinar. La inversión en la formación de cuadros técnicos, la contratación de especialistas y las alianzas con instituciones de investigación son indispensables para que las agencias ejerzan sus funciones con la competencia que el tema demanda.

Observamos además que la participación social en el proceso regulatorio de la IA es indispensable. Las consultas públicas, las audiencias con especialistas y los diálogos sectoriales contribuyen a que la regulación refleje los intereses de todos los afectados, y no solo los de los desarrolladores de tecnología o los de los grandes agentes económicos. La legitimidad democrática de la regulación depende de esa apertura a la participación plural.

Perspectivas para el futuro de la regulación sectorial de la IA en Brasil

El escenario regulatorio de la inteligencia artificial en Brasil está en plena construcción. La aprobación de un marco legal general, combinada con la actuación sectorial de las agencias reguladoras, tiende a crear un ecosistema normativo sólido y adaptable. Se estima que los principales desafíos de los próximos años incluyen la armonización entre la regulación general y la sectorial, el fortalecimiento institucional de las agencias para enfrentar la velocidad de la innovación tecnológica y la cooperación internacional en materia de estándares y certificaciones.

La experiencia comparada ofrece lecciones valiosas. La Unión Europea, con su AI Act, adoptó un enfoque basado en el riesgo que influye en reguladores de todo el mundo. Estados Unidos optó por un enfoque más descentralizado, en el que las agencias sectoriales asumen el protagonismo en la regulación de la IA dentro de sus áreas de competencia. El modelo brasileño, que combina elementos de ambos enfoques, tiene el potencial de equilibrar protección e innovación de manera adecuada a las necesidades y realidades institucionales.

Para las empresas que operan en sectores regulados y utilizan o pretenden utilizar inteligencia artificial, se recomienda prestar atención permanente a las orientaciones y normas emitidas por las respectivas agencias reguladoras. El cumplimiento regulatorio no es solo una obligación legal, sino también un diferencial competitivo y un factor de confianza ante consumidores, inversores y socios. La adopción proactiva de buenas prácticas de gobernanza de la IA (como evaluaciones de impacto algorítmico, auditorías periódicas y mecanismos de transparencia) posiciona favorablemente a las organizaciones frente a un escenario regulatorio que tiende a volverse cada vez más exigente.

Concluimos que la regulación de la IA por parte de las agencias reguladoras brasileñas representa una oportunidad para que el país construya un modelo de gobernanza tecnológica que proteja los derechos fundamentales sin inhibir la innovación. Ese equilibrio depende de la cooperación institucional, la capacitación técnica, la participación social y el compromiso con los principios de transparencia y responsabilidad. El camino regulatorio es complejo, pero las bases institucionales y jurídicas para recorrerlo con éxito ya se están estableciendo.

Este asunto guarda relación directa con la regulación de la inteligencia artificial, tema que abordamos en un artículo específico.

Este asunto guarda relación directa con la regulación de la IA en el sector financiero, tema que abordamos en un artículo específico.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.