IA y proceso administrativo: automatización y garantías

Esta página es una traducción del texto original en portugués, ofrecida para facilitar la lectura. Trata del derecho brasileño. En caso de divergencia, prevalece la versión en portugués. Leer el original en portugués

La inteligencia artificial ya está transformando los procesos administrativos en Brasil, pero su adopción exige un equilibrio entre eficiencia y respeto a las garantías fundamentales de los administrados.

El avance de la inteligencia artificial en los procesos administrativos

En los últimos años observamos una expansión significativa del uso de herramientas de inteligencia artificial en los órganos de la administración pública brasileña. Desde sistemas de clasificación automatizada de solicitudes hasta plataformas que ayudan en el análisis de documentos y en la instrucción del procedimiento, la tecnología se ha ido incorporando como instrumento de modernización del aparato estatal. Esta transformación no es una simple tendencia pasajera, sino una respuesta concreta a la necesidad de dar salida al enorme volumen de procesos administrativos que se tramitan en autarquías, agencias reguladoras y demás entes públicos.

En el ámbito previsional, por ejemplo, se verifica que el INSS (Instituto Nacional del Seguro Social de Brasil) ya utiliza mecanismos automatizados para conceder determinados beneficios, mediante el cruce de datos de registro y de cotizaciones, sin intervención humana directa en todas las etapas. De la misma manera, las agencias reguladoras han implementado algoritmos para monitorear obligaciones regulatorias y detectar irregularidades en los sectores fiscalizados. Estas iniciativas prometen reducir los plazos de análisis, disminuir los costos operativos y estandarizar decisiones que antes dependían exclusivamente del criterio individual de los funcionarios.

Sin embargo, la automatización de los procesos administrativos plantea cuestionamientos jurídicos relevantes. Cuando un algoritmo participa en la formación de una decisión administrativa, surgen dudas sobre la transparencia, la motivación de los actos, el derecho de contradicción y la posibilidad de revisión por parte de un agente humano. En este artículo se analiza cómo la legislación brasileña trata estas cuestiones y qué garantías deben observarse para que la adopción de la IA en la administración pública sea legítima.

Marco normativo: la Ley General de IA y el derecho administrativo

El debate legislativo sobre la regulación de la inteligencia artificial en Brasil ha cobrado fuerza con la tramitación de proyectos de ley que buscan establecer principios, derechos y obligaciones para el desarrollo y el uso de sistemas de IA. La discusión parlamentaria reconoce la necesidad de crear un marco normativo que contemple, entre otros aspectos, el uso de estas tecnologías por parte del poder público. Los principios que orientan esta regulación incluyen la transparencia, la explicabilidad, la no discriminación, la supervisión humana y la rendición de cuentas.

Además del marco regulatorio específico para la IA, el proceso administrativo en Brasil ya cuenta con una base normativa sólida. La Ley n.º 9.784/1999, que regula el proceso administrativo en el ámbito federal, establece principios como legalidad, finalidad, motivación, razonabilidad, proporcionalidad, amplia defensa y contradicción. Estos principios siguen siendo plenamente aplicables cuando la administración pública decide utilizar sistemas automatizados. Por el contrario, entendemos que la automatización vuelve aún más necesaria la observancia rigurosa de estas garantías, pues el administrado puede encontrar mayor dificultad para comprender e impugnar una decisión generada por un algoritmo que una decisión dictada por un funcionario identificable.

La Ley General de Protección de Datos (Ley n.º 13.709/2018) también desempeña un papel central en este contexto. El artículo 20 de la LGPD (Ley General de Protección de Datos Personales de Brasil) garantiza al titular de datos personales el derecho de solicitar la revisión de las decisiones adoptadas únicamente con base en un tratamiento automatizado que afecten sus intereses. Esta previsión se aplica directamente a los procesos administrativos en los que se utiliza la IA para aprobar o denegar solicitudes, clasificar riesgos o asignar puntajes a los ciudadanos. Se constata que la conjunción de la LGPD con la Ley n.º 9.784/1999 crea un sistema de protección que, si se implementa adecuadamente, puede resguardar los derechos de los administrados incluso frente a decisiones algorítmicas.

El deber de motivación y la explicabilidad algorítmica

Uno de los puntos más sensibles en la intersección entre la IA y el proceso administrativo es el deber de motivación. La Constitución Federal y la legislación infraconstitucional exigen que los actos administrativos sean motivados, es decir, que la autoridad competente indique los presupuestos de hecho y de derecho que fundamentan la decisión. Cuando un sistema de IA participa en esa decisión, la motivación no puede limitarse a informar que «el sistema recomendó denegar la solicitud». Es indispensable que el órgano público sea capaz de explicar, en un lenguaje accesible, qué criterios utilizó el algoritmo, qué datos se tomaron en cuenta y cómo se llegó a esa conclusión específica.

La eficiencia que aporta la inteligencia artificial a los procesos administrativos solo es legítima cuando va acompañada de transparencia, explicabilidad y una posibilidad real de revisión humana de las decisiones automatizadas.

Esta exigencia de explicabilidad representa un desafío técnico considerable, especialmente cuando se emplean modelos de aprendizaje automático más complejos, en los que la lógica decisoria no es fácilmente traducible a términos comprensibles para los legos. Aun así, consideramos que la carga de garantizar la explicabilidad recae sobre la administración pública, que no puede beneficiarse de la eficiencia de la automatización sin asumir la responsabilidad de hacer que sus decisiones sean comprensibles y susceptibles de control.

Garantías del administrado frente a decisiones automatizadas

La introducción de sistemas de IA en los procesos administrativos no puede traducirse en una disminución de las garantías constitucionales y legales reconocidas a los ciudadanos. A continuación se analizan los principales derechos que deben preservarse en este contexto y cómo puede asegurarse su efectividad en la práctica.

Derecho de contradicción y a la amplia defensa

La contradicción y la amplia defensa, consagradas en el artículo 5.º, inciso LV, de la Constitución Federal, exigen que el administrado tenga la oportunidad de manifestarse antes de cualquier decisión que afecte sus derechos. En el contexto de la automatización, esto significa que el ciudadano debe ser informado de que se está utilizando un sistema de IA en el análisis de su proceso, debe tener acceso a los criterios empleados por el algoritmo y debe poder presentar argumentos y pruebas que eventualmente contradigan la conclusión automatizada. El uso de la IA no puede crear una presunción absoluta de corrección que imposibilite la defensa del interesado.

Derecho a la revisión humana

Consideramos que toda decisión administrativa adoptada con base en un procesamiento automatizado debe poder ser revisada por un agente humano calificado. Este derecho, que encuentra respaldo tanto en la LGPD como en los principios generales del derecho administrativo, funciona como salvaguarda frente a errores algorítmicos, sesgos en los datos de entrenamiento y situaciones atípicas que el sistema automatizado puede no ser capaz de evaluar adecuadamente. La revisión humana no debe ser meramente formal, limitada a una simple homologación del resultado algorítmico, sino un análisis sustancial del caso concreto.

Derecho a la no discriminación

Los sistemas de inteligencia artificial pueden reproducir e incluso amplificar los sesgos presentes en los datos históricos utilizados para su entrenamiento. En el ámbito administrativo, esto puede dar lugar a un trato desigual de los ciudadanos por criterios como el lugar de residencia, el perfil socioeconómico, el género o la raza, aunque tales criterios no estén programados de forma explícita en el algoritmo. La administración pública tiene el deber de realizar auditorías periódicas de sus sistemas automatizados para identificar y corregir eventuales discriminaciones, de modo que la IA sea un instrumento de igualdad y no de perpetuación de las desigualdades.

Aplicaciones prácticas y desafíos sectoriales

El uso de la IA en los procesos administrativos presenta características y desafíos distintos según el sector de aplicación. En el campo previsional, la automatización puede agilizar la concesión de beneficios cuyos requisitos son objetivamente verificables (como el tiempo de cotización y la edad), pero enfrenta limitaciones importantes en situaciones que exigen una valoración subjetiva, como el análisis de la incapacidad laboral o la caracterización de la unión estable (união estável, convivencia de pareja reconocida por el derecho brasileño) a efectos de la pensión por fallecimiento.

En el sector tributario, los algoritmos de cruce de datos ya se utilizan ampliamente para identificar inconsistencias en las declaraciones fiscales y seleccionar contribuyentes para su fiscalización. En este contexto, la preocupación central es garantizar que los criterios de selección sean transparentes y que el contribuyente tenga plenas condiciones de ejercer su defensa, presentando justificaciones para las eventuales divergencias señaladas por el sistema.

Las agencias reguladoras también han incorporado herramientas de IA para el monitoreo de mercados, el análisis de cumplimiento regulatorio y la instrucción de procesos sancionadores. En estos casos, es fundamental que la decisión sancionadora propiamente dicha permanezca bajo la responsabilidad de agentes humanos, y que la IA actúe como herramienta auxiliar en la recopilación y organización de evidencias, sin sustituir el juicio fundamentado de la autoridad competente.

Otro campo de aplicación relevante es el de los procesos de licitación, en los que los sistemas automatizados pueden ayudar en el análisis de propuestas, la verificación de documentos de habilitación y la identificación de colusión entre licitantes. La complejidad y el elevado valor económico involucrados en estas decisiones refuerzan la necesidad de una supervisión humana rigurosa y de mecanismos eficaces de impugnación por parte de los participantes.

Caminos hacia una automatización responsable

Ante el escenario analizado, entendemos que la adopción de la inteligencia artificial en los procesos administrativos brasileños debe observar un conjunto de directrices para que la modernización tecnológica se armonice con el Estado Democrático de Derecho. En primer lugar, es esencial que los órganos públicos realicen evaluaciones de impacto antes de implementar sistemas automatizados, identificando los riesgos potenciales para los derechos de los administrados y estableciendo medidas de mitigación adecuadas.

En segundo lugar, defendemos la adopción de registros de auditoría (logs) que permitan rastrear el funcionamiento del algoritmo en cada caso concreto, lo que facilita tanto el control interno como el ejercicio del derecho de defensa por parte del ciudadano. La documentación detallada del proceso decisorio automatizado es una condición necesaria para la efectividad del deber de motivación y para la viabilidad de la revisión judicial de los actos administrativos.

Consideramos también indispensable invertir en la capacitación de los funcionarios públicos que operan y supervisan sistemas de IA. Una supervisión humana efectiva presupone que los agentes responsables comprendan, al menos en líneas generales, el funcionamiento de los algoritmos bajo su responsabilidad y sean capaces de identificar resultados inconsistentes o potencialmente discriminatorios.

Por último, la participación social en el proceso de implementación de estas tecnologías es un elemento que no puede descuidarse. Las consultas públicas, las audiencias y los mecanismos de transparencia activa contribuyen a que la sociedad siga e influya en las decisiones tecnológicas de la administración pública, fortaleciendo la legitimidad democrática del uso de la IA en el sector público.

Este tema guarda relación directa con el proceso electrónico en los juzgados previsionales, asunto que abordamos en un artículo específico.

Este tema guarda relación directa con la IA en la administración pública, asunto que abordamos en un artículo específico.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.