IA en la educación: la regulación debe equilibrar la innovación para reducir las desigualdades

Esta página es una traducción del texto original en portugués, ofrecida para facilitar la lectura. Trata del derecho brasileño. En caso de divergencia, prevalece la versión en portugués. Leer el original en portugués

El avance de herramientas tecnológicas avanzadas en las escuelas brasileñas pone en duda la capacidad del ordenamiento jurídico para seguir el ritmo de la tecnología, y los especialistas sostienen que la regulación debe encontrar un equilibrio entre la protección de datos, la garantía de los derechos fundamentales y el estímulo a una innovación capaz de reducir las desigualdades históricas en el acceso al aprendizaje.

El dilema regulatorio en el ámbito educativo

La incorporación de herramientas tecnológicas avanzadas en las aulas brasileñas ha generado un intenso debate sobre los límites y las posibilidades de la regulación estatal. Por un lado, existe la necesidad apremiante de proteger a niños y adolescentes, un grupo especialmente vulnerable, frente a prácticas abusivas en el tratamiento de datos personales. Por otro, crece la preocupación de que normas excesivamente restrictivas ahoguen aplicaciones educativas con un potencial transformador.

El Proyecto de Ley 2.338/2023, que actualmente se tramita en el Congreso Nacional, busca establecer un marco regulatorio general para los sistemas algorítmicos en el país. Cuando se aplica al sector educativo, el texto plantea cuestiones adicionales, pues el entorno escolar involucra derechos constitucionalmente protegidos con un peso reforzado, conforme a lo dispuesto en el artículo 227 de la Constitución Federal.

Los especialistas consultados en debates recientes señalan que la regulación no puede concebirse como una simple barrera de entrada a las nuevas tecnologías. El modelo regulatorio debe distinguir los usos de alto riesgo, como los sistemas de evaluación automatizada con consecuencias disciplinarias, de las aplicaciones de bajo impacto, como los asistentes de lectura adaptativa.

Protección de datos de niños y adolescentes

La Ley General de Protección de Datos Personales, en la regla del artículo 14, otorga un tratamiento diferenciado a los datos de menores y exige el consentimiento específico y destacado de al menos uno de los padres o responsables. Cuando las herramientas tecnológicas procesan información sobre el comportamiento, patrones de error, tiempos de respuesta e incluso reacciones emocionales de los estudiantes, el nivel de sensibilidad de esos datos es particularmente elevado.

Investigadores del área han advertido sobre el riesgo del profiling educativo, práctica por la cual los sistemas algorítmicos clasifican a los estudiantes en categorías predictivas que pueden acompañarlos a lo largo de su trayectoria escolar. La formación de perfiles de comportamiento opacos, sin mecanismos efectivos de impugnación, contraviene el principio de autodeterminación informativa y puede reproducir, o incluso amplificar, sesgos ya existentes en el sistema educativo.

La Autoridad Nacional de Protección de Datos ha publicado orientaciones específicas sobre el tratamiento de datos de menores en entornos digitales, en las que destaca que el interés superior del niño debe prevalecer sobre los intereses comerciales o de eficiencia operativa de las instituciones educativas.

Por un lado, existe la necesidad apremiante de proteger a niños y adolescentes, un grupo especialmente vulnerable, frente a prácticas abusivas en el tratamiento de datos personales.

La innovación como vector de inclusión

A pesar de los riesgos identificados, se reconoce cada vez más que las aplicaciones tecnológicas bien diseñadas pueden funcionar como instrumentos eficaces para reducir las desigualdades educativas. Los sistemas de tutoría personalizada permiten que estudiantes de regiones con escasez de profesores especializados accedan a recursos antes restringidos a los grandes centros urbanos. Las herramientas de accesibilidad automatizada benefician a los alumnos con discapacidad visual, auditiva o cognitiva y amplían la efectividad del derecho a la educación inclusiva previsto en la Ley Brasileña de Inclusión.

El desafío del legislador, por lo tanto, consiste en construir un marco normativo que no convierta la protección en prohibición. La experiencia internacional, en particular el marco europeo sobre sistemas algorítmicos, ofrece elementos relevantes al adoptar un enfoque basado en el riesgo, que clasifica las aplicaciones educativas como categoría de alto riesgo sin, no obstante, prohibirlas de manera preventiva.

Para el contexto brasileño, los especialistas sugieren adoptar mecanismos de gobernanza que combinen la evaluación previa del impacto algorítmico, auditorías independientes periódicas, transparencia sobre los criterios de funcionamiento y canales efectivos de revisión humana de las decisiones automatizadas que afecten el recorrido escolar del estudiante.

Caminos hacia una regulación equilibrada

La construcción de un modelo regulatorio adecuado para el sector educativo exige la articulación de múltiples actores: el legislador federal, responsable del marco general; el Ministerio de Educación, encargado de las directrices curriculares y operativas; la Autoridad Nacional de Protección de Datos, que controla el tratamiento de la información; y los consejos estatales y municipales de educación, que adaptan las normas a las realidades locales.

La participación de las comunidades escolares, las familias, los docentes y los propios estudiantes en la elaboración de las normas es condición de legitimidad democrática. Las regulaciones elaboradas sin escuchar a sus destinatarios tienden a producir efectos prácticos distintos de los previstos, lo que genera inseguridad jurídica y resistencia institucional a la adopción responsable de las tecnologías.

El equilibrio buscado pasa, además, por la capacitación técnica de los gestores educativos y de los operadores del derecho. Comprender el funcionamiento de los sistemas algorítmicos es un presupuesto para fiscalizar adecuadamente su aplicación e identificar cuándo y cómo el uso de la tecnología traspasa los límites de lo jurídicamente admisible.

Preguntas frecuentes

¿Quién es responsable de la protección de los datos de los estudiantes en las herramientas tecnológicas escolares?

La responsabilidad es compartida entre la institución educativa, en su calidad de controladora de los datos, y la empresa proveedora de la herramienta, generalmente clasificada como operadora. Ambas responden ante la Autoridad Nacional de Protección de Datos y, en caso de daño, pueden ser declaradas civilmente responsables. Los padres o responsables legales deben ser informados previamente sobre qué datos se recopilarán, con qué finalidad y durante cuánto tiempo se almacenarán.

¿Cuál es el principal riesgo del uso de sistemas algorítmicos en las evaluaciones escolares?

El riesgo central radica en la opacidad de los criterios de decisión y en la posibilidad de reproducir sesgos presentes en los datos con los que se entrenó el sistema. Los estudiantes pueden ser clasificados en categorías predictivas que influyen en decisiones pedagógicas sin que haya transparencia sobre los parámetros utilizados. La ausencia de mecanismos efectivos de impugnación compromete el derecho a la revisión humana de las decisiones automatizadas, garantía expresamente prevista en la Ley General de Protección de Datos Personales.

¿Cómo conciliar una regulación rigurosa con el estímulo a la innovación en el sector educativo?

La solución se ha buscado mediante modelos regulatorios basados en el riesgo, que distinguen las aplicaciones según su potencial de impacto sobre los derechos fundamentales. Las aplicaciones de alto riesgo reciben exigencias más estrictas de transparencia, auditoría y supervisión, mientras que las herramientas de bajo impacto se rigen por un régimen más flexible. Este diseño permite que se viabilicen iniciativas con potencial para reducir las desigualdades educativas sin comprometer la protección de los titulares de los datos.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.