IA na educação: regulação precisa equilibrar inovação para reduzir desigualdades

O avanço de ferramentas tecnológicas avançadas nas escolas brasileiras coloca em xeque a capacidade do ordenamento jurídico de acompanhar a velocidade da tecnologia, e especialistas defendem que a regulação encontre equilíbrio entre proteção de dados, garantia de direitos fundamentais e estímulo à inovação capaz de reduzir desigualdades históricas no acesso à aprendizagem.

O dilema regulatório no ambiente educacional

A incorporação de ferramentas tecnológicas avançadas nas salas de aula brasileiras tem provocado um debate intenso sobre os limites e as possibilidades da regulação estatal. De um lado, há a necessidade premente de proteger crianças e adolescentes, público especialmente vulnerável, contra práticas abusivas de tratamento de dados pessoais. De outro, cresce a preocupação de que normas excessivamente restritivas sufoquem aplicações educacionais com potencial transformador.

O Projeto de Lei 2.338/2023, atualmente em tramitação no Congresso Nacional, busca estabelecer um marco regulatório geral para sistemas algorítmicos no país. Quando aplicado ao setor educacional, o texto suscita questões adicionais, porquanto o ambiente escolar envolve direitos constitucionalmente protegidos com peso reforçado, consoante o disposto no artigo 227 da Constituição Federal.

Especialistas ouvidos em debates recentes apontam que a regulação não pode ser concebida como mera barreira à entrada de novas tecnologias. O modelo regulatório precisa diferenciar usos de alto risco, como sistemas de avaliação automatizada com consequências disciplinares, de aplicações de baixo impacto, como assistentes de leitura adaptativa.

Proteção de dados de crianças e adolescentes

A Lei Geral de Proteção de Dados Pessoais, segundo a regra do artigo 14, dispensa tratamento diferenciado a dados de menores, exigindo consentimento específico e destacado de pelo menos um dos pais ou responsáveis. Quando ferramentas tecnológicas processam informações comportamentais, padrões de erro, tempo de resposta e até reações emocionais de estudantes, o nível de sensibilidade desses dados é particularmente elevado.

Pesquisadores da área têm alertado para o risco de profiling educacional, prática pela qual sistemas algorítmicos classificam estudantes em categorias preditivas que podem acompanhá-los ao longo da trajetória escolar. A formação de perfis comportamentais opacos, sem mecanismos efetivos de contestação, contraria o princípio da autodeterminação informativa e pode reproduzir, ou mesmo amplificar, vieses já existentes no sistema educacional.

Sem governança técnica adequada, ferramentas concebidas para individualizar o ensino podem cristalizar desigualdades sob aparência de neutralidade científica.

A Autoridade Nacional de Proteção de Dados publicou orientações específicas sobre o tratamento de dados de menores em ambientes digitais, ressaltando que o melhor interesse da criança deve prevalecer sobre interesses comerciais ou de eficiência operacional das instituições de ensino.

Inovação como vetor de inclusão

A despeito dos riscos identificados, há reconhecimento crescente de que aplicações tecnológicas bem desenhadas podem funcionar como instrumentos efetivos de redução de desigualdades educacionais. Sistemas de tutoria personalizada permitem que estudantes em regiões com escassez de professores especializados tenham acesso a recursos antes restritos a grandes centros urbanos. Ferramentas de acessibilidade automatizada beneficiam alunos com deficiência visual, auditiva ou cognitiva, ampliando a efetividade do direito à educação inclusiva previsto na Lei Brasileira de Inclusão.

O desafio do legislador, portanto, reside em construir um arcabouço normativo que não converta proteção em proibição. A experiência internacional, notadamente o marco europeu sobre sistemas algorítmicos, oferece subsídios relevantes ao adotar abordagem baseada em risco, classificando aplicações educacionais como categoria de alto risco sem, contudo, vedá-las preventivamente.

Para o ambiente brasileiro, especialistas sugerem a adoção de mecanismos de governança que combinem avaliação prévia de impacto algorítmico, auditorias independentes periódicas, transparência sobre critérios de funcionamento e canais efetivos de revisão humana de decisões automatizadas que afetem o percurso escolar do estudante.

Caminhos para uma regulação equilibrada

A construção de um modelo regulatório adequado ao setor educacional demanda articulação entre múltiplos atores: o legislador federal, responsável pelo marco geral; o Ministério da Educação, encarregado das diretrizes curriculares e operacionais; a Autoridade Nacional de Proteção de Dados, no controle do tratamento informacional; e os conselhos estaduais e municipais de educação, na adaptação às realidades locais.

A participação de comunidades escolares, famílias, docentes e dos próprios estudantes na elaboração das normas é condição de legitimidade democrática. Regulações construídas sem escuta dos destinatários tendem a produzir efeitos práticos divergentes dos pretendidos, gerando insegurança jurídica e resistência institucional à adoção responsável das tecnologias.

O equilíbrio almejado passa, ademais, pela qualificação técnica de gestores educacionais e operadores do direito. Compreender o funcionamento de sistemas algorítmicos é pressuposto para fiscalizar adequadamente sua aplicação e para identificar quando e como o uso tecnológico ultrapassa as fronteiras do juridicamente admissível.

Leia tambem:

Perguntas Frequentes

Quem é responsável pela proteção de dados dos estudantes em ferramentas tecnológicas escolares?

A responsabilidade é compartilhada entre a instituição de ensino, na qualidade de controladora dos dados, e a empresa fornecedora da ferramenta, geralmente classificada como operadora. Ambas respondem perante a Autoridade Nacional de Proteção de Dados e, em caso de dano, podem ser civilmente responsabilizadas. Os pais ou responsáveis legais devem ser previamente informados sobre quais dados serão coletados, com qual finalidade e por quanto tempo serão armazenados.

Qual o principal risco do uso de sistemas algorítmicos em avaliações escolares?

O risco central reside na opacidade dos critérios de decisão e na possibilidade de reprodução de vieses presentes nos dados que treinaram o sistema. Estudantes podem ser classificados em categorias preditivas que influenciam decisões pedagógicas sem que haja transparência sobre os parâmetros utilizados. A ausência de mecanismos efetivos de contestação compromete o direito à revisão humana de decisões automatizadas, garantia expressamente prevista na Lei Geral de Proteção de Dados Pessoais.

Como conciliar regulação rigorosa e estímulo à inovação no setor educacional?

A solução tem sido buscada por meio de modelos regulatórios baseados em risco, que diferenciam aplicações conforme seu potencial de impacto sobre direitos fundamentais. Aplicações de alto risco recebem exigências mais rigorosas de transparência, auditoria e supervisão, ao passo que ferramentas de baixo impacto seguem regime mais flexível. Esse desenho permite que iniciativas com potencial de reduzir desigualdades educacionais sejam viabilizadas sem comprometer a proteção dos titulares dos dados.