IA na Educação: Regulação de Sistemas de Avaliação Automatizada

Sistemas de inteligência artificial já avaliam milhões de estudantes no Brasil e no mundo, mas a ausência de regulação específica levanta questões jurídicas urgentes sobre transparência, discriminação algorítmica e direitos fundamentais dos avaliados.

O Avanço da Avaliação Automatizada no Ambiente Educacional

A utilização de sistemas de inteligência artificial na educação deixou de ser uma projeção futurista para se tornar realidade concreta em instituições de ensino brasileiras e internacionais. Plataformas de ensino adaptativo, corretores automáticos de redações, sistemas de monitoramento de provas online (proctoring) e algoritmos de análise de desempenho estudantil compõem hoje o cotidiano de escolas, universidades e concursos públicos. Observa-se que essa transformação tecnológica acontece em ritmo acelerado, enquanto o arcabouço jurídico necessário para proteger os direitos dos estudantes avança de forma consideravelmente mais lenta.

Quando se analisa o cenário atual, identifica-se que a avaliação automatizada abrange desde a correção de questões objetivas (tarefa relativamente simples do ponto de vista computacional) até a análise de textos dissertativos, passando pela atribuição de notas comportamentais e pela geração de perfis preditivos de desempenho acadêmico. Cada uma dessas aplicações envolve riscos jurídicos distintos e demanda abordagens regulatórias específicas. A correção automatizada de redações, por exemplo, levanta questões sobre a capacidade real de um algoritmo avaliar criatividade, argumentação e pensamento crítico, competências que historicamente dependem do julgamento humano qualificado.

No contexto brasileiro, verifica-se que o Exame Nacional do Ensino Médio (ENEM) já utiliza tecnologias de apoio à correção, e diversas bancas de concursos públicos implementaram sistemas de proctoring com reconhecimento facial durante o período de provas remotas. Plataformas privadas de educação utilizam algoritmos proprietários para classificar estudantes, recomendar conteúdos e, em alguns casos, determinar aprovação ou reprovação em módulos de ensino. Essa realidade exige que o Direito ofereça respostas adequadas para proteger garantias constitucionais como o devido processo legal, a igualdade e o direito à educação.

Fundamentos Jurídicos para a Regulação de Sistemas de IA na Avaliação

A Constituição Federal de 1988 estabelece a educação como direito social fundamental e consagra princípios que impactam diretamente a discussão sobre avaliação automatizada. O princípio da igualdade (artigo 5º, caput), o direito ao contraditório e à ampla defesa (artigo 5º, LV), o princípio da publicidade dos atos administrativos (artigo 37) e o próprio direito à educação (artigo 205) formam a base constitucional sobre a qual qualquer sistema de avaliação, automatizado ou não, precisa se sustentar. Quando um algoritmo avalia um estudante sem possibilidade de revisão humana ou sem transparência sobre os critérios utilizados, identifica-se potencial violação a esses princípios fundamentais.

A Lei Geral de Proteção de Dados (Lei nº 13.709/2018) oferece instrumentos relevantes para essa discussão. O artigo 20 da LGPD garante ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais, incluindo decisões destinadas a definir perfil pessoal, profissional, de consumo e de crédito ou aspectos de personalidade. Entende-se que avaliações educacionais realizadas exclusivamente por algoritmos se enquadram nessa categoria, conferindo ao estudante o direito de solicitar revisão humana e de obter informações claras sobre os critérios e procedimentos utilizados na decisão automatizada.

O Marco Legal da Inteligência Artificial, que tramita no Congresso Nacional, representa uma oportunidade para estabelecer regras específicas para o uso de IA em contextos educacionais. Os projetos de lei em discussão classificam aplicações de IA em diferentes níveis de risco, e argumentamos que sistemas de avaliação educacional devem ser enquadrados como alto risco, dada sua capacidade de afetar trajetórias acadêmicas e profissionais de forma significativa. Essa classificação implicaria obrigações mais rigorosas de transparência, auditabilidade e supervisão humana.

A avaliação educacional automatizada exige o mesmo rigor de transparência e possibilidade de contestação que qualquer decisão administrativa capaz de afetar direitos fundamentais do cidadão.

No plano internacional, o Regulamento Europeu de Inteligência Artificial (AI Act) classifica expressamente sistemas de IA utilizados em educação e formação profissional como de alto risco quando determinam o acesso, a admissão ou a atribuição de pessoas a instituições de ensino, ou quando avaliam resultados de aprendizagem. Essa abordagem europeia serve como referência importante para o legislador brasileiro, ainda que as particularidades do sistema educacional nacional exijam adaptações.

Riscos Concretos: Vieses Algorítmicos e Discriminação na Avaliação

Um dos problemas mais graves que se identifica nos sistemas de avaliação automatizada é o potencial de reprodução e amplificação de vieses discriminatórios. Algoritmos de machine learning aprendem a partir de dados históricos e, quando esses dados refletem desigualdades estruturais (socioeconômicas, raciais, regionais), o sistema tende a perpetuá-las em suas avaliações. Em um país marcado por profundas desigualdades educacionais como o Brasil, esse risco assume proporções especialmente preocupantes.

Vieses em Corretores Automáticos de Texto

Sistemas de correção automática de redações são treinados com textos previamente avaliados por corretores humanos. Quando o conjunto de treinamento contém vieses (conscientes ou inconscientes) dos corretores originais, o algoritmo incorpora esses vieses como padrões legítimos de avaliação. Pesquisas internacionais já demonstraram que corretores automáticos podem atribuir notas sistematicamente inferiores a textos que utilizam variantes linguísticas associadas a determinados grupos sociais ou regionais. No contexto brasileiro, onde a diversidade linguística é enorme e o domínio da norma culta está diretamente correlacionado ao acesso a educação de qualidade, essa questão ganha contornos de justiça social.

Discriminação por Reconhecimento Facial em Proctoring

Sistemas de monitoramento de provas online que utilizam reconhecimento facial apresentam taxas de erro significativamente maiores para pessoas negras, conforme documentado em estudos técnicos amplamente divulgados. Quando esses sistemas sinalizam falsos positivos (indicando irregularidade onde não existe), estudantes negros são desproporcionalmente prejudicados, podendo ter suas avaliações anuladas ou ser submetidos a processos disciplinares injustos. Considera-se que a utilização de tais sistemas sem auditoria prévia de viés racial configura violação ao princípio constitucional da igualdade e à legislação antidiscriminatória.

Perfis Preditivos e Determinismo Algorítmico

Outro risco que merece atenção jurídica é a criação de perfis preditivos de desempenho estudantil. Algoritmos que classificam alunos como “de baixo potencial” ou “propensos à evasão” podem gerar profecias autorrealizáveis, na medida em que influenciam a alocação de recursos, a atenção pedagógica e as oportunidades oferecidas a cada estudante. Entende-se que o uso de tais perfis sem salvaguardas adequadas viola o direito à igualdade de oportunidades e pode configurar discriminação indireta, especialmente quando os critérios preditivos se correlacionam com características socioeconômicas ou raciais.

Diretrizes para uma Regulação Efetiva

Com base na análise do cenário jurídico e dos riscos identificados, propomos que a regulação de sistemas de avaliação automatizada na educação observe princípios fundamentais que garantam a proteção dos direitos dos avaliados sem inviabilizar o desenvolvimento tecnológico responsável.

O princípio da transparência algorítmica deve ocupar posição central em qualquer marco regulatório. Instituições que utilizam sistemas de avaliação automatizada precisam informar claramente aos avaliados que estão sendo submetidos a avaliação por IA, quais critérios o sistema utiliza, como os dados pessoais são tratados e quais são os mecanismos de contestação disponíveis. Essa transparência não implica necessariamente a divulgação do código-fonte do algoritmo (o que poderia conflitar com direitos de propriedade intelectual), mas exige que os critérios de avaliação sejam explicáveis em linguagem acessível.

A garantia de revisão humana constitui outro pilar indispensável. Nenhuma decisão educacional com impacto significativo na trajetória do estudante (aprovação, reprovação, classificação em processos seletivos, concessão de certificados) deve ser tomada exclusivamente por um sistema automatizado sem possibilidade de revisão por profissional humano qualificado. A LGPD já prevê esse direito de forma genérica, mas defende-se que a legislação educacional estabeleça procedimentos específicos para a revisão de avaliações automatizadas, com prazos, competências e critérios definidos.

A auditoria periódica e independente de viés é igualmente necessária. Sistemas de avaliação automatizada devem ser submetidos a auditorias regulares que verifiquem a existência de vieses discriminatórios, com metodologia padronizada e resultados publicados. Essas auditorias devem analisar não apenas o desempenho geral do sistema, mas seu comportamento diferenciado em relação a grupos definidos por raça, gênero, condição socioeconômica, deficiência e origem regional.

Por fim, considera-se essencial o estabelecimento de mecanismos de responsabilização clara. Quando um sistema de avaliação automatizada produz resultados discriminatórios ou incorretos, deve haver definição inequívoca sobre quem responde pelos danos: a instituição de ensino que adotou o sistema, o desenvolvedor da tecnologia ou ambos, de forma solidária. A atual indefinição sobre responsabilidade civil por danos causados por sistemas de IA representa obstáculo significativo ao exercício dos direitos dos estudantes prejudicados.

O Papel das Instituições de Ensino e do Poder Público

Além do marco regulatório legislativo, observa-se que instituições de ensino e órgãos públicos devem adotar medidas práticas para garantir o uso ético e juridicamente seguro de sistemas de avaliação automatizada. A elaboração de políticas internas de governança de IA, a capacitação de professores e gestores sobre os limites e riscos da avaliação algorítmica, e a criação de canais acessíveis para contestação de resultados são ações que podem ser implementadas independentemente da aprovação de novas leis.

O Ministério da Educação e o Conselho Nacional de Educação têm papel fundamental na definição de diretrizes que orientem as instituições de ensino. Resoluções e pareceres desses órgãos podem estabelecer padrões mínimos de transparência e supervisão humana, aplicáveis tanto à rede pública quanto à rede privada de ensino. Da mesma forma, o Ministério Público e a Defensoria Pública podem atuar de forma preventiva, exigindo informações sobre os sistemas utilizados e promovendo ações civis públicas quando identificadas violações de direitos coletivos.

Na esfera dos concursos públicos e processos seletivos para ingresso em instituições de ensino superior, a regulação assume importância ainda maior. Decisões tomadas nesses contextos afetam diretamente o acesso a cargos públicos e a vagas universitárias, direitos constitucionalmente protegidos. Defende-se que a utilização de sistemas de avaliação automatizada em concursos públicos seja condicionada à publicação prévia de relatório de impacto algorítmico, nos moldes do relatório de impacto à proteção de dados pessoais previsto na LGPD, adaptado para contemplar as especificidades do contexto educacional.

A articulação entre autoridades de proteção de dados, órgãos de defesa do consumidor e entidades educacionais é necessária para construir um ecossistema regulatório coerente. A Autoridade Nacional de Proteção de Dados (ANPD) já tem competência para fiscalizar o tratamento de dados pessoais em contextos educacionais, mas sua atuação precisa ser complementada por órgãos com expertise específica no setor educacional.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada.