Viés Algorítmico e Discriminação: Aspectos Jurídicos

Algoritmos que tomam decisões sobre crédito, emprego e saúde podem reproduzir e amplificar discriminações históricas, levantando questões jurídicas urgentes sobre responsabilidade e proteção de direitos fundamentais.

O que é viés algorítmico e por que ele importa para o Direito

Quando falamos em viés algorítmico, referimo-nos à tendência de sistemas automatizados de decisão produzirem resultados sistematicamente desfavoráveis para determinados grupos sociais. Esse fenômeno não é acidental: ele decorre da maneira como os algoritmos são treinados, dos dados históricos que alimentam seus modelos e das escolhas de design realizadas por desenvolvedores. Em termos práticos, um algoritmo utilizado para triagem de currículos pode penalizar candidatas mulheres se os dados de treinamento refletirem décadas de contratações predominantemente masculinas. Da mesma forma, sistemas de scoring de crédito podem atribuir pontuações inferiores a pessoas de determinadas regiões ou perfis socioeconômicos, perpetuando desigualdades estruturais.

Do ponto de vista jurídico, o viés algorítmico coloca em xeque garantias constitucionais fundamentais. O princípio da igualdade (artigo 5º, caput, da Constituição Federal), a vedação a práticas discriminatórias e o direito ao devido processo legal são diretamente afetados quando decisões automatizadas produzem impactos desproporcionais sobre grupos vulneráveis. Analisa-se aqui uma questão que transcende o campo da tecnologia: trata-se de um problema de direitos fundamentais que exige respostas normativas adequadas.

O desafio se intensifica porque muitos desses sistemas operam como “caixas-pretas”, isto é, seus processos decisórios internos são opacos até mesmo para os próprios desenvolvedores. Essa opacidade dificulta a identificação do viés, a atribuição de responsabilidade e o exercício do direito de contestação por parte das pessoas afetadas. Verifica-se que o ordenamento jurídico brasileiro já dispõe de instrumentos aplicáveis a essa realidade, embora a regulação específica ainda esteja em construção.

Marco normativo brasileiro aplicável à discriminação algorítmica

O Brasil possui um conjunto normativo que, embora não tenha sido originalmente concebido para regular inteligência artificial, oferece bases sólidas para o enfrentamento da discriminação algorítmica. A Lei Geral de Proteção de Dados (Lei nº 13.709/2018) é o instrumento mais relevante nesse contexto. Seu artigo 20 garante ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais, incluindo aquelas destinadas a definir perfil pessoal, profissional, de consumo e de crédito. Esse dispositivo representa um avanço significativo, pois reconhece que decisões automatizadas podem afetar interesses legítimos dos cidadãos e estabelece um mecanismo de controle.

Além da LGPD, o Código de Defesa do Consumidor (Lei nº 8.078/1990) oferece proteção relevante nas relações de consumo mediadas por algoritmos. A vedação a práticas abusivas, o direito à informação adequada e a responsabilidade objetiva do fornecedor são instrumentos que podem ser acionados quando um sistema automatizado produz resultados discriminatórios na oferta de produtos ou serviços. Consideramos especialmente relevante o artigo 39, inciso IX, do CDC, que proíbe a recusa de venda de bens ou prestação de serviços a quem se disponha a adquiri-los mediante pronto pagamento, dispositivo que ganha nova dimensão quando a recusa é operada por um algoritmo.

O Estatuto da Igualdade Racial (Lei nº 12.288/2010), a Lei Brasileira de Inclusão da Pessoa com Deficiência (Lei nº 13.146/2015) e demais legislações antidiscriminatórias também compõem esse arcabouço protetivo. Quando um algoritmo reproduz padrões discriminatórios relacionados a raça, gênero, deficiência ou idade, essas normas podem ser invocadas para responsabilizar os agentes envolvidos. O desafio probatório, contudo, é considerável: demonstrar que um sistema automatizado opera de forma discriminatória exige capacidade técnica que nem sempre está acessível às vítimas.

A discriminação algorítmica não é um problema exclusivamente tecnológico: é uma violação de direitos fundamentais que exige respostas jurídicas proporcionais à gravidade dos danos causados.

Observamos também que o Projeto de Lei nº 2338/2023, que estabelece o marco regulatório para inteligência artificial no Brasil, traz disposições específicas sobre sistemas de alto risco e avaliação de impacto algorítmico. Embora ainda em tramitação, esse projeto sinaliza a direção que o legislador brasileiro pretende seguir, com ênfase na transparência, na explicabilidade e na supervisão humana de decisões automatizadas.

Setores de maior risco e impacto da discriminação algorítmica

Identificamos setores nos quais o viés algorítmico produz consequências particularmente graves para os direitos dos cidadãos. O setor financeiro é um dos mais sensíveis: algoritmos de credit scoring determinam quem obtém crédito, em que condições e a que custo. Quando esses sistemas incorporam variáveis correlacionadas com raça, gênero ou localização geográfica (ainda que de forma indireta), produzem o chamado “redlining digital”, uma versão contemporânea de práticas discriminatórias historicamente documentadas no mercado financeiro.

No mercado de trabalho, ferramentas de recrutamento automatizado utilizam algoritmos para filtrar currículos, analisar entrevistas em vídeo e classificar candidatos. Casos documentados internacionalmente demonstram que esses sistemas podem reproduzir vieses de gênero, idade e origem étnica presentes nos dados históricos de contratação. No contexto brasileiro, onde a discriminação no emprego já é objeto de tutela pela CLT e pela legislação trabalhista, a introdução de decisões algorítmicas acrescenta uma camada de complexidade à fiscalização e à prova judicial.

O setor de saúde apresenta riscos igualmente relevantes. Algoritmos utilizados para triagem de pacientes, alocação de recursos e diagnóstico assistido podem produzir resultados enviesados quando treinados com dados que sub-representam determinadas populações. Em sistemas públicos de saúde, como o SUS, a adoção de ferramentas algorítmicas sem avaliação adequada de viés pode comprometer o princípio da universalidade e da equidade no acesso.

Na segurança pública, sistemas de reconhecimento facial e policiamento preditivo têm sido objeto de intenso debate. Estudos internacionais apontam taxas de erro significativamente maiores na identificação de pessoas negras e de mulheres. No Brasil, onde a seletividade do sistema penal já é amplamente reconhecida, a introdução de tecnologias enviesadas pode agravar desigualdades existentes. Analisa-se que a ausência de regulação específica para o uso dessas tecnologias pelo poder público representa uma lacuna normativa preocupante.

Mecanismos jurídicos de prevenção e responsabilização

Diante dos riscos identificados, é fundamental mapear os mecanismos jurídicos disponíveis para prevenir e remediar a discriminação algorítmica. A avaliação de impacto algorítmico (AIA) emerge como instrumento central nesse contexto. Trata-se de um procedimento sistemático para identificar, avaliar e mitigar riscos associados a sistemas automatizados de decisão antes de sua implementação. Embora o Brasil ainda não disponha de obrigatoriedade legal expressa para essa avaliação (salvo as disposições da LGPD sobre relatório de impacto à proteção de dados pessoais), consideramos que sua adoção voluntária representa boa prática de governança corporativa e pode servir como elemento de defesa em eventuais litígios.

A transparência algorítmica constitui outro pilar essencial. O direito à explicação, previsto no artigo 20, §1º, da LGPD, obriga o controlador a fornecer informações claras e adequadas sobre os critérios e procedimentos utilizados na decisão automatizada. Esse dispositivo, embora represente avanço, enfrenta limitações práticas: a complexidade técnica de muitos algoritmos de aprendizado de máquina dificulta a produção de explicações compreensíveis para o titular dos dados. Verifica-se que a regulamentação pela Autoridade Nacional de Proteção de Dados (ANPD) sobre esse tema é aguardada com expectativa pela comunidade jurídica e pelo setor de tecnologia.

No plano da responsabilização civil, entendemos que o ordenamento brasileiro já oferece fundamentos sólidos. A responsabilidade objetiva prevista no CDC, a responsabilidade civil por ato ilícito (artigos 186 e 927 do Código Civil) e a possibilidade de inversão do ônus da prova são instrumentos que podem ser adaptados ao contexto algorítmico. A questão mais complexa reside na cadeia de responsabilidade: quando um algoritmo discrimina, quem responde? O desenvolvedor do modelo, a empresa que o implementou, o fornecedor dos dados de treinamento ou todos solidariamente? Essa definição é crucial para a efetividade da tutela jurisdicional.

As auditorias algorítmicas independentes também desempenham papel relevante. Realizadas por terceiros qualificados, essas auditorias avaliam se um sistema automatizado opera de forma justa e em conformidade com a legislação aplicável. Embora ainda não sejam obrigatórias no Brasil, sua adoção vem crescendo em setores regulados, particularmente no sistema financeiro, onde o Banco Central tem demonstrado atenção ao tema da equidade algorítmica.

Perspectivas regulatórias e o papel da advocacia especializada

O cenário regulatório global para inteligência artificial está em rápida evolução. A União Europeia aprovou o AI Act (Regulamento de Inteligência Artificial), que classifica sistemas de IA por níveis de risco e impõe obrigações proporcionais, incluindo proibições para práticas consideradas inaceitáveis. Esse modelo regulatório tem influenciado discussões legislativas em diversos países, inclusive no Brasil. Acompanha-se com atenção a tramitação do marco regulatório brasileiro de IA, que deverá estabelecer regras mais específicas sobre transparência, avaliação de impacto e supervisão humana.

Para profissionais do Direito, o viés algorítmico representa tanto um desafio quanto uma oportunidade. O desafio está na necessidade de compreender minimamente o funcionamento de sistemas automatizados para poder questioná-los juridicamente. A oportunidade reside na crescente demanda por assessoria jurídica especializada em governança algorítmica, proteção de dados e direitos digitais. Empresas que utilizam sistemas de decisão automatizada precisam de orientação jurídica para garantir conformidade regulatória e mitigar riscos de litígio.

Consideramos que a atuação do Ministério Público e dos órgãos de defesa do consumidor será cada vez mais relevante nesse campo. Inquéritos civis e ações civis públicas podem ser instrumentos eficazes para combater práticas discriminatórias algorítmicas de caráter coletivo, especialmente quando afetam grupos vulneráveis de forma sistemática. A construção de jurisprudência sobre o tema, embora ainda incipiente no Brasil, tende a se consolidar na medida em que mais casos cheguem ao Judiciário.

Esse assunto tem relação direta com cloud computing, proteção de dados e desafios, tema que abordamos em artigo específico.

Esse assunto tem relação direta com IA e seguros de saúde com discriminação, tema que abordamos em artigo específico.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada.