AI Act da União Europeia: Lições para o Brasil

A União Europeia aprovou o regulamento mais abrangente do mundo sobre inteligência artificial, e o Brasil pode (e deve) aprender com essa experiência para construir seu próprio marco regulatório.

O que é o AI Act e por que ele importa globalmente

O AI Act (Regulamento de Inteligência Artificial) da União Europeia representa o primeiro marco regulatório completo dedicado exclusivamente à disciplina jurídica dos sistemas de inteligência artificial. Aprovado em março de 2024 pelo Parlamento Europeu e com vigência escalonada a partir de 2025, o regulamento estabelece regras proporcionais ao nível de risco que cada aplicação de IA representa para os direitos fundamentais dos cidadãos europeus.

Quando se analisa o contexto global, percebemos que o AI Act europeu não surge isoladamente. Ele é parte de uma tendência regulatória que reconhece a necessidade de governança sobre tecnologias que já impactam decisões em saúde, crédito, segurança pública, emprego e justiça. A abordagem europeia se diferencia por adotar um modelo baseado em risco, classificando os sistemas de IA em quatro categorias distintas: risco inaceitável (proibido), alto risco (fortemente regulado), risco limitado (obrigações de transparência) e risco mínimo (livre utilização).

Entre as práticas consideradas de risco inaceitável, encontramos a pontuação social por governos (social scoring), a manipulação subliminar de comportamento que cause dano, a exploração de vulnerabilidades de grupos específicos e determinadas formas de vigilância biométrica em tempo real em espaços públicos. Essas proibições refletem uma escolha política clara: existem aplicações de IA que simplesmente não devem existir em uma sociedade democrática, independentemente dos ganhos de eficiência que possam oferecer.

Para os sistemas classificados como alto risco (utilizados em infraestrutura crítica, educação, emprego, serviços essenciais, aplicação da lei e administração da justiça), o regulamento exige avaliação de conformidade prévia, documentação técnica detalhada, supervisão humana efetiva, transparência sobre o funcionamento do sistema e mecanismos de contestação por parte dos afetados.

O cenário regulatório brasileiro: onde estamos

Quando examinamos a situação do Brasil, verifica-se que o país ainda não possui uma legislação específica e abrangente sobre inteligência artificial. O Projeto de Lei nº 2.338/2023, que tramita no Congresso Nacional, é a principal iniciativa legislativa em curso. Inspirado em parte pelo modelo europeu, o projeto brasileiro também adota uma abordagem baseada em risco, mas apresenta diferenças significativas em relação ao AI Act.

O Brasil já conta com um arcabouço jurídico que incide parcialmente sobre aplicações de IA. A Lei Geral de Proteção de Dados (Lei nº 13.709/2018) regula o tratamento de dados pessoais, inclusive por sistemas automatizados, e garante ao titular o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado. O Marco Civil da Internet (Lei nº 12.965/2014) estabelece princípios para o uso da internet no país. O Código de Defesa do Consumidor oferece proteção nas relações de consumo que envolvam sistemas automatizados.

Contudo, essas normas não foram desenhadas para lidar com as especificidades da inteligência artificial. A LGPD, por exemplo, trata da proteção de dados pessoais, mas não aborda questões como vieses algorítmicos em sistemas que não processam dados pessoais, responsabilidade civil por danos causados por IA generativa ou governança de modelos de propósito geral. Existe, portanto, uma lacuna regulatória que precisa ser preenchida de forma estratégica.

Regular a inteligência artificial não significa frear a inovação, mas sim garantir que o desenvolvimento tecnológico ocorra dentro de limites que protejam direitos fundamentais e promovam a confiança da sociedade nos sistemas automatizados.

Observamos também que a Autoridade Nacional de Proteção de Dados (ANPD) tem se posicionado como um ator relevante nesse debate, publicando análises preliminares sobre a regulação de IA e participando ativamente das discussões legislativas. A questão de qual órgão terá competência regulatória sobre IA no Brasil permanece em aberto e é um dos pontos mais sensíveis do debate.

Lições concretas do AI Act para a legislação brasileira

A primeira lição relevante diz respeito à classificação baseada em risco. O modelo europeu demonstra que tratar todas as aplicações de IA da mesma forma é inadequado. Um chatbot de atendimento ao cliente apresenta riscos muito diferentes de um sistema que auxilia decisões judiciais ou que determina a concessão de benefícios previdenciários. O Brasil pode se beneficiar dessa abordagem escalonada, adaptando as categorias de risco à realidade nacional. Consideramos fundamental que a classificação brasileira leve em conta as desigualdades sociais e digitais do país, que potencializam os impactos negativos de sistemas de IA enviesados.

A segunda lição envolve a exigência de transparência e explicabilidade. O AI Act determina que os usuários sejam informados quando estão interagindo com um sistema de IA e que os sistemas de alto risco sejam suficientemente transparentes para permitir a interpretação de seus resultados. No contexto brasileiro, essa exigência ganha importância adicional quando pensamos em sistemas utilizados pelo INSS para análise de benefícios, por bancos para concessão de crédito ou por empregadores para seleção de candidatos. O cidadão brasileiro precisa ter o direito de compreender, ao menos em termos gerais, por que uma decisão automatizada foi tomada em seu desfavor.

A terceira lição se refere à supervisão humana obrigatória. O AI Act exige que sistemas de alto risco incorporem mecanismos que permitam a supervisão efetiva por seres humanos. Essa exigência é particularmente relevante para o Brasil no contexto da administração pública, onde decisões automatizadas sobre benefícios sociais, tributação e serviços públicos afetam milhões de pessoas. A supervisão humana não pode ser meramente formal; ela precisa ser substancial, com agentes públicos capacitados e com autonomia para questionar e reverter decisões algorítmicas.

A quarta lição trata da governança de IA de propósito geral (como os grandes modelos de linguagem). O AI Act introduziu obrigações específicas para provedores desses modelos, incluindo documentação técnica, política de conformidade com direitos autorais e avaliação de riscos sistêmicos para os modelos mais poderosos. Consideramos que o Brasil deve atentar para essa categoria, já que a maioria dos sistemas de IA generativa utilizados no país é desenvolvida por empresas estrangeiras, o que levanta questões complexas sobre jurisdição e enforcement.

Desafios específicos do contexto brasileiro

Ao propor uma transposição de lições do AI Act para o Brasil, precisamos reconhecer que existem diferenças estruturais significativas entre os contextos europeu e brasileiro. A União Europeia possui uma tradição regulatória consolidada, com autoridades independentes dotadas de recursos técnicos e financeiros robustos. O Brasil, por sua vez, enfrenta desafios de capacidade institucional que não podem ser ignorados.

O primeiro desafio é a definição da autoridade competente. O AI Act designa autoridades nacionais em cada Estado-membro, com coordenação pelo AI Office da Comissão Europeia. No Brasil, o debate sobre qual órgão regulará a IA envolve a ANPD, agências reguladoras setoriais e a possibilidade de criação de uma nova autoridade. A escolha institucional terá consequências profundas para a efetividade da regulação. Defendemos que, independentemente do modelo adotado, a autoridade precisa contar com autonomia técnica, orçamento adequado e capacidade de diálogo com os diferentes setores regulados.

O segundo desafio envolve o impacto sobre a inovação nacional. Diferentemente da Europa, que possui um ecossistema de IA relativamente maduro, o Brasil ainda está construindo sua base tecnológica nessa área. Uma regulação excessivamente restritiva pode inibir o desenvolvimento de startups e centros de pesquisa brasileiros, criando uma dependência ainda maior de soluções estrangeiras. A regulação precisa encontrar um equilíbrio entre proteção e estímulo à inovação, possivelmente por meio de sandboxes regulatórios (ambientes controlados de teste) como os previstos no próprio AI Act.

O terceiro desafio é a inclusão digital e a literacia algorítmica. Para que os direitos previstos em uma futura lei de IA sejam efetivos, os cidadãos brasileiros precisam ter condições mínimas de compreender que estão sendo afetados por decisões algorítmicas e de exercer seus direitos de contestação. Em um país onde parcela significativa da população ainda enfrenta barreiras de acesso digital, esse é um desafio que não pode ser subestimado.

A questão da responsabilidade civil

Um ponto que merece atenção especial é a responsabilidade civil por danos causados por sistemas de IA. A União Europeia, paralelamente ao AI Act, trabalha em uma diretiva específica sobre responsabilidade civil por IA, que facilita o ônus da prova para as vítimas. No Brasil, a discussão sobre se a responsabilidade deve ser objetiva (independente de culpa) ou subjetiva (dependente de demonstração de culpa) permanece central no debate legislativo. Entendemos que, para sistemas de alto risco, a responsabilidade objetiva é mais adequada à proteção dos direitos dos cidadãos, especialmente considerando a assimetria de informação entre desenvolvedores de IA e as pessoas afetadas por suas decisões.

Perspectivas para o futuro da regulação de IA no Brasil

O AI Act europeu, apesar de suas virtudes, não é um modelo perfeito. Ele foi criticado por sua complexidade, pelo potencial impacto sobre a competitividade europeia e por certas lacunas em relação a aplicações militares e de segurança nacional. O Brasil tem a oportunidade de aprender tanto com os acertos quanto com os equívocos europeus.

Consideramos que os princípios fundamentais de uma boa regulação de IA para o Brasil incluem: proporcionalidade (exigências compatíveis com o nível de risco), transparência (direito de saber quando se é afetado por IA), supervisão humana (especialmente em decisões que afetem direitos fundamentais), não discriminação (combate ativo a vieses algorítmicos), responsabilização (mecanismos claros para reparação de danos) e participação social (processo regulatório aberto e democrático).

O momento atual é decisivo. Enquanto o PL 2.338/2023 avança no Congresso, outros países também estão definindo suas estratégias regulatórias. China, Canadá, Japão e diversos países da América Latina desenvolvem suas próprias abordagens. O Brasil tem a chance de se posicionar como referência regulatória no Sul Global, construindo um modelo que seja tecnicamente sólido, socialmente justo e economicamente viável.

Precisamos acompanhar atentamente a evolução legislativa e participar ativamente do debate público sobre o tema. A regulação de inteligência artificial não é uma questão exclusivamente tecnológica; é uma questão de direitos fundamentais, de democracia e de que tipo de sociedade queremos construir nas próximas décadas.

Esse assunto tem relação direta com deepfakes e regulação de IA no Brasil, tema que abordamos em artigo específico.

Esse assunto tem relação direta com marco legal da inteligência artificial no Brasil, tema que abordamos em artigo específico.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada.