Armas Autônomas Letais: Regulamentação Internacional

Armas autônomas letais representam um dos maiores desafios regulatórios do século XXI, exigindo respostas urgentes do direito internacional para preservar o controle humano sobre decisões de vida e morte.

O que são armas autônomas letais e por que preocupam a comunidade internacional

Armas autônomas letais, frequentemente referidas pela sigla LAWS (Lethal Autonomous Weapons Systems), são sistemas de armamento capazes de selecionar e engajar alvos sem intervenção humana direta. Diferentemente dos drones operados remotamente, nos quais um operador humano toma a decisão final de disparo, esses sistemas utilizam algoritmos de inteligência artificial para identificar, rastrear e, potencialmente, eliminar alvos de forma independente. Analisa-se aqui um cenário que há poucos anos parecia restrito à ficção científica, mas que hoje ocupa o centro dos debates em fóruns multilaterais.

A preocupação fundamental reside na delegação de decisões letais a máquinas. Quando um algoritmo determina quem vive e quem morre, surgem questões profundas sobre responsabilidade jurídica, proporcionalidade no uso da força e respeito ao direito internacional humanitário. Verifica-se que a velocidade do desenvolvimento tecnológico tem superado a capacidade dos Estados de estabelecer marcos regulatórios adequados, criando um vácuo normativo perigoso que potências militares exploram para avançar seus programas de armamento autônomo.

Entre os exemplos concretos que já circulam no cenário militar global, encontramos sistemas de defesa aérea com modos automáticos de engajamento, munições vagantes que sobrevoam áreas de combate buscando alvos predefinidos e veículos submarinos autônomos com capacidade ofensiva. A proliferação desses sistemas não se limita às grandes potências: o barateamento da tecnologia de drones e de processadores com capacidade de inteligência artificial torna viável que atores não estatais e países com orçamentos militares modestos também desenvolvam versões simplificadas dessas armas.

Esse assunto tem relação direta com ia e democracia, tema que abordamos em artigo específico.

Esse assunto tem relação direta com ia e direito internacional, tema que abordamos em artigo específico.

O marco regulatório atual: a Convenção sobre Certas Armas Convencionais e os debates na ONU

O principal fórum multilateral que tem abordado a questão das armas autônomas letais é o Grupo de Especialistas Governamentais (GGE) no âmbito da Convenção sobre Certas Armas Convencionais (CCW), vinculada às Nações Unidas. Desde 2014, delegações de dezenas de países se reúnem periodicamente em Genebra para discutir os desafios impostos por essas tecnologias. Observamos, contudo, que após mais de uma década de deliberações, o progresso tem sido limitado, em grande parte devido à regra do consenso que permite a qualquer Estado bloquear avanços substantivos.

Em 2019, o GGE conseguiu estabelecer onze princípios orientadores sobre armas autônomas letais. Entre eles, destaca-se a afirmação de que o direito internacional humanitário se aplica plenamente a todos os sistemas de armas (incluindo os autônomos), que a responsabilidade humana pelo uso da força deve ser mantida e que a prestação de contas não pode ser transferida a máquinas. Esses princípios, embora representem um avanço conceitual, não possuem força vinculante e não estabelecem obrigações concretas para os Estados.

Verifica-se que a comunidade internacional encontra-se dividida em pelo menos três posições distintas. Um grupo de países, liderado por nações como Áustria, Costa Rica e vários Estados africanos e latino-americanos, defende a proibição preventiva (preemptive ban) de armas totalmente autônomas, argumentando que a decisão de tirar uma vida humana jamais deve ser delegada a uma máquina. Outro grupo, composto principalmente pelas grandes potências militares, resiste a qualquer instrumento juridicamente vinculante, alegando que a tecnologia ainda está em desenvolvimento e que regulamentações prematuras poderiam prejudicar usos legítimos e defensivos. Uma terceira posição intermediária busca estabelecer regulamentações que garantam o controle humano significativo sem necessariamente proibir toda forma de autonomia em sistemas de armas.

A questão central não é se devemos regular armas autônomas letais, mas se conseguiremos fazê-lo antes que sua proliferação torne qualquer regulamentação ineficaz.

No âmbito da Assembleia Geral das Nações Unidas, resoluções recentes têm solicitado ao Secretário-Geral a elaboração de relatórios sobre os desafios das armas autônomas e recomendado que os Estados acelerem as negociações. O Secretário-Geral da ONU tem sido vocal em sua defesa de um instrumento juridicamente vinculante, posicionando-se publicamente pela necessidade de limites claros à autonomia em sistemas de armas letais.

Direito internacional humanitário e os limites jurídicos à autonomia letal

O direito internacional humanitário (DIH), consolidado nas Convenções de Genebra e seus Protocolos Adicionais, estabelece princípios fundamentais que se aplicam a qualquer meio ou método de guerra, incluindo armas autônomas. Analisa-se aqui como esses princípios impõem limites significativos (ainda que nem sempre suficientes) ao desenvolvimento e emprego de sistemas autônomos letais.

O princípio da distinção exige que as partes em conflito diferenciem, em todas as circunstâncias, entre combatentes e civis, dirigindo suas operações exclusivamente contra objetivos militares. Para que uma arma autônoma respeite esse princípio, seus algoritmos precisariam ser capazes de realizar distinções complexas que, muitas vezes, desafiam até mesmo operadores humanos experientes. Um civil que carrega uma ferramenta pode ser confundido com um combatente armado; um hospital pode abrigar posições militares sem perder sua proteção integral. Essas nuances contextuais representam desafios enormes para sistemas baseados em reconhecimento de padrões.

O princípio da proporcionalidade proíbe ataques nos quais os danos civis incidentais esperados sejam excessivos em relação à vantagem militar concreta e direta prevista. Essa análise envolve julgamentos de valor que exigem avaliação contextual, ponderação de fatores qualitativos e, fundamentalmente, uma capacidade de empatia e raciocínio moral que sistemas algorítmicos, por definição, não possuem. Verifica-se que traduzir o conceito de “excessivo” em parâmetros computacionais permanece um problema sem solução satisfatória.

O princípio da precaução, previsto no Protocolo Adicional I, obriga as partes a tomar todas as precauções viáveis para minimizar danos civis. Isso inclui a obrigação de cancelar ou suspender um ataque quando se torna aparente que o objetivo não é militar ou que o ataque seria desproporcional. A capacidade de um sistema autônomo de reavaliar sua decisão em tempo real, diante de informações imprevistas, levanta questões técnicas e jurídicas ainda não resolvidas.

Além dos princípios do DIH, a chamada Cláusula Martens (presente no preâmbulo das Convenções de Haia e reiterada no Protocolo Adicional I) estabelece que, em casos não cobertos por tratados específicos, civis e combatentes permanecem protegidos pelos princípios do direito internacional derivados dos costumes estabelecidos, dos princípios de humanidade e dos ditames da consciência pública. Essa cláusula tem sido invocada por defensores da proibição como argumento de que armas que operam sem consciência humana violam, por sua própria natureza, os ditames da consciência pública.

A questão da responsabilidade: quem responde quando uma máquina mata

Um dos problemas jurídicos mais complexos associados às armas autônomas letais é o chamado “accountability gap” (lacuna de responsabilização). Nos conflitos armados, o direito internacional estabelece cadeias de responsabilidade que vão do soldado que executa uma ordem ao comandante que a emite, podendo alcançar líderes políticos e militares. Quando uma decisão letal é tomada por um algoritmo, essa cadeia se fragmenta de maneira preocupante.

Analisam-se as possíveis atribuições de responsabilidade. O comandante militar que autoriza o emprego de um sistema autônomo poderia ser responsabilizado? A responsabilidade de comando, conforme desenvolvida pelo direito penal internacional, exige que o superior tenha conhecimento (ou devesse ter conhecimento) de que seus subordinados cometeriam ou cometeram violações. Quando o “subordinado” é um algoritmo cujas decisões nem sempre são previsíveis ou explicáveis, a aplicação desse conceito torna-se problemática.

O fabricante do sistema poderia ser responsabilizado civilmente por danos causados por falhas no algoritmo? A responsabilidade do produtor, embora bem desenvolvida no direito civil de muitos países, enfrenta dificuldades quando aplicada a sistemas de IA cujo comportamento emerge de processos de aprendizado de máquina (machine learning), tornando difícil identificar um “defeito” específico no sentido jurídico tradicional. O programador que desenvolveu o algoritmo também enfrenta questões semelhantes, especialmente quando o sistema evolui e aprende a partir de dados de treinamento que podem conter vieses ou imprecisões.

Verifica-se que essa lacuna de responsabilização não é apenas um problema teórico. Ela gera incentivos perversos: se ninguém pode ser responsabilizado por uma decisão letal tomada por uma máquina, o custo político e jurídico de causar baixas civis diminui, potencialmente aumentando a incidência de violações do direito humanitário. Esse raciocínio reforça o argumento de que o controle humano significativo (meaningful human control) sobre decisões letais não é apenas uma questão ética, mas uma necessidade jurídica para preservar a eficácia dos mecanismos de responsabilização existentes.

Perspectivas para a regulamentação e o papel do Brasil

O cenário regulatório para armas autônomas letais encontra-se em um momento decisivo. Diante da lentidão das negociações no âmbito da CCW, diversos atores têm explorado caminhos alternativos. A possibilidade de negociação de um tratado independente (fora da estrutura da CCW) ganha força, seguindo o modelo bem-sucedido do Tratado sobre a Proibição de Armas Nucleares (TPAN), que foi negociado na Assembleia Geral da ONU quando o consenso se mostrou impossível nos fóruns tradicionais.

Iniciativas regionais também avançam. O Parlamento Europeu aprovou resoluções pedindo a proibição de armas totalmente autônomas e a regulamentação de sistemas semiautônomos. Organizações da sociedade civil, como a Campaign to Stop Killer Robots (coalizão de ONGs presente em dezenas de países), mantêm pressão constante sobre governos e organismos internacionais, contribuindo para manter o tema na agenda política global.

Analisa-se o posicionamento do Brasil nesse debate. O país tem participado ativamente das reuniões do GGE na CCW e, historicamente, defende a importância do controle humano sobre sistemas de armas. A posição brasileira reconhece a aplicabilidade do direito internacional humanitário a armas autônomas e apoia o desenvolvimento de um marco regulatório, embora tenha sido cautelosa quanto à forma específica que esse instrumento deve assumir. O Brasil, como membro não permanente recorrente do Conselho de Segurança e com tradição diplomática de mediação, pode desempenhar papel relevante na construção de consensos.

No plano doméstico, observamos que o ordenamento jurídico brasileiro não possui legislação específica sobre armas autônomas letais. A Política Nacional de IA e o Marco Legal da IA em discussão no Congresso tratam de IA em termos amplos, mas não abordam especificamente aplicações militares autônomas. Essa lacuna legislativa, embora compreensível dado o estágio inicial da tecnologia no país, merece atenção à medida que o debate internacional avança e as implicações para a defesa nacional se tornam mais concretas.

Verifica-se que o futuro da regulamentação dependerá, em grande medida, da capacidade da comunidade internacional de superar as divergências entre Estados que priorizam vantagens militares e aqueles que defendem limites éticos e jurídicos claros. O que permanece inequívoco é que o direito internacional humanitário existente já impõe obrigações relevantes e que qualquer uso de armas autônomas deve respeitar os princípios de distinção, proporcionalidade e precaução. A regulamentação específica, quando vier, deverá complementar (e não substituir) esse arcabouço normativo fundamental.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada.