Isto não é ficção científica, a IA já está a matar pessoas

Numa audiência recente, os legisladores foram informados de que as forças armadas dos EUA estão a implementar esta tecnologia para visar os adversários, com os civis na mira

O CEO da Palantir, Alex Karp, declarou num painel em 2024 que “a tecnologia deve ser capaz de reduzir drasticamente a quantidade de danos colaterais, mortes de civis”. O ex-CEO da Google, Eric Schmidt, e o ex-diretor adjunto da CIA, David Cohen, concordaram.

Os defensores do uso de inteligência artificial nas forças armadas há muito que apresentam alguma versão deste argumento — que a adoção da IA ​​pelos militares levará a uma redução dos danos para os civis.

O deputado Jim McGovern (D-Mass.) resumiu o argumento durante uma audição no Congresso sobre o uso de IA nas forças armadas na quarta-feira. “O nosso governo argumentou que a IA poderia melhorar as avaliações dos prováveis ​​efeitos das operações militares e reduzir o risco de baixas civis”, disse McGovern.

A questão já não é teórica, uma vez que as forças armadas dos EUA já estão a implantar IA. O Pentágono atacou 13 mil alvos apenas nos primeiros 38 dias de guerra, com a ajuda do sistema Maven Smart da Palantir, que identificava alvos e escolhia as armas utilizadas nos ataques.

Mas os especialistas presentes na audição, organizada pela Comissão de Direitos Humanos Tom Lantos, afirmaram que o argumento de que a IA reduz os danos a civis simplesmente não encontra suporte nos factos, citando o Irão, a Ucrânia, o Iémen e Gaza como exemplos.

"Discordo disso", disse Steven Feldstein, investigador sénior do Programa de Democracia, Conflito e Governação da Carnegie Endowment for International Peace. Embora alguns alardeiem que a precisão dos sistemas de IA chega aos 90%, Feldstein afirma que o número real pode estar mais próximo dos 50%.

Deborah Brown, diretora adjunta de tecnologia, direitos e investigações da Human Rights Watch, também não ficou convencida com o argumento. "Seja Israel em Gaza, seja o Irão, as provas não sugerem que isso esteja a limitar os danos, devido ao elevado número de civis mortos."

Os parlamentares questionaram se a IA desempenhou algum papel no ataque de 28 de fevereiro a uma escola primária feminina em Minab, no Irão, que matou mais de 170 pessoas. Shyam Sankar, da Palantir, defendeu o uso do Maven pelas forças armadas quando questionado sobre o alegado envolvimento da sua empresa no ataque. "É uma tragédia para aquelas raparigas, com certeza", disse Sankar. "O que eu diria é que, na história da guerra, a tecnologia sempre reduziu os danos colaterais".

Mas Feldstein explicou que "mesmo que haja mais precisão, como o número de alvos é muito maior, o número final de civis afetados é provavelmente também muito maior".

Por exemplo, as Forças de Defesa de Israel afirmam ter uma taxa de precisão de 90% com o Lavender, o seu sistema de mira por IA utilizado em Gaza. Mas Amanda Klasing, diretora nacional de relações governamentais e advocacia da Amnistia Internacional EUA, salientou que a precisão não importa quando a proporcionalidade é completamente ignorada, como quando uma bomba de 900 kg é lançada sobre um edifício residencial.

Os sistemas de IA também executam instruções baseadas em regras de empenhamento determinadas por humanos, que podem ser baseadas em instruções que não priorizam a redução de danos a civis. Se um exército decide "que é aceitável que morram cinco civis por cada suspeito que é alvo de um ataque... está a dizer à máquina o que é aceitável", disse Feldstein.

O sistema Lavender foi utilizado para identificar 37 000 homens palestinianos como alvos. Mas uma fonte dos serviços de informação disse ao The Guardian que estavam constantemente sob pressão para incluir mais alvos. "Os números variavam constantemente, porque isso depende de onde se estabelece o critério para definir o que é um agente do Hamas", disse a fonte. As Forças de Defesa de Israel também aprovaram estes ataques a alvos de baixo nível, mesmo que isso significasse matar 15 a 20 civis como dano colateral.

Mesmo com os defensores da IA ​​a prometerem uma abordagem mais humana à guerra, o treino para a redução de danos a civis foi drasticamente reduzido. O Centro de Excelência em Proteção Civil do Pentágono, criado em 2023 para treinar os comandos combatentes em métodos de redução de danos a civis, está a reduzir o seu pessoal de 40 em janeiro de 2025 para apenas nove até ao final deste ano.

Testemunhas salientaram que parte do problema é que o Pentágono não apresentou provas de que os sistemas de IA mitiguem os danos aos civis. "Se de facto estão a limitar os danos a civis e a ser mais precisos e eficazes, então vamos ver as provas", disse Brown.

Nick Cleveland-Stout

Fonte: Responsible Statecraft, 18 de setembro de 2026