Drone 'Exterminador do Futuro': entenda o caso da arma com IA que matou civis e acendeu alerta

AUcrâniadisse ter confirmado nesta semana oprimeiro ataque de um drone russo controlado por inteligência artificial a resultar na morte de civis.

Segundo Kiev, o drone tomou a decisão de atacar seu alvo sem a interferência de um operador humano. A informação foi publicada na segunda-feira (24) pelo jornal americano "The New York Times".

Na terça (25),a ONU defendeu limites globais para armas autônomas, sem citar diretamente o caso denunciado pela Ucrânia.

Veja, a seguir, perguntas e respostas sobre o caso:

Autoridades ucranianas disseram no início da semana que, no dia 6 de julho, um drone autônomo, controlado por inteligência artificial, atacou e explodiu um posto de combustível na cidade de Zaporizhzhia, no leste da Ucrânia, matando três civis.

Se Kiev estiver certa, este seriao primeiro ataque de uma arma autônoma a matar civisem um confronto no mundo.

"Esse é um risco para o mundo inteiro. Em alguns anos, nós estaremos vivendo em um filme do 'Exterminador do Futuro'. Não é brincadeira. Máquinas estão tomando decisões de atacar", disse Serhiy Minaiev, comandante das defesas aéreas de Zaporizhzhia.

Após o ataque, equipes militares forenses em Zaporizhzhia examinaram o local da explosão e os destroços do equipamento para chegar à conclusão de que o ataque foi realizado utilizando recursos de inteligência artificial.

O drone estava equipado com um chip de inteligência artificial, fabricado pela americana Nvidia, que havia sido pré-programado por um operador humano para atacar um posto de combustível. Ao se aproximar do alvo, no entanto,o drone escolheu o local exato do impacto— provavelmente tanques de gás propano —de maneira autônoma.

A hipótese dos ucranianos é de que o drone havia sido "ensinado" a reconhecer os tanques, de modo a causar mais destruição.

O ataque deixou 3 mortos, entre eles, uma jovem de 19 anos.

Críticos dizem que esse tipo de armamento, que é treinado para reconhecer sozinho alvos como pontes, soldados, veículos militares etc, são mais propensos a cometer erros e até mesmo crimes de guerra, por exemplo, não distinguindo corretamente civis (que são alvos ilegítimos) de combatentes.

Sim. De acordo com o "NYT", tantoRússiaquanto Ucrânia já utilizam inteligência artificial com frequência em seus drones de combate, mas com sistemas menos sofisticados, no qual um operador humano toma previamente a decisão sobre o alvo final do equipamento.

Segundo uma reportagem do jornal "The Guardian" de abril de 2024,Israelutiliza programas de inteligência artificial para determinar locais de bombardeio e identificar membros do grupo terrorista Hamas na Faixa de Gaza, por exemplo.

Procurada pelo "NYT", a Nvidia disse que o chip em questão, que custa algumas centenas de dólares, é vendido diretamente no varejo para "estudantes, desenvolvedores e start-ups para uma série de aplicações benéficas".

O produto não é vendido diretamente na Rússia, mas pode ser encontrado por revendedores ou no mercado de segunda mão.

O uso de inteligência artificial para fazer com que armamentos tomem decisões autônomas foi condenado pelaONUe pelo Comitê Internacional daCruz Vermelha(CICV) na terça-feira (25). As entidades não citaram diretamente o incidente denunciado pela Ucrânia.

Em um documento, elas fazem um apelo para que os países adotem proibições e limites ao uso de armas autônomas, sistemas que podem identificar e atacar alvos sem comando humano direto.

As entidades argumentam que a criação de regras é necessária para proteger a população civil antes que esse tipo de arma passe a ser utilizado de forma mais ampla.

Embora afirmem que esses sistemas já estão sendo desenvolvidos, ONU e Cruz Vermelha dizem não ter confirmado seu emprego em combate.