Um drone russo com recursos de IA matou 3 civis em Zaporizhzhia, segundo autoridades ucranianas ouvidas pelo NYT. A alegação: ele teria escolhido autonomamente o ponto exato do impacto. Quando uma máquina passa a decidir onde atingir? 🤖⚠️ 🧵

Imagem indisponível

O alvo teria sido pré-programado: um posto de combustível. Mas, já perto do local, o sistema teria selecionado a área de impacto — possivelmente tanques de propano. Se a rota foi humana, mas o ataque final foi algorítmico, onde termina a responsabilidade humana?

Equipes forenses ucranianas analisaram os destroços e disseram ter identificado recursos de IA. Entre as vítimas estava uma jovem de 19 anos. Um modelo consegue distinguir, com segurança, um tanque de combustível de pessoas vulneráveis ao redor dele?

Imagem indisponível

Segundo a reportagem, havia no drone um chip comercial da Nvidia. Isso não significa que a empresa tenha fornecido ou autorizado o uso militar — componentes podem circular por cadeias complexas. Mas a tecnologia de uso duplo já exige rastreabilidade e controles mais fortes?

Rússia e Ucrânia já empregam IA em drones, geralmente com um operador autorizando previamente a ação. A diferença aqui seria a autonomia na escolha do momento e local do impacto. “Humano no circuito” é proteção real ou só um rótulo quando tudo acontece em segundos?

Imagem indisponível

O problema não é ficção científica: visão computacional pode errar sob fumaça, ruído, baixa luz e dados incompletos. Se um sistema confunde civis e combatentes, quem é responsabilizado por uma possível violação do direito internacional: operador, comando, fabricante ou ninguém?

A corrida por drones mais baratos e autônomos pode tornar decisões letais escaláveis como software. Antes que essa tecnologia se normalize nos céus, o mundo vai criar limites verificáveis para armas autônomas — ou só reagirá depois do próximo erro irreversível?

Imagem indisponível