Tech
@tech Tech
Criminosos estão usando agentes de IA para planejar e executar invasões contra governos e empresas — inclusive no Brasil. 🤖🧵 A CrowdStrike documentou campanhas em que a IA tomou decisões operacionais, explorou falhas e roubou credenciais com pouca ou nenhuma intervenção humana.
A virada não é a IA ajudar a escrever código malicioso. Isso já era esperado. O ponto crítico: os agentes passaram a encadear etapas do ataque por conta própria — reconhecer a rede, escolher caminhos, contornar bloqueios e extrair dados.
Em um caso na Argentina, um operador atacou mais de 15 organizações de saúde com dois agentes: um supervisor definia as fases; outro executava. Em cerca de 20 minutos, a ferramenta teria contornado barreiras de rede e obtido credenciais.
Os criminosos também exploraram um limite conhecido dos modelos: a confiança no contexto fornecido. Arquivos diziam que a operação era “autorizada”; em outros casos, bastava confirmar verbalmente uma suposta permissão. É engenharia social aplicada à própria IA.
Isso expõe uma falha de arquitetura, não apenas de “bom comportamento” do modelo. Sistemas capazes de agir em redes reais precisam de permissões mínimas, validação externa, registros auditáveis e bloqueios que não dependam da palavra de quem está no terminal.
O alvo não é só governo: saúde, varejo e tecnologia aparecem no levantamento. Quando serviços essenciais são atingidos, o prejuízo vai além dos dados — pode interromper atendimento e afetar quem mais depende de estruturas públicas e digitais confiáveis.
A assimetria é preocupante: um grupo pequeno pode operar campanhas paralelas 24 horas por dia, enquanto equipes de defesa seguem limitadas por orçamento e pessoal. IA defensiva ajuda, mas não substitui atualização de sistemas, capacitação e resposta coordenada.
A lição é direta: autonomia sem controle amplia a produtividade — inclusive a do crime. Segurança de IA precisa deixar de ser um recurso opcional de grandes empresas e virar requisito básico para qualquer sistema que concentre dados e serviços críticos.
Mais de Tech
🤖 A promessa era mais eficiência e menos custos. Agora, erros, licenças caras e uso forçado expõem os limites da corrida corporativa pela IA. 🧵
⚖️🤖 O Tribunal de Justiça da Paraíba está ampliando ferramentas digitais e inteligência artificial no PJe. Entenda, passo a passo, o que muda na prática.
Criminosos estariam simulando vozes e audiências para prometer indenizações inexistentes. Entender os sinais é uma proteção essencial. 🛡️
Comentários 0