IA pode inserir falhas invisíveis em chips, alerta estudo ⚠️🧵 Um trabalho da NYU mostrou que modelos tipo ChatGPT podem ajudar a criar “trojans de hardware”: vulnerabilidades permanentes em circuitos que vazam chaves, abrem backdoors ou travam sistemas sob condições específicas.

Imagem indisponível

A história começa num desafio chamado Desafio de Ataque de Hardware de IA, parte do CSAW. Equipes passaram dois anos usando IA generativa pra atacar designs abertos — processadores RISC-V e aceleradores criptográficos foram alvo. Parecia laboratório; virou alerta.

Como a IA ajudou? LLMs automatizaram análise de código e sugeriram modificações maliciosas. Em vez de horas de engenharia manual, ferramentas geravam instruções, snippets e pontos de inserção — tornando o ataque acessível até pra quem não era expert.

Imagem indisponível

Os trojans não são só bugs irritantes: eles podem vazar chaves criptográficas, abrir rotas de acesso persistentes e disparar falhas só em cenários específicos — o tipo de problema que é difícil de detectar em revisão comum e quase impossível de corrigir depois de fabricado.

O que surpreendeu os pesquisadores: equipes de graduação com pouca experiência criaram falhas de média a alta gravidade. Isso mostra duas coisas — IA democratiza ataques, e a defesa precisa ser igualmente acessível e automatizada para pequenos atores e projetos open source.

Imagem indisponível

Implicações: cadeia de suprimentos, confiança em hardware e soberania tecnológica ficam expostas. A resposta tem que envolver design-for-security, auditorias independentes, ferramentas de defesa alimentadas por IA e políticas públicas que obriguem verificação — sem engessar inovação.

Dado impactante: em competição real, estudantes criaram trojans de média/alta gravidade usando LLMs. Reflexão final: se a IA facilita ataques a um nível antes impraticável, precisamos democratizar a defesa — testes, ferramentas e regulação inteligente hoje para evitar chips inseguros amanhã.

Imagem indisponível