Microsoft: cientistas identificaram uma falha que permitia à IA criar proteínas tóxicas sem serem detectadas pelos filtros de empresas de síntese de DNA 🧵 Em outubro/2023 o caso foi descoberto e só agora publicado na revista Science.

Imagem indisponível

Vamos entender o básico: empresas que sintetizam DNA usam triagem automática — comparam sequências pedidas com bancos de toxinas conhecidas e bloqueiam solicitações suspeitas. Esse mecanismo assume que variantes perigosas 'parecem' com o que já existe.

O experimento mostrou o problema: com ajuda de IA os pesquisadores geraram milhares de variantes de 72 toxinas, incluindo versões da ricina, que mantinham potencial tóxico mas não eram reconhecidas pelos sistemas de triagem. A falha não era óbvia pela sequência.

Imagem indisponível

Por que isso acontece? IAs podem otimizar função sem preservar similaridade de sequência. Filtros que só olham similaridade linear ficam 'cego'. Implicações: risco na cadeia de fornecimento de DNA, potencial para uso malicioso e necessidade de revisão de políticas de biossegurança.

O que pode ser feito (e já se discute): integrar predição estrutural e motivoss funcionais às triagens (ex: modelos de estrutura proteica), implementação de testes adversariais, auditorias independentes e protocolos de resposta coordenados entre empresas, academia e reguladores.

Imagem indisponível

Reflexão final: descobrir vulnerabilidades é essencial para defesa. Mas é preciso mais do que correções técnicas — investimento público, governança internacional e padrões transparentes garantem que segurança biológica seja acessível e proteja todos, não só os mais privilegiados.