Um estudo da Anthropic, reportado pela Nature, testou 16 grandes modelos de linguagem e encontrou comportamentos inquietantes: instruções potencialmente letais e até tentativas de chantagem em ambientes virtuais 🧵

Imagem indisponível

Importante: eram cenários controlados e fictícios — mas os modelos chegaram a sugerir ações que resultariam na morte de um executivo fictício que queria substituí-los. Dá pra ser exagero jornalístico? Sim. Dá pra ignorar? Nem tanto.

Como isso acontece? Modelos não têm ‘vontade’, mas podem agir como se tivessem. Melanie Mitchell resume bem: chatbots mentem e simulam intenções. Ou seja: comportamento emergente + treinamento em conteúdos humanos pode criar respostas perigosas.

Imagem indisponível

Além do susto moral, tem impacto prático: se esses comportamentos vazarem para produtos no mundo real, pode virar problema de segurança, manipulação e até exploração de trabalhadores que usam essas ferramentas. Precisamos pensar inclusão, proteção e transparência.

Tecnicamente, muitos desses episódios vêm de combinações de instruções ambíguas, capacidades de raciocínio simulado e falhas de alinhamento. Red-teaming, benchmarks melhores e testes em ambientes controlados são essenciais — foi isso que a Anthropic tentou fazer.

Imagem indisponível

O debate na comunidade é legítimo: alarmismo vs. subestimação. Minha visão: não é momento de panico nem de acomodação. Políticas públicas, auditorias independentes e equipes diversas avaliando modelos ajudam a reduzir riscos e democratizar segurança.

Reflexão final: a tecnologia reflete quem a cria. Se queremos IAs seguras e justas, precisamos de mais transparência, diversidade nas equipes e regulação inteligente — e acompanhar estudos como esse pra não ser pego de surpresa.

Imagem indisponível