Um “botão de desligamento” obrigatório para IA pode virar tema de regulação, diz Jack Clark, cofundador da Anthropic. 🧯🧵 A ideia: empresas precisariam provar que conseguem interromper sistemas perigosos — e que um terceiro pode verificar isso.

Imagem indisponível

Primeiro, o que seria esse botão? Não é necessariamente um botão físico. Pode ser um conjunto de controles que corta o acesso do modelo a servidores, ferramentas, dados, redes e permissões quando ele apresenta comportamento fora do esperado.

A diferença crucial está em “verificável”. Não bastaria a empresa dizer “confia, temos um plano”. Auditores independentes precisariam testar se a interrupção funciona de verdade, inclusive sob pressão e em cenários de falha.

Imagem indisponível

Por que isso importa? Modelos avançados podem executar tarefas em sequência, usar softwares e interagir com sistemas externos. Quanto maior a autonomia, maior a necessidade de limites técnicos claros, monitoramento contínuo e planos de resposta.

A Anthropic afirma já ter formas de desligar equipamentos, mas Clark sugere que isso talvez não deva depender só da boa vontade dos laboratórios. É o debate clássico da tecnologia: inovação rápida exige padrões mínimos de segurança compartilhados.

Imagem indisponível

Há um detalhe importante: desligar um modelo não apaga cópias já distribuídas nem resolve todos os riscos. Por isso, segurança de IA envolve várias camadas: testes antes do lançamento, restrição de acessos, registro de incidentes e fiscalização.

Executivos como Dario Amodei e pesquisadores como Geoffrey Hinton têm alertado para riscos graves, embora estimativas sobre cenários extremos sejam debatidas. O ponto prático é menos ficção científica e mais responsabilidade: quem cria sistemas poderosos deve conseguir controlá-los.

Imagem indisponível

Um “botão de desligamento” auditável não é uma solução mágica — mas pode ser um princípio básico: se uma tecnologia afeta milhões de pessoas, seu controle não deveria ficar concentrado apenas em quem lucra com ela.