A Anthropic defendeu que autoridades possam pedir à Justiça o bloqueio de modelos de IA considerados um “risco grave” ao público — antes que eles sejam lançados. 🤖⚖️🧵

Imagem indisponível

A proposta foi enviada ao governador da Califórnia, Gavin Newsom, após o estado reunir especialistas para discutir regras de segurança em IA. A ideia é criar uma rota legal para agir quando avaliações técnicas apontarem perigo real.

O detalhe mais interessante: a empresa não quer um “botão de desligamento” obrigatório para apagar um modelo inteiro de uma vez. Para ela, esse mecanismo pode ser impreciso demais — e até falhar no momento crítico.

Imagem indisponível

Em vez do botão vermelho, a Anthropic propõe intervenções cirúrgicas: desligar um agente específico que saiu do controle ou cortar o acesso de um cliente problemático. É a lógica de conter o incidente sem paralisar todo o sistema.

Não é uma discussão abstrata. Em junho, os EUA ordenaram restrições ao acesso estrangeiro aos modelos Mythos 5 e Fable 5, citando capacidades cibernéticas. O Departamento de Comércio suspendeu a ordem depois.

Imagem indisponível

O dilema é delicado: quem define o que é “risco grave”? Um freio estatal pode proteger pessoas, infraestrutura e economia — mas precisa de critérios públicos, avaliação independente e direito de contestação para não virar censura tecnológica.

Enquanto Washington debate projetos para bloquear IAs inseguras, a proposta da Anthropic joga luz sobre uma pergunta inevitável: na corrida por modelos cada vez mais poderosos, segurança será uma promessa das empresas ou uma regra verificável?

Imagem indisponível