A proposta da Anthropic para regular modelos avançados de IA nos EUA virou alvo de críticas 🤖🧵 O ponto central: embora preveja avaliações e reporte de riscos, o texto limitaria quando o governo poderia intervir.

Imagem indisponível

O rascunho foi compartilhado com gabinetes do Congresso dos EUA e ainda não tem força de lei. Ele prevê avaliações externas, divulgação de riscos e comunicação de incidentes envolvendo sistemas de IA.

A crítica da Americans for Responsible Innovation (ARI) é que empresas poderiam definir e flexibilizar seus próprios padrões de segurança. Para a entidade, regras obrigatórias e poder de inspeção precisam ficar nas mãos do governo.

Imagem indisponível

Pelo texto, o Departamento de Comércio teria de recorrer a um tribunal federal em Washington para suspender o desenvolvimento, lançamento ou uso interno de um modelo. E precisaria provar risco iminente.

A barra proposta é alta: risco de morte ou ferimentos graves para mais de 50 pessoas, ou mais de US$ 1 bilhão em danos e perdas patrimoniais. O mecanismo cobre armas biológicas, ciberataques e perda de controle da IA.

Imagem indisponível

Também seria necessário demonstrar que uma medida menos restritiva não resolveria o problema. Críticos argumentam que, em tecnologias de alto impacto, fiscalização só depois de um risco iminente pode ser tarde demais.

Outro ponto sensível: o rascunho substituiria parte das exigências estaduais por regras federais. A Anthropic, liderada por Dario Amodei, disse que revisará essa redação e discutirá mudanças na fiscalização.

Imagem indisponível

Em paralelo, o FRONTIER Act propõe licenciar avaliadores e ampliar instrumentos de supervisão. A disputa vai além da IA: trata de quem estabelece os limites — as próprias empresas ou uma fiscalização pública efetiva.