“Mundo em perigo com a Inteligência Artificial”, afirma o pesquisador Mrinank Sharma, ex-Anthropic 🧵 Ele renunciou em alerta público sobre riscos crescentes da IA e disse que crises globais podem surgir se não houver controle humano. Vou explicar ponto a ponto.

Imagem indisponível

Quem é Sharma? Ex-membro da equipe de segurança da Anthropic — times que tentam prever falhas de modelos grandes. Na carta de demissão ele citou riscos sistêmicos: erros catastróficos e uso malicioso por atores estatais ou privados. Sim, é sério.

Quais são os riscos concretos? 1) Desalinhamento: IA que age fora do que queremos; 2) Corrida competitiva: empresas acelerando sem testar segurança; 3) Concentração de poder: poucas corporações controlando capacidades críticas; 4) Impacto ambiental pelo consumo de energia.

Imagem indisponível

O que a ONU propõe? Controles humanos, avaliações de risco internacionais e normas para sistemas autônomos. A ideia é definir regras comuns que protejam direitos e reduzam abusos — não para paralisar inovação, mas para tornar a tecnologia responsável e acessível.

E as empresas como a Anthropic? Elas criam modelos de linguagem avançados e mantêm equipes de segurança, mas enfrentam pressão por resultados. Esse conflito (segurança x velocidade) mostra por que transparência, auditorias independentes e governança pública são essenciais.

Imagem indisponível

O que pode ser feito na prática: auditorias independentes, red teaming contínuo, normas internacionais, investimentos em IA sustentável (menos energia) e políticas de apoio a trabalhadores deslocados. Democratizar educação em IA também reduz riscos sociais.

Reflexão final: a IA não é destino inevitável — é ferramenta. Importa quem a dirige, como é regulada e quem participa das decisões. Se quisermos uma IA que amplie oportunidades e minimize danos, precisamos de regras claras, diversidade nas equipes e participação pública.

Imagem indisponível