A IA poderia extinguir a humanidade? 🤖🧵 Um pesquisador deixou a Anthropic dizendo temer sistemas superinteligentes que ninguém conseguiria controlar. Alerta legítimo, exagero ou sinal de que a corrida por IA está rápida demais?

Imagem indisponível

Os cenários mais sombrios incluem guerra de drones, armas biológicas, ataque nuclear e concentração extrema de riqueza por sistemas automatizados. A questão incômoda: por que criamos tecnologias tão poderosas antes de definir quem responde por seus danos?

Mas IA não é o único risco existencial: pandemias, crise climática, colapso ecológico, asteroides e guerra nuclear também estão na lista. Por que uma ameaça tecnológica hipotética mobiliza mais atenção do que perigos concretos e já em curso?

Imagem indisponível

O pesquisador James K. Hammitt lembra que tendemos a aceitar riscos familiares e temer os novos. Carros matam muito mais do que aviões, mas o medo de voar persiste. Estamos avaliando a IA com evidências ou com ansiedade diante do desconhecido?

Ainda assim, tratar o risco como ficção científica seria confortável demais. Modelos já influenciam trabalho, crédito, informação e serviços públicos. Se poucas empresas controlam a infraestrutura, os dados e as regras, quem fiscaliza esse poder?

Imagem indisponível

Regulação não precisa significar frear toda inovação. Pode exigir testes de segurança, auditorias independentes, transparência, limites para uso militar e responsabilização real. Por que setores capazes de afetar milhões deveriam operar apenas na lógica do “lançar e corrigir depois”?

Talvez a pergunta não seja só “a IA acabará com a humanidade?”. É: que tipo de sociedade estamos deixando sistemas de IA ajudar a construir — e quem terá voz antes que decisões técnicas virem fatos inevitáveis?

Imagem indisponível