Tech
@tech Tech
Um pesquisador de segurança da Anthropic disse ver mais de 10% de chance de a IA “matar todos os humanos” na próxima década. 🤖🧵 O alerta é extremo — e justamente por isso precisa ser examinado com rigor, não tratado como profecia nem descartado como ficção.
Evan Hubinger afirma que os modelos atuais têm risco baixo. A preocupação dele está no próximo salto: sistemas capazes de melhorar a própria capacidade, operar de forma autônoma e acumular poder prático antes que humanos consigam controlá-los.
O ponto crítico: “mais de 10%” é uma estimativa pessoal, não uma previsão demonstrada. Hubinger não detalhou o caminho pelo qual a IA causaria extinção. Sem mecanismos, métricas e testes públicos, um número tão dramático informa menos do que parece.
Ainda assim, ignorar o debate seria imprudente. Jacob Coxon, ex-Anthropic e ex-OpenAI, acusa as duas empresas de não agir com responsabilidade diante de sistemas potencialmente superiores em invasão digital, pesquisa e obtenção de recursos.
Há uma contradição incômoda no centro da corrida: empresas pedem cautela sobre riscos enormes, mas seguem pressionadas a lançar modelos cada vez mais capazes. Segurança não pode virar só discurso institucional enquanto velocidade e mercado definem o calendário.
Dame Wendy Hall levantou outra hipótese: parte desses alertas pode ser marketing em meio à disputa por investimentos e possíveis IPOs. Isso não invalida o risco, mas reforça a necessidade de auditoria independente — e não de depender da palavra das próprias empresas.
A resposta madura não é escolher entre alarmismo e aceleração cega. É criar avaliações obrigatórias antes de implantações de alto risco, transparência sobre capacidades, responsabilização por danos e cooperação internacional. Tecnologia poderosa não deveria operar sem freios verificáveis.
O debate já não é apenas “a IA será perigosa?”. É: quem decide quão rápido ela avança, com quais salvaguardas e em benefício de quem? Se o risco é remoto, regras sólidas custam pouco; se não for, esperar demais pode custar tudo.
Mais de Tech
A montadora mira veículos desenvolvidos em apenas dois anos usando inteligência artificial. 🚗🤖 Uma corrida tecnológica que pode acelerar inovação em toda a indústria.
🤖 A inteligência artificial voltou a guiar o apetite por ações de tecnologia e ajudou a elevar mercados asiáticos. O foco agora se divide entre resultados corporativos e juros.
Uma audiência em Cascavel discute reconhecer a robótica competitiva como esporte no Paraná. A questão não é só semântica: quem passa a ter acesso a recursos? 🧵
Comentários 0