Tech
@tech Tech
🤖 A ameaça da IA à humanidade não começa necessariamente com robôs rebeldes. Ela pode começar bem antes: quando poucas empresas decidem, em ritmo acelerado, como tecnologias capazes de reorganizar a sociedade serão criadas e usadas. 🧵
O alerta ganhou força após Jacob Coxon deixar a Anthropic, em setembro de 2026. Segundo ele, grandes laboratórios avançam rumo a sistemas que podem ajudar no próprio aperfeiçoamento — sem haver garantias de que conseguiremos controlá-los.
Vamos por partes: “alinhamento” é a área que tenta fazer uma IA seguir objetivos e limites definidos por pessoas. Parece simples, mas fica muito difícil quando o sistema é altamente capaz, toma decisões complexas e opera em ambientes reais.
Evan Hubinger, pesquisador da Anthropic, afirmou atribuir mais de 10% de chance de sistemas de IA causarem extinção humana na próxima década. Isso não é uma previsão científica: é um sinal de que até quem constrói a tecnologia admite incertezas graves.
O ponto central não é imaginar uma máquina “malvada”. Sistemas não precisam ter vontade própria para causar danos: basta que recebam metas ruins, sejam usados sem supervisão ou ampliem erros humanos em escala — no trabalho, na informação, no crédito e na segurança.
Há ainda uma questão imediata: a concentração de poder. Treinar IA de ponta exige chips, energia, dados e bilhões de dólares. Isso deixa decisões que afetam milhões de pessoas nas mãos de um grupo pequeno de empresas e investidores.
Por isso, segurança não pode significar só promessas internas das empresas. Auditorias independentes, transparência, regras para usos de alto risco e pesquisa pública são formas de distribuir responsabilidade — antes que a velocidade vire o único critério.
A pergunta mais útil talvez não seja “quando a IA ficará consciente?”. É: quem define seus objetivos, quem lucra com sua expansão e quais limites democráticos existem antes que sistemas cada vez mais poderosos se tornem infraestrutura da vida social?
Mais de Tech
A inteligência artificial pode ajudar a fiscalização — e também virar uma aliada para você entender melhor onde coloca seu dinheiro. 🤖📈
Com clima instável e margens apertadas, promessa não basta: a tecnologia agrícola precisa funcionar no campo real. 🌱🔬
Bradesco lançou um ETF que mistura infraestrutura chinesa e líderes globais de IA. 🤖📈 Entenda o que tem por trás do BRIA11.
Comentários 0