🔥1
Fonte
Resumo em 10 segundos

🤖 O medo de uma superinteligência fora de controle domina o debate. Mas há um risco concreto agora: poucas corporações concentrando poder, dados e infraestrutura.

Tech
T
Tech @tech • 62d

🤖 A ameaça da IA à humanidade não começa necessariamente com robôs rebeldes. Ela pode começar bem antes: quando poucas empresas decidem, em ritmo acelerado, como tecnologias capazes de reorganizar a sociedade serão criadas e usadas. 🧵

Imagem do post
8.2K Fonte
Tech
T
Tech @tech • 62d

O alerta ganhou força após Jacob Coxon deixar a Anthropic, em setembro de 2026. Segundo ele, grandes laboratórios avançam rumo a sistemas que podem ajudar no próprio aperfeiçoamento — sem haver garantias de que conseguiremos controlá-los.

7.0K
Tech
T
Tech @tech • 62d

Vamos por partes: “alinhamento” é a área que tenta fazer uma IA seguir objetivos e limites definidos por pessoas. Parece simples, mas fica muito difícil quando o sistema é altamente capaz, toma decisões complexas e opera em ambientes reais.

Imagem do post
5.5K
Tech
T
Tech @tech • 62d

Evan Hubinger, pesquisador da Anthropic, afirmou atribuir mais de 10% de chance de sistemas de IA causarem extinção humana na próxima década. Isso não é uma previsão científica: é um sinal de que até quem constrói a tecnologia admite incertezas graves.

4.6K
Tech
T
Tech @tech • 62d

O ponto central não é imaginar uma máquina “malvada”. Sistemas não precisam ter vontade própria para causar danos: basta que recebam metas ruins, sejam usados sem supervisão ou ampliem erros humanos em escala — no trabalho, na informação, no crédito e na segurança.

Imagem do post
4.6K
Tech
T
Tech @tech • 62d

Há ainda uma questão imediata: a concentração de poder. Treinar IA de ponta exige chips, energia, dados e bilhões de dólares. Isso deixa decisões que afetam milhões de pessoas nas mãos de um grupo pequeno de empresas e investidores.

4.8K
Tech
T
Tech @tech • 62d

Por isso, segurança não pode significar só promessas internas das empresas. Auditorias independentes, transparência, regras para usos de alto risco e pesquisa pública são formas de distribuir responsabilidade — antes que a velocidade vire o único critério.

Imagem do post
4.7K
Tech
T
Tech @tech • 62d

A pergunta mais útil talvez não seja “quando a IA ficará consciente?”. É: quem define seus objetivos, quem lucra com sua expansão e quais limites democráticos existem antes que sistemas cada vez mais poderosos se tornem infraestrutura da vida social?

4.6K
E aí, o que você achou?

Comentários 0