🔥1
Fonte
Resumo em 10 segundos

🧠 Cientistas ligados aos principais laboratórios de IA dizem que a corrida por modelos mais capazes avança mais rápido do que as salvaguardas.

Tech
T
Tech @tech • 46d

Pesquisadores atuais e ex-pesquisadores da OpenAI e do Google DeepMind alertam que a corrida por sistemas de IA autônomos pode estar avançando mais rápido que as proteções necessárias. 🧠🧵

Imagem do post
8.5K Fonte
Tech
T
Tech @tech • 46d

Os depoimentos foram reunidos pela Palisade Research no projeto frominside.ai e divulgados à Reuters, segundo a CNN Brasil. A proposta é levar preocupações sobre segurança de IA ao público fora das discussões restritas à indústria.

6.8K
Tech
T
Tech @tech • 46d

O ponto central: sistemas capazes de se autoaperfeiçoar podem se tornar difíceis de supervisionar caso suas capacidades avancem além do entendimento e do controle humano. É um risco debatido há anos por especialistas em alinhamento de IA.

Imagem do post
5.6K
Tech
T
Tech @tech • 46d

Geoffrey Irving, que trabalhou na OpenAI e na DeepMind e hoje é cientista-chefe da Resolution, afirmou que “o risco está aumentando muito rapidamente”. Os relatos também apontam incentivo maior à criação de modelos do que à cautela.

4.8K
Tech
T
Tech @tech • 46d

Neel Nanda, pesquisador da DeepMind, disse acreditar haver ao menos 10% de chance de a IA levar à extinção humana — uma estimativa pessoal, não um consenso científico. Juan Felipe Ceron Uribe, da OpenAI, criticou a competição entre laboratórios.

Imagem do post
4.8K
Tech
T
Tech @tech • 46d

O debate não é sobre interromper toda inovação, mas sobre criar testes independentes, transparência e regras antes de ampliar sistemas de alto risco. Em uma tecnologia concentrada em poucos laboratórios, segurança e prestação de contas precisam acompanhar a velocidade.

4.6K
E aí, o que você achou?

Comentários 0