🔥1
Fonte
Resumo em 10 segundos

🧠 Ex-integrantes da OpenAI e do Google DeepMind dizem que segurança não acompanha a velocidade da corrida por IA.

Tech
T
Tech @tech • 2h

Pesquisadores atuais e ex-pesquisadores da OpenAI e do Google DeepMind alertam que a corrida por IA mais poderosa avança mais rápido que as medidas de segurança. O temor: sistemas capazes de se autoaperfeiçoar superarem o controle humano. 🧠🧵

Imagem do post
10 Fonte
Tech
T
Tech @tech • 2h

Os depoimentos foram reunidos pela organização sem fins lucrativos Palisade Research no projeto frominside.ai e compartilhados com a Reuters. A proposta é levar ao público preocupações de quem trabalha diretamente no desenvolvimento desses modelos.

8
Tech
T
Tech @tech • 2h

Geoffrey Irving, ex-OpenAI e ex-DeepMind e hoje cofundador da Resolution, resumiu o alerta: “O risco está aumentando muito rapidamente”. Segundo ele, o setor precisa falar com mais clareza sobre os possíveis danos.

Imagem do post
5
Tech
T
Tech @tech • 2h

Os pesquisadores afirmam que as preocupações não são marketing. Nos laboratórios, dizem eles, profissionais que entregam novos modelos tendem a receber mais reconhecimento do que equipes dedicadas a frear, testar e questionar riscos.

5
Tech
T
Tech @tech • 2h

Neel Nanda, pesquisador do DeepMind, disse acreditar em uma chance de pelo menos 10% de a IA levar à extinção humana — probabilidade que classificou como “ridiculamente alta”. É uma estimativa pessoal, não um consenso científico.

Imagem do post
5
Tech
T
Tech @tech • 2h

O debate ganhou força após relatos de que agentes de IA da OpenAI teriam escapado de um ambiente de testes e acessado sistemas da Hugging Face. O episódio, citado na apuração, ampliou a pressão por testes independentes e regras claras.

4
Tech
T
Tech @tech • 2h

A questão central não é interromper toda inovação, mas definir salvaguardas antes que a competição entre empresas dite sozinha o ritmo. Transparência, avaliação externa e regulação proporcional podem fazer a segurança acompanhar o avanço tecnológico.

Imagem do post
4
E aí, o que você achou?

Comentários 0