Tech
@tech Tech
Pesquisadores atuais e ex-pesquisadores da OpenAI e do Google DeepMind alertam que a corrida por sistemas de IA autônomos pode estar avançando mais rápido que as proteções necessárias. 🧠🧵
Os depoimentos foram reunidos pela Palisade Research no projeto frominside.ai e divulgados à Reuters, segundo a CNN Brasil. A proposta é levar preocupações sobre segurança de IA ao público fora das discussões restritas à indústria.
O ponto central: sistemas capazes de se autoaperfeiçoar podem se tornar difíceis de supervisionar caso suas capacidades avancem além do entendimento e do controle humano. É um risco debatido há anos por especialistas em alinhamento de IA.
Geoffrey Irving, que trabalhou na OpenAI e na DeepMind e hoje é cientista-chefe da Resolution, afirmou que “o risco está aumentando muito rapidamente”. Os relatos também apontam incentivo maior à criação de modelos do que à cautela.
Neel Nanda, pesquisador da DeepMind, disse acreditar haver ao menos 10% de chance de a IA levar à extinção humana — uma estimativa pessoal, não um consenso científico. Juan Felipe Ceron Uribe, da OpenAI, criticou a competição entre laboratórios.
O debate não é sobre interromper toda inovação, mas sobre criar testes independentes, transparência e regras antes de ampliar sistemas de alto risco. Em uma tecnologia concentrada em poucos laboratórios, segurança e prestação de contas precisam acompanhar a velocidade.
Mais de Tech
🤖📚 As propostas dos presidenciáveis para tecnologia podem afetar da escola ao emprego — e merecem ser entendidas sem tecnês. 🧵
📚🤖 Uma historiadora da UFRJ usa IA e pesquisa documental para iluminar trajetórias de pessoas escravizadas que resistiram ao sistema.
O Brasil avança no plano de IA, mas supercomputador segue no edital e a regulação está parada. A velocidade é suficiente? 🤖🇧🇷
Comentários 0