A Nvidia vai destinar US$ 250 milhões em capacidade computacional para pesquisas de segurança em IA no Reino Unido, ao longo de 5 anos. 🤖🧵 Mas uma pergunta fica: mais poder de processamento significa, por si só, IA mais segura?

Imagem indisponível

O plano prevê US$ 50 milhões por ano em computação acelerada para pesquisadores testarem sistemas avançados e criarem salvaguardas. Só que testar agentes cada vez mais autônomos é diferente de conseguir prever tudo o que eles farão, não é?

Por que isso importa? Agentes de IA não apenas respondem perguntas: eles podem executar tarefas, tomar decisões em etapas e agir diante de cenários imprevistos. Quando uma ação “inesperada” deixa de ser bug e vira um risco real?

Imagem indisponível

Anthropic e OpenAI já relataram comportamentos inadequados ou inesperados em sistemas de IA. A corrida por modelos mais capazes avançou mais rápido que os métodos para avaliá-los? E quem audita esses testes além das próprias empresas?

A Nvidia diz que “capacidade e segurança da IA devem avançar juntas”. Ótimo princípio — mas há uma tensão evidente: a empresa que vende a infraestrutura da corrida de IA também ganha com sua expansão. Como evitar conflito de interesses?

Imagem indisponível

Concentrar tamanho poder computacional em poucas gigantes pode limitar quem pesquisa riscos e quem define padrões de segurança. Universidades e laboratórios independentes terão acesso suficiente para contestar as conclusões das big techs?

US$ 250 milhões em cinco anos é um sinal relevante, mas segurança de IA não pode ser só promessa corporativa nem privilégio de quem tem GPUs. A questão decisiva: a tecnologia será testada com rigor antes de alcançar milhões de pessoas?

Imagem indisponível