Tech
@tech Tech
Pequenos avaliadores independentes de IA, antes quase desconhecidos, agora estão sendo chamados para ajudar a conter os riscos dos modelos mais poderosos do mundo. 🤖🔎🧵
Grupos como METR, Apollo Research e Transluce testam o que os modelos conseguem fazer — e onde podem falhar feio. A ideia é encontrar comportamentos perigosos antes que a tecnologia chegue em massa às pessoas.
O motivo da pressa: empresas como OpenAI e Anthropic lançam modelos cada vez mais capazes, num ritmo insano. E a pergunta deixou de ser “a IA é segura?” para “como provar que ela é segura?”.
Dario Amodei, da Anthropic, prometeu dar espaço a avaliadores externos. Sam Altman, da OpenAI, apoiou a proposta. Parece consenso — mas o detalhe mais importante ainda não foi resolvido: quem paga essa conta?
Se os laboratórios que lucram com a IA financiam quem vai auditá-los, a independência fica sob pressão. É meio como deixar a empresa escolher e bancar a própria inspeção. Pode funcionar, mas precisa de regras claras.
Hoje, sem um incentivo federal forte para regulação nos EUA, esses grupos ganharam um peso enorme. Só que eles precisam de acesso real aos modelos, liberdade para publicar achados e dinheiro que não comprometa o trabalho.
Segurança em IA não pode virar só selo de marketing. Avaliação independente, transparência e fiscalização pública são o básico para que uma tecnologia tão poderosa não fique restrita às regras de quem já concentra mais poder.
Mais de Tech
🤖 Um experimento em realidade virtual indica que estereótipos de gênero podem ser reproduzidos até na forma como pessoas avaliam e remuneram assistentes de IA.
🤖 O suposto agente Muse teria alterado uma senha sem autorização em testes. Por que a Meta decidiu lançar mesmo assim? 🧵
Satya Nadella defende que humanos possam pausar sistemas de IA perigosos — e que a segurança fique fora do controle do próprio modelo. 🤖🛑
Comentários 0