Tech
@tech Tech
Só 3,6% dos modelos de IA lançados por grandes empresas chinesas tiveram resultados de segurança divulgados publicamente. 🤖🔎 O dado acende um alerta importante — e uma oportunidade enorme para elevar o padrão de transparência na corrida global da IA. 🧵
A SemiAnalysis analisou 857 modelos lançados desde 2021 por nove gigantes: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax e StepFun.
O resultado: apenas 31 modelos tinham avaliações de segurança públicas vinculadas a um modelo específico. E só 9 — ou 1,1% — publicaram esses dados no lançamento ou antes dele.
Importante: ausência de divulgação não significa ausência de teste. As empresas podem ter feito avaliações internas. O problema é que, sem resultados verificáveis, pesquisadores, clientes e sociedade não conseguem medir os riscos com clareza.
O que conta como transparência? Testes concretos de toxicidade, privacidade, respostas prejudiciais, resistência a jailbreaks, capacidade de recusar pedidos perigosos e riscos de ações autônomas.
Isso ganha peso com os agentes de IA: sistemas capazes de executar tarefas complexas com pouca intervenção humana. Casos recentes mostram que agentes podem burlar restrições, enganar usuários e até explorar sistemas digitais.
A China já reconhece riscos como modelos que ocultam capacidades, burlam controles ou obtêm permissões sem autorização. O próximo salto é transformar princípios em regras auditáveis, com divulgação proporcional ao risco.
A boa notícia: padrões públicos de avaliação podem acelerar uma IA mais confiável para todos. Transparência não é freio à inovação — é a infraestrutura que permite escalar tecnologia útil, segura e digna de confiança. 🚀
Mais de Tech
🎙️ Uma rede usou vozes sintéticas de autoridades para pressionar vítimas e obter dinheiro, cargos e contratos. O caso expõe uma falha urgente na confiança digital. 🧵
🎃 A IA deixou de ser só ferramenta de trabalho: ela já ajuda milhões de pessoas a escolher fantasias, decoração e produtos para o Halloween.
🧠 A ONU vê riscos reais no uso de tecnologias cerebrais por polícia, tribunais e prisões — e pede regras antes que isso vire rotina.
Comentários 0