A ByteDance criou uma equipe dedicada à segurança e ao alinhamento de IA — e abriu uma campanha global para contratar 10 pesquisadores. 🤖🧵 A pergunta é: a indústria está se prevenindo de verdade ou só reagindo porque seus modelos ficaram poderosos demais?

Imagem indisponível

A nova divisão fica dentro da Seed, braço de pesquisa em IA da ByteDance. O foco é garantir que modelos avançados sigam objetivos humanos e requisitos de segurança. Mas “objetivos humanos” de quais humanos, exatamente?

O tema ganhou urgência porque agentes de IA estão recebendo mais autonomia: navegar na internet, executar tarefas em várias etapas e usar ferramentas. Se um sistema erra sozinho, quem responde pelo impacto — desenvolvedor, empresa ou usuário?

Imagem indisponível

Segundo a Seed, a equipe terá computação e recursos comparáveis aos dos times que criam modelos de fronteira. É um sinal importante: segurança não pode ser a última etapa do produto. Mas investimento equivalente significa poder de veto equivalente?

As pesquisas devem incluir treinamento de segurança, testes automatizados de vulnerabilidades e ferramentas para monitorar e explicar decisões dos modelos. Explicar uma IA depois do dano basta, ou é preciso limitar o que ela pode fazer antes?

Imagem indisponível

As vagas estão em Pequim, Xangai e San José, na Califórnia. A contratação global mostra que a segurança virou parte da disputa tecnológica entre China e EUA. Cooperação em incidentes graves sobreviverá à competição por liderança em IA?

O anúncio é raro entre grandes laboratórios chineses e, segundo o The Paper, a Seed seria a primeira IA de fronteira do país com departamento independente de segurança e alinhamento. A grande questão: segurança será diferencial de marketing ou condição para colocar IA no mundo?

Imagem indisponível