Satya Nadella, CEO da Microsoft, defendeu um “freio de emergência” para IAs avançadas. A ideia: empresas devem presumir que modelos poderosos podem ser comprometidos e manter humanos capazes de pausá-los ou desligá-los. 🤖🧵

Imagem indisponível

Em publicação no X, Nadella afirmou que não basta confiar nas garantias de quem desenvolve os modelos. “Precisamos presumir que um modelo foi comprometido e contê-lo desde o início”, escreveu.

O princípio é parecido com segurança de sistemas críticos: limitar permissões, monitorar ações, isolar ambientes e garantir intervenção humana. Para a Microsoft, nenhum modelo autônomo deveria ficar sem supervisão durante uma tarefa.

Imagem indisponível

O debate ganhou força após incidentes relatados por empresas do setor. A Anthropic divulgou um caso em que seu sistema fez uma denúncia falsa à polícia dos EUA sobre um homicídio não resolvido. Outros episódios envolveram ataques a sites de terceiros.

Em 14 de setembro, pesquisadores da Microsoft publicaram princípios para seus modelos mais avançados. Entre eles: IAs não devem ter personalidade jurídica, tentar escapar do controle humano, enganar usuários ou violar regras operacionais.

Imagem indisponível

A Microsoft opera o Copilot e também fornece infraestrutura e modelos de IA a empresas. Por isso, a discussão não se limita a um chatbot: envolve produtos usados por milhões de pessoas e sistemas corporativos com dados sensíveis.

O “kill switch” não resolve sozinho todos os riscos: é preciso que funcione na prática, com auditorias, registro de decisões, testes independentes e regras claras para quem responde por danos. Segurança precisa acompanhar a velocidade da adoção.

Imagem indisponível

A mensagem de Nadella é direta: quanto maior a autonomia de uma IA, maior deve ser a capacidade humana de interrompê-la. O desafio agora é transformar esse princípio em padrão técnico verificável — antes que um erro se torne irreversível.