🤖 A EMS defende que todo agente de IA agindo por uma empresa tenha uma “procuração” vinculada a uma pessoa responsável. Se o robô aprova, recomenda ou executa algo errado, quem responde? 🧵

Imagem indisponível

A proposta foi apresentada por Diego Neufert, CIO e CTO da EMS, no SAP Now AI Tour Brazil, em São Paulo. A lógica é simples: se um estagiário tem gestor, por que um assistente virtual com acesso a sistemas críticos não teria?

Mas uma pergunta incômoda: nomear um responsável no papel basta? Se a empresa não explica como o agente decidiu, nem o humano designado conseguirá auditar de verdade — só herdará a culpa quando algo der errado.

Imagem indisponível

A procuração poderia registrar quem autorizou o agente, quais tarefas ele pode executar e quando essa autorização foi revogada. Isso cria rastreabilidade. Mas os limites precisam ser técnicos, não apenas jurídicos: o que a IA pode fazer sozinha?

Imagine um agente negociando com fornecedores, alterando cadastros ou orientando clientes. Ele pode comprometer dados, dinheiro e reputações em segundos. A velocidade da IA não pode virar desculpa para reduzir supervisão humana.

Imagem indisponível

Há outro ponto: responsabilizar uma pessoa não pode virar um jeito de transferir para trabalhadores o risco de decisões impostas por sistemas opacos. Quem define metas, escolhe o modelo e libera o acesso também precisa prestar contas.

“Não vai existir IA sem as pessoas”, resumiu Neufert. A questão agora é: as empresas vão tratar humanos como supervisores com poder real de interromper a máquina — ou como meros nomes em uma procuração quando der problema?

Imagem indisponível