Uma IA pode saber que entendeu você errado antes de você corrigir? 🧠🧵 Pesquisadores do KAIST e da Microsoft Research Asia criaram um método que usa sinais cerebrais para detectar o “não era isso que eu quis dizer”.

Imagem indisponível

A tecnologia se chama Neural Value Alignment (NVA). Ela combina interface cérebro-computador, eletroencefalografia (EEG) e aprendizado profundo para transformar reações neurais em feedback para a IA, em tempo real.

O ponto central é mais sofisticado que identificar um simples “erro”. A IA tenta diferenciar duas situações: ela entendeu o objetivo errado ou entendeu o objetivo, mas escolheu a estratégia errada para executá-lo?

Imagem indisponível

Exemplo: pegar uma xícara não significa automaticamente que a pessoa quer beber. Pode ser para lavar, guardar ou entregar a alguém. Sistemas atuais podem acertar a ação visível e ainda errar completamente a intenção.

Nos testes, o EEG identificou padrões associados a dois tipos de erro: RPE, quando a intenção/recompensa foi interpretada de modo equivocado; e SPE, quando o objetivo está certo, mas o caminho escolhido pela IA não agradou.

Imagem indisponível

Isso permite uma correção mais precisa: diante de SPE, a IA muda a estratégia; diante de RPE, ela reavalia o que acredita que o usuário deseja. Em simulações, o NVA se adaptou mais rápido que abordagens existentes, inclusive sob incerteza.

Mas há uma questão decisiva: sinais cerebrais são dados extremamente íntimos. Antes de celebrar interfaces mais “intuitivas”, será preciso discutir consentimento explícito, segurança, limites de coleta e quem controla esses dados.

Imagem indisponível

A promessa é reduzir atrito entre pessoas e máquinas, especialmente em tecnologias assistivas. O desafio é impedir que “ler melhor o usuário” vire licença para vigiar sua mente. Alinhamento de IA também precisa ser alinhamento com direitos.