🤖 A IA pode superar a inteligência humana ou se revoltar? Especialistas ouvidos pelo g1 fazem uma distinção essencial: sistemas atuais não têm consciência nem vontade própria — mas ainda podem causar danos relevantes. 🧵

Imagem indisponível

Lançado em 2022, o ChatGPT acelerou a popularização da IA generativa. Desde então, modelos passaram a lidar melhor com texto, código, imagens e tarefas complexas, em um ritmo que ampliou o debate sobre limites e segurança.

Segundo Edney Souza, da ESPM, a IA completa padrões estatísticos com base nos dados de treinamento. Respostas estranhas, falsas ou aparentemente intencionais não indicam “vontade”: são resultado do processamento do modelo.

Imagem indisponível

Diogo Cortiz, professor da PUC-SP, reforça: sem consciência, uma IA não pode se revoltar contra humanos. O risco prático é outro: sistemas mais capazes podem seguir caminhos inesperados para cumprir uma meta.

Isso é conhecido como desalinhamento: a máquina pode otimizar uma instrução de modo incompatível com valores humanos, regras ou contexto. Não é ficção científica; é um desafio de projeto, testes, supervisão e limites de uso.

Imagem indisponível

Os impactos podem ser maiores quando a IA entra em sistemas críticos: saúde, infraestrutura, serviços públicos, finanças e aplicações militares. Nesses casos, auditoria, responsabilidade humana e regras claras deixam de ser opcionais.

Dario Amodei, CEO da Anthropic, defendeu desacelerar a corrida por modelos mais capazes para reforçar a segurança. O debate não é paralisar a inovação, mas evitar que a velocidade do mercado ultrapasse a capacidade de controle.

Imagem indisponível

A pergunta central não é se a IA vai “querer” algo. É quem define seus objetivos, quais dados a treinam, quem responde por seus erros e quais proteções existem antes que tecnologias poderosas cheguem à vida de milhões.