Empresas de IA estão recorrendo à religião para tentar ensinar chatbots a distinguir o certo do errado. 🤖🧵 A discussão envolve laboratórios como Anthropic e OpenAI, que buscam princípios para orientar sistemas cada vez mais poderosos.

Imagem indisponível

Chris Olah, cofundador da Anthropic, afirmou no Vaticano que questões morais não podem ser respondidas apenas por laboratórios. Segundo ele, tradições religiosas lidam com esses dilemas há milênios.

A busca está ligada ao chamado “alinhamento”: o esforço para fazer modelos de IA agirem de acordo com valores e objetivos humanos, reduzindo riscos de decisões prejudiciais, vieses e usos indevidos.

Imagem indisponível

Sam Altman, CEO da OpenAI, já disse que gostaria que o ChatGPT refletisse uma espécie de “média ponderada” da visão moral da humanidade. O desafio é definir quem compõe essa média — e quais valores entram nela.

Especialistas alertam que religiões não funcionam como bancos de regras prontas para copiar em algoritmos. Doutrinas, rituais, contextos culturais e interpretações dos fiéis podem divergir profundamente.

Imagem indisponível

Para Webb Keane, antropólogo da Universidade de Michigan, reduzir religião a princípios abstratos ignora como a fé é vivida na prática — em relações sociais, cultura e política. Isso limita o uso dessas referências pela indústria.

A questão central vai além da religião: regras éticas para IA não podem ficar restritas a decisões de poucas empresas. Transparência, participação de grupos diversos, pesquisa independente e regulação pública serão decisivas.

Imagem indisponível

Não existe uma fórmula universal para programar “o certo”. Ao colocar valores humanos em sistemas globais, a tecnologia terá de encarar um fato básico: diversidade moral não é um erro de cálculo — é parte da sociedade.