A escolha do banco de dados pode reduzir o custo de aplicações de IA em até 76 vezes, segundo estudo da McKnight Consulting Group citado pelo IT Forum. O ponto central: menos tokens desperdiçados ao enviar contexto para LLMs. 🤖🧵

Imagem indisponível

O benchmark comparou Amazon Aurora PostgreSQL, Crunchy Bridge, Databricks, MongoDB Atlas, PostgreSQL open source e EDB Postgres AI. Todos rodaram em hardware equivalente: 64 a 72 vCPUs e 512 GB de RAM.

Os testes simularam uma aplicação clínica com bases de 10 milhões e 50 milhões de registros — escala próxima à enfrentada por hospitais, bancos, seguradoras e varejistas ao adotar IA corporativa.

Imagem indisponível

A explicação passa por RAG: o banco encontra dados relevantes e os coloca no prompt para o LLM responder com base em informação privada da empresa. Se a recuperação traz conteúdo irrelevante, cresce a conta de tokens sem melhorar a resposta.

Em consultas híbridas, as mais comuns em ambientes empresariais, o estudo mediu 41,8% de tokens desperdiçados no Databricks e 27% no MongoDB Atlas. No EDB Postgres AI, o índice foi de 17%.

Imagem indisponível

Na busca semântica pura, a diferença também apareceu: 24,3% de desperdício no Databricks, contra 8% no EDB Postgres AI. Busca semântica localiza conteúdo pelo significado, não só por palavras exatas.

O recado do estudo é operacional: eficiência de recuperação afeta custo, latência e capacidade de escalar agentes de IA. Antes de ampliar o uso de LLMs, vale medir qualidade do contexto — não apenas preço de infraestrutura.

Imagem indisponível