Banco vetorial

É o sistema que armazena os embeddings e permite encontrar rapidamente os vetores mais próximos de uma consulta. Para fazer isso em milhões de vetores, usa índices aproximados (ANN), que trocam um pouco de exatidão por muita velocidade. Além dos vetores, guarda metadados (data, área, cliente, status) para filtrar resultados, e o texto original de cada chunk para devolvê-lo ao modelo. Pode ser um serviço dedicado ou uma extensão do banco de dados que a empresa já usa, como o pgvector no PostgreSQL.

Em Produto, para a maioria dos casos, a extensão vetorial do banco existente basta e evita a complexidade de operar mais um sistema. Um banco vetorial dedicado faz sentido quando o volume passa de dezenas de milhões de vetores, a latência é crítica ou há requisitos específicos, como isolamento entre clientes. Uma pergunta útil para o time técnico é: “o que acontece quando precisarmos reindexar?”. A reindexação é inevitável, seja por troca de modelo de embeddings, seja por mudança na estratégia de chunking, e precisa estar prevista. Para protótipos, um índice em memória resolve sem infraestrutura.

Use a extensão vetorial do banco atual para começar e para a maioria dos produtos. Use um banco vetorial dedicado para grande escala, latência crítica ou requisitos como multi-tenant e filtros complexos. Use um índice em memória para protótipos e testes. Uma forma simples de diferenciar: comece simples; migre para dedicado quando os números exigirem.

Bibliotecas de busca por similaridade (FAISS, Meta, 2017); bancos dedicados (Pinecone, Weaviate, Milvus, Qdrant, 2019-2021); extensões em bancos tradicionais (pgvector, 2021).

Microsoft Azure Architecture Center, Vector search; pgvector documentation; FAISS documentation