Embeddings

São representações numéricas do significado de um conteúdo. Um texto, uma imagem ou um item é transformado em um vetor, uma lista de centenas ou milhares de números, de forma que conteúdos com significados parecidos fiquem próximos nesse espaço. É o que permite buscar por sentido, e não apenas por palavras exatas: “carro batido” encontra trechos sobre “avaria na lataria” mesmo sem nenhuma palavra em comum. Existem também representações esparsas, usadas na busca lexical (como o BM25), que registram a presença de termos. Embeddings densos capturam semântica; representações esparsas capturam termos exatos; a busca híbrida usa as duas.

Em Produto, a escolha do modelo de embeddings e a qualidade dos chunks definem se a busca encontra o trecho certo. É uma decisão que merece avaliação com perguntas reais dos usuários, e não apenas rankings públicos. Um cuidado específico: modelos de embeddings podem ter qualidade menor em idiomas diferentes do inglês. Vale testar em português antes de escolher. Trocar o modelo de embeddings exige reindexar toda a base. É uma decisão que deve ser tomada com cuidado e planejada como projeto quando for necessária.

Use embeddings densos para busca semântica, por significado. Use busca lexical (BM25) para termos exatos, códigos, nomes próprios e identificadores. Use busca híbrida, que combina as duas, como padrão para a maioria dos casos. Uma forma simples de diferenciar: embeddings entendem o que você quis dizer; busca lexical encontra exatamente o que você escreveu.

Representações distribuídas (Hinton, 1986); word2vec (2013) e modelos de embedding de frases (2019+).

Google Machine Learning Crash Course, Embeddings; Microsoft Azure, Retrieval foundations