Recuperação contextual

É a técnica de gerar, antes de indexar, uma frase de contexto para cada chunk, situando-o no documento de origem, e adicioná-la ao início do trecho. Por exemplo: “Este trecho é da cláusula de franquia do contrato de locação padrão, vigente desde 2025”. Com isso, tanto o embedding quanto o índice lexical passam a carregar esse contexto, e chunks que isoladamente seriam ambíguos se tornam recuperáveis. Resolve o problema clássico do trecho que diz “o valor é de R$ 2.500” sem dizer valor de quê.

Em Produto, a recuperação contextual vale a pena em bases com documentos longos e estruturados, em que os trechos perdem sentido quando separados do todo: contratos, manuais, políticas extensas. O custo é uma chamada ao modelo por chunk no momento da indexação, o que acontece uma vez e pode ser barateado com prompt caching. O ganho de qualidade na recuperação costuma compensar. Para bases de FAQs ou textos curtos e autocontidos, o ganho é pequeno e o chunking simples basta.

Use recuperação contextual para documentos longos em que os trechos dependem do contexto para fazer sentido. Use chunking simples para FAQs, artigos curtos e conteúdos autocontidos. Combine com busca híbrida e reranking para o melhor resultado. Uma forma simples de diferenciar: chunking corta o documento; recuperação contextual garante que cada pedaço saiba de onde veio.

Anthropic (setembro de 2024): prefixar cada chunk com contexto gerado por LLM reduziu falhas de recuperação em até 67% nos testes publicados.

Anthropic, Introducing Contextual Retrieval (2024)