RAG agêntico

É uma evolução do RAG em que o modelo decide se, quando e como buscar. Em vez de uma única busca automática antes de responder, o modelo pode reformular a pergunta, fazer várias buscas, escolher entre fontes diferentes, verificar se o que encontrou responde de fato e buscar de novo se não. Isso o torna mais robusto para perguntas complexas, que exigem juntar informações de vários lugares ou esclarecer ambiguidades. O custo é mais chamadas ao modelo, mais latência e mais dificuldade de avaliar, porque o caminho até a resposta varia a cada pergunta.

Em Produto, RAG agêntico só se justifica quando o RAG simples comprovadamente falha em um tipo relevante de pergunta, geralmente as que exigem comparar fontes ou resolver ambiguidades. Para a maioria dos casos, cerca de 80% das perguntas, um RAG padrão com boa busca e reranking resolve bem, com custo e latência menores. Se a escolha for pelo agêntico, vale definir um teto de buscas por pergunta e medir o custo por resposta. Sem limite, uma pergunta difícil pode gerar dezenas de buscas e uma conta inesperada.

Use RAG padrão para perguntas diretas sobre uma base de conhecimento. Use RAG agêntico para perguntas compostas, que exigem várias fontes, comparação ou verificação. Use um agente completo quando, além de buscar, o sistema precisa executar ações. Uma forma simples de diferenciar: RAG padrão busca uma vez e responde; RAG agêntico decide como buscar até ter o que precisa.

Padrão consolidado em 2024 com frameworks de agentes; generaliza o RAG de passo único para múltiplas buscas decididas pelo modelo.

Anthropic, Building Effective Agents; LangGraph documentation, Agentic RAG