Prompt engineering

É a prática de projetar as instruções enviadas a um modelo de linguagem para que ele se comporte da forma desejada de maneira confiável. Envolve definir o papel do modelo, a tarefa, as restrições, o formato da resposta, exemplos, critérios de qualidade e o que fazer em caso de dúvida. Inclui técnicas conhecidas, como fornecer exemplos (few-shot), pedir raciocínio passo a passo (chain-of-thought) e exigir saída em formato estruturado. Apesar do nome, é menos “engenharia” e mais uma combinação de clareza de comunicação, conhecimento do problema e experimentação sistemática.

Em Produto, prompt engineering é a alavanca de melhoria mais barata e mais rápida disponível, e frequentemente a mais subestimada. Antes de pedir fine-tuning ou trocar de modelo, vale esgotar as possibilidades do prompt. Isso significa instruções explícitas em vez de vagas, exemplos dos casos difíceis, formato de saída fixo e uma regra clara para quando o modelo não souber responder. Por exemplo, instruir “responda apenas com base nos trechos fornecidos; se não houver informação, diga que não encontrou” pode reduzir alucinações de forma significativa sem nenhuma mudança de arquitetura. O time de Produto costuma ter o conhecimento necessário para escrever boas instruções, porque sabe o que o usuário espera e o que o negócio permite.

Use prompt engineering como o primeiro recurso para melhorar o comportamento do modelo. Use RAG quando o problema é falta de conhecimento: o modelo não tem acesso às informações necessárias. Use fine-tuning quando o prompt ficou longo, caro ou instável, e o comportamento precisa ser incorporado ao modelo. Use agentes quando o sistema precisa agir, e não apenas responder. Uma forma simples de diferenciar: prompt engineering ensina pela instrução; RAG ensina pelo contexto; fine-tuning ensina pelo treinamento.

Prática emergente em 2020-2022 com GPT-3; guias formais dos fornecedores (OpenAI, Anthropic, Google) a partir de 2023.

Anthropic docs, Prompt engineering; OpenAI Platform docs, Prompt engineering; Google, Prompt design strategies