Voltar aos resultados

Zero-shot e few-shot prompting

Zero-shot / Few-shot Prompting

Técnica
Básico
Categoria: Prompt e context engineeringSubcategoria: Técnicas de prompting

O que significa

São duas formas de pedir uma tarefa ao modelo. No zero-shot, o prompt contém apenas a instrução, sem exemplos: “classifique esta mensagem como reclamação, dúvida ou elogio”. No few-shot, o prompt inclui alguns exemplos de entrada e da saída esperada, e o modelo imita o padrão. O few-shot melhora a consistência de formato e de critério, principalmente em tarefas com nuances difíceis de descrever em palavras. O custo é um prompt maior, com mais tokens por chamada. Ambas as técnicas se apoiam na capacidade de aprendizado em contexto dos LLMs, sem alterar o modelo.

Como usar na prática de produto

Em Produto, uma boa prática é começar com zero-shot e adicionar exemplos apenas quando o formato ou o critério da resposta oscilar. Muitas tarefas funcionam bem só com uma instrução clara. Quando exemplos forem necessários, a escolha importa mais do que a quantidade. Três a cinco exemplos bem escolhidos, que cubram os casos difíceis e ambíguos, valem mais do que vinte exemplos aleatórios de casos fáceis. O modelo aprende exatamente o que é mostrado. Se a tarefa precisar de dezenas de exemplos para funcionar de forma estável, é sinal de que o fine-tuning pode ser mais adequado.

Quando usar este termo ou outro

Use zero-shot para tarefas simples, bem descritas e com prompts curtos. Use few-shot quando o formato precisa ser estável ou o critério é sutil e difícil de explicar só com palavras. Use fine-tuning quando a quantidade de exemplos necessária torna o prompt longo e caro demais. Uma forma simples de diferenciar: zero-shot explica; few-shot mostra; fine-tuning incorpora.

Exemplos de aplicação

  • Classificação de tom: incluir quatro e-mails rotulados, com um sarcástico e um ambíguo.
  • Formato de resposta: mostrar dois exemplos de resumo no padrão desejado.
  • Extração: apresentar um texto e o JSON correspondente como exemplo.
  • Tradução de estilo: exemplificar como converter linguagem técnica em linguagem simples.
  • Roteamento: dar exemplos de solicitações e do destino correto de cada uma.

Origem do termo

Brown et al., Language Models are Few-Shot Learners (GPT-3, 2020).

Fonte técnica

Brown et al., GPT-3 (2020); Anthropic docs, Use examples (multishot prompting)

Termos relacionados