Voltar aos resultados

Retreinamento e reavaliação

Retraining / Recalibration / Model Retirement

Operação
Intermediário
Categoria: MLOps, LLMOps e ciclo de vidaSubcategoria: Drift e manutenção

O que significa

Retreinamento é gerar uma nova versão do modelo com dados recentes, por cronograma ou por gatilho de drift. Recalibração é ajustar apenas os limiares ou a calibração das probabilidades, sem retreinar. Descontinuação é desligar uma capacidade quando ela não gera mais valor, custa mais do que entrega ou não é mais mantida. A ideia de que modelos têm “data de validade” vem da gestão de risco de modelos em bancos, onde é obrigatória. Toda capacidade de IA deveria nascer com data de reavaliação e critério de desligamento definidos.

Como usar na prática de produto

Em Produto, a pergunta “quem decide retreinar? existe alguém?” muitas vezes não tem resposta. Vale definir no contrato da capacidade: o gatilho (drift, cronograma, mudança de política), o dono, o processo (sombra, canário) e o critério de desligamento. A dívida de IA escala com a adoção. Uma organização com dezenas de capacidades precisa de política de desligamento tanto quanto de política de criação, senão acumula modelos zumbis que ninguém usa e ninguém desliga. Por exemplo, um modelo de propensão com retreino trimestral automático, reavaliação anual do caso de uso e desligamento se a adoção cair abaixo de 20% por dois trimestres.

Quando usar este termo ou outro

Use recalibração quando apenas o limiar ou a calibração desalinhou. Use retreinamento quando o padrão nos dados mudou. Use descontinuação quando o uso ou o valor desapareceu. Uma forma simples de diferenciar: recalibrar ajusta; retreinar renova; descontinuar encerra.

Exemplos de aplicação

  • Cronograma: retreino trimestral automático de um modelo de propensão.
  • Gatilho: retreinamento acionado quando o drift ultrapassa o limiar.
  • Recalibração: ajustar o limiar de decisão sem mexer no modelo.
  • Reavaliação: revisão anual do caso de uso e do valor gerado.
  • Desligamento: critério objetivo, como adoção abaixo de um mínimo por dois períodos.

Origem do termo

Prática de MLOps; a ideia de 'data de validade' de modelos vem da gestão de risco de modelos em bancos (SR 11-7, Federal Reserve, 2011).

Fonte técnica

Google Cloud, MLOps; Federal Reserve SR 11-7, Guidance on Model Risk Management (2011)

Termos relacionados