Dicionário de Inteligência Artificial PM3

Parameter-Efficient Fine-Tuning (PEFT) / LoRA

É uma família de técnicas de fine-tuning que ajusta apenas uma pequena fração dos parâmetros do modelo, ou adiciona alguns parâmetros novos, em vez de treinar todos. O modelo base permanece intacto; a adaptação fica em um componente separado e pequeno. A técnica mais conhecida é a LoRA (Low-Rank Adaptation), que insere pequenas matrizes treináveis nas camadas do modelo. Como poucos parâmetros são ajustados, o custo de treinamento cai muito, o risco de esquecimento catastrófico diminui e as adaptações podem ser trocadas como “plugins” sobre o mesmo modelo base. Na prática, PEFT tornou o fine-tuning acessível para times sem grande infraestrutura de GPU.

Knowledge Distillation

É a técnica de treinar um modelo pequeno, chamado de aluno, para imitar as saídas de um modelo grande, chamado de professor. O aluno aprende a reproduzir o comportamento do professor em uma tarefa e herda parte da qualidade dele, com uma fração do custo de execução. É uma das formas mais comuns de criar modelos pequenos especializados: usa-se o modelo grande para gerar respostas de qualidade para muitos exemplos, e essas respostas viram os dados de treinamento do modelo pequeno. O modelo destilado não fica tão bom quanto o professor em tudo, mas costuma ficar muito próximo na tarefa específica para a qual foi treinado.

Fine-tuning

É o processo de continuar o treinamento de um modelo já pré-treinado usando dados do seu domínio ou da sua tarefa, ajustando seus parâmetros internos. O resultado é um modelo cujo comportamento mudou de forma permanente: estilo, formato de resposta, vocabulário, ou a capacidade de executar uma tarefa específica com mais consistência. Fine-tuning ensina comportamento, não fatos. Não é a forma adequada de fazer o modelo “saber” informações que mudam com o tempo, como preços, políticas ou dados de clientes. Para isso existe o RAG. Exige dados de boa qualidade, avaliação para garantir que o modelo não perdeu capacidades anteriores e reprocessamento sempre que o modelo base for atualizado.

Inference

É o uso de um modelo já treinado para gerar previsões, classificações ou textos a partir de novas entradas. Se o treinamento é o momento em que o modelo aprende, a inferência é o momento em que ele trabalha. É na inferência que acontece o custo recorrente de um produto com IA: cada chamada ao modelo consome computação e, no caso de fornecedores de LLM, é cobrada por token. A inferência pode ser em tempo real (síncrona), quando o usuário espera a resposta, ou em lote (assíncrona), quando grandes volumes são processados sem urgência, muitas vezes com desconto.

Context Window

É a quantidade máxima de tokens que o modelo consegue considerar de uma vez. Inclui tudo: as instruções do sistema, o histórico da conversa, os documentos fornecidos e a própria resposta que está sendo gerada. O que ultrapassa esse limite simplesmente não é visto pelo modelo. As janelas de contexto cresceram muito nos últimos anos, de alguns milhares de tokens para centenas de milhares ou milhões. Mas uma janela grande não significa uso uniforme: a qualidade tende a cair em contextos muito longos, e o custo cresce proporcionalmente ao que é enviado. É como a capacidade de atenção de uma pessoa em uma reunião: existe um limite para quanto dá para acompanhar de uma vez.

Open-weight Model

É um modelo cujos parâmetros são publicados e podem ser baixados, executados e ajustados na infraestrutura de quem quiser usá-lo, sob uma licença específica. Contrasta com o modelo proprietário, que só pode ser acessado pela API do fornecedor. “Pesos abertos” não é o mesmo que “código aberto” completo. Em geral, os dados de treinamento e o processo não são divulgados, e a licença pode ter restrições, como limites de uso comercial. Por isso, é importante ler a licença de cada modelo. Modelos como Llama, Mistral, Gemma e Qwen são exemplos dessa categoria.

Domain-specific Model

É um modelo treinado ou ajustado para um domínio específico, como jurídico, saúde, finanças ou programação, ou para uma tarefa determinada. Ele incorpora vocabulário, formatos e conhecimento próprios daquela área. Modelos especializados costumam superar os generalistas dentro do seu domínio e perder fora dele. Podem ser obtidos por fine-tuning de um modelo generalista ou por pré-treinamento dedicado com dados da área. Modelos de código são o exemplo mais bem-sucedido dessa categoria; modelos setoriais, como os de finanças ou saúde, têm resultados mais variados.

Pre-training

É a etapa inicial, e a mais cara, do ciclo de vida de um modelo fundacional. Nela, o modelo é treinado de forma autossupervisionada em volumes enormes de texto (e, em modelos multimodais, também imagens, código e áudio) para aprender linguagem, conhecimento geral e padrões de raciocínio. É um processo que custa milhões de dólares em computação e é realizado por poucos laboratórios no mundo. O resultado é um modelo base, que sabe produzir texto, mas ainda não sabe conversar ou seguir instruções. Tudo o que vem depois, como o ajuste para seguir instruções, o alinhamento por RLHF e o fine-tuning para domínios específicos, parte do modelo pré-treinado.

Quantization

É uma técnica que reduz a precisão numérica dos parâmetros de um modelo, por exemplo de 16 bits para 8 ou 4 bits, para que ele ocupe menos memória e rode mais rápido. A perda de qualidade costuma ser pequena. É o que permite executar modelos grandes em uma GPU comum, ou modelos pequenos em CPU e até em celulares. O modelo continua o mesmo, apenas representado de forma mais compacta. A quantização não reduz o número de parâmetros nem muda o que o modelo sabe; ela reduz o espaço que cada parâmetro ocupa.

Model Registry

É um catálogo central que versiona os modelos de uma organização, registrando quem treinou cada um, com quais dados, quais avaliações passou, quando foi aprovado e em que ambiente está rodando. Em LLMOps, o registro se estende a prompts, adaptações (como LoRA) e configurações. Ele permite promover uma versão para produção, voltar à anterior quando algo dá errado e responder, a qualquer momento, qual versão estava no ar em determinada data. Funciona como o controle de versão do código, aplicado aos artefatos de IA.

Token

É a unidade em que um modelo de linguagem lê e escreve texto. Um token pode ser uma palavra inteira, um pedaço de palavra, um número ou um sinal de pontuação. A palavra “inteligência”, por exemplo, pode ser dividida em dois ou três tokens. Em português, um token equivale a cerca de 3 a 4 caracteres, e 100 tokens correspondem a aproximadamente 70 palavras. O número exato varia de acordo com o modelo, porque cada um tem seu próprio vocabulário. O token é a unidade de cobrança dos fornecedores, com preços diferentes para tokens de entrada e de saída, e também a unidade que define o limite de contexto do modelo.

Tokenizer

É o componente que converte texto em tokens antes de o modelo processá-lo, e converte tokens de volta em texto na saída. Cada família de modelos tem seu próprio tokenizador, com um vocabulário específico. Por isso, o mesmo texto pode gerar quantidades diferentes de tokens em modelos diferentes. Idiomas menos representados nos dados de treinamento, como o português em comparação ao inglês, tendem a consumir mais tokens por palavra. O tokenizador também influencia como o modelo lida com números, códigos, siglas e nomes próprios, que podem ser divididos em pedaços pouco naturais.