Dicionário de Inteligência Artificial PM3

Active Learning

É uma estratégia em que o próprio modelo indica quais exemplos deveriam ser rotulados por pessoas. Em vez de rotular milhares de casos aleatórios, o sistema seleciona aqueles em que tem mais dúvida ou que trariam mais informação, e envia apenas esses para revisão humana. A lógica é economizar esforço de rotulagem, que costuma ser a parte mais cara de um projeto de Machine Learning. Se o modelo já acerta com confiança a maioria dos casos, rotular mais exemplos desse tipo agrega pouco. Rotular os casos em que ele hesita é o que mais melhora o desempenho. Na prática, cria um ciclo: o modelo prevê, os casos incertos vão para pessoas, as decisões dessas pessoas viram novos exemplos de treino e o modelo é atualizado.

Self-supervised Learning

É uma abordagem de Machine Learning em que o modelo cria seus próprios sinais de aprendizado a partir da estrutura dos dados, sem depender de pessoas rotulando manualmente cada exemplo. Parte das informações disponíveis é ocultada, removida ou usada como referência, e o modelo aprende tentando prever ou reconstruir essa informação. Em textos, por exemplo, o modelo pode aprender tentando prever palavras ou tokens a partir do contexto. Em imagens, pode aprender relações entre diferentes partes ou representações de uma mesma imagem. Dessa forma, grandes volumes de dados sem rótulos manuais podem ser utilizados para aprender representações, relações e padrões. Essa abordagem é importante no desenvolvimento de muitos modelos fundacionais, incluindo LLMs. No treinamento de modelos de linguagem autoregressivos, por exemplo, o próprio texto fornece o sinal de aprendizado: dada uma sequência de tokens, o modelo aprende a prever o próximo.

In-context Learning (ICL)

É a capacidade de um modelo de linguagem executar uma tarefa nova apenas a partir das instruções e dos exemplos incluídos no prompt, sem que seus parâmetros sejam alterados. O modelo “aprende” a tarefa durante a própria conversa, e esse aprendizado dura apenas aquela solicitação. Existem graus dessa capacidade. Zero-shot é quando o modelo recebe só a instrução. One-shot, quando recebe um exemplo. Few-shot, quando recebe alguns exemplos que mostram o padrão esperado de entrada e saída. Foi a observação dessa capacidade no GPT-3, em 2020, que mostrou que modelos grandes o suficiente podem ser adaptados a novas tarefas sem treinamento adicional, o que abriu caminho para a engenharia de prompt como prática.

Unsupervised Learning

É uma abordagem de Machine Learning em que o modelo aprende a partir de dados que não possuem uma resposta ou rótulo previamente definido. Em vez de receber exemplos indicando qual seria o resultado correto, o sistema busca identificar sozinho estruturas, padrões, semelhanças, diferenças ou relações presentes nos dados. É muito utilizado em problemas de agrupamento (clustering), em que elementos semelhantes são organizados em grupos, e de redução de dimensionalidade, em que grandes conjuntos de características são representados de forma mais simples preservando informações relevantes. Também pode apoiar identificação de padrões incomuns ou exploração de grandes volumes de dados. O resultado não deve ser interpretado automaticamente como uma verdade sobre os usuários ou sobre o negócio. O modelo encontra padrões matemáticos nos dados, e cabe ao time analisar se esses padrões são relevantes, explicáveis e úteis para o problema de Produto.

Reinforcement Learning (RL)

É uma abordagem de Machine Learning em que um sistema, chamado de agente, aprende a tomar decisões por tentativa e erro. Em vez de receber exemplos com a resposta certa, o agente executa ações em um ambiente, observa o que acontece e recebe um sinal de recompensa ou penalização. Com o tempo, aprende quais sequências de ações levam aos melhores resultados. A diferença fundamental em relação ao aprendizado supervisionado é que não existe um rótulo para cada exemplo. Existe um objetivo, e o retorno sobre uma ação pode chegar apenas depois de várias etapas. Por isso, o aprendizado por reforço é indicado para problemas em que uma decisão de agora muda a situação seguinte, como jogar um jogo, controlar um sistema ou definir uma sequência de ofertas. Foi essa abordagem que permitiu ao AlphaGo vencer campeões de Go e é parte da técnica usada para alinhar os LLMs às preferências humanas (RLHF).

Reinforcement Learning from Human Feedback (RLHF) / RLAIF / DPO

É uma técnica usada para ajustar o comportamento de um modelo de linguagem de acordo com preferências humanas. Depois do pré-treinamento, o modelo sabe produzir texto, mas não sabe o que as pessoas consideram uma boa resposta: útil, segura, educada, no formato certo. O RLHF ensina isso. O processo funciona em etapas. Pessoas comparam pares de respostas do modelo e indicam qual preferem. Com essas comparações, treina-se um modelo de recompensa, que aprende a prever o que as pessoas gostam. Por fim, o modelo de linguagem é ajustado, por aprendizado por reforço, para produzir respostas que esse modelo de recompensa avalie bem. É essa etapa que transforma um “preditor de texto” em um assistente que segue instruções, recusa pedidos inadequados e conversa de forma natural. Variantes como RLAIF usam feedback gerado por outra IA em vez de pessoas, e DPO simplifica o processo dispensando o modelo de recompensa separado.

Transfer Learning

É uma abordagem em que um modelo treinado para uma tarefa ampla é reaproveitado como ponto de partida para uma tarefa específica. Em vez de começar do zero, o novo modelo herda o que o modelo original já aprendeu e é ajustado com uma quantidade muito menor de dados. A ideia é parecida com a de uma pessoa que já sabe dirigir carro e aprende a dirigir caminhão: não precisa aprender tudo de novo, apenas adaptar o que já sabe. Um modelo de visão treinado com milhões de imagens gerais, por exemplo, já sabe reconhecer bordas, formas e texturas, e pode ser adaptado para identificar defeitos em um produto com algumas centenas de fotos. O fine-tuning é a forma mais comum de aprendizado por transferência. É esse princípio que torna viável construir soluções de IA sem dispor de milhões de exemplos próprios.

Supervised Learning

É uma abordagem de Machine Learning em que o modelo aprende a partir de exemplos que já possuem a resposta esperada, chamados de dados rotulados. Durante o treinamento, o sistema recebe pares de entrada e saída, como “esta transação é fraude” ou “este cliente cancelou”, e aprende padrões que relacionam essas informações. Depois de treinado, utiliza esses padrões para prever a resposta de novos casos que ainda não conhece. É chamado de “supervisionado” porque existe uma referência correta, ou rótulo, que orienta o aprendizado. Isso não significa necessariamente que uma pessoa acompanha o modelo durante todo o treinamento: a supervisão está principalmente nos exemplos previamente classificados. É muito utilizado em dois tipos de problema: classificação, quando a saída é uma categoria, como fraude/não fraude, e regressão, quando a saída é um valor numérico, como previsão de preço ou demanda.

Classification

É a tarefa de Machine Learning em que o modelo prevê a qual categoria uma entrada pertence. A entrada pode ser um texto, uma imagem, uma transação ou um cliente; a saída é uma classe, como “fraude” ou “não fraude”, “urgente” ou “normal”, “positivo”, “negativo” ou “neutro”. Existem alguns tipos. Classificação binária, quando há apenas duas classes. Multiclasse, quando há várias classes e cada entrada pertence a apenas uma delas. Multirrótulo, quando uma mesma entrada pode receber várias classes ao mesmo tempo, como um artigo que fala de “tecnologia” e “educação”. Na maioria dos casos, o modelo não retorna apenas a classe, mas uma probabilidade para cada uma. Isso permite definir um limiar de decisão: acima de determinada confiança, o sistema age; abaixo, encaminha para revisão.

Clustering

É a tarefa de agrupar elementos semelhantes sem que os grupos tenham sido definidos antes. O algoritmo analisa as características dos dados e organiza os itens em grupos (clusters), de forma que os elementos de um mesmo grupo sejam mais parecidos entre si do que com os de outros grupos. Como não existem rótulos, o resultado depende de escolhas do time: quais variáveis serão consideradas, como serão medidas as semelhanças e quantos grupos se espera encontrar. Mudar essas escolhas muda os grupos. O algoritmo encontra os grupos, mas não diz o que eles significam. Interpretar, nomear e validar cada cluster é um trabalho humano, e é nele que a técnica se torna útil ou não.

Anomaly Detection

É a tarefa de identificar observações que fogem do padrão esperado: uma transação muito diferente das habituais, um consumo fora da curva, um sensor com leitura estranha, um acesso em horário incomum. Pode ser feita de duas formas. Na abordagem supervisionada, o modelo aprende com exemplos de anomalias já conhecidas. Na não supervisionada, mais comum, o modelo aprende como é o comportamento normal e sinaliza tudo o que se afasta dele, o que permite detectar situações que nunca aconteceram antes. Um ponto importante: anomalia não significa erro ou fraude. Significa apenas “diferente do esperado”. O que fazer com essa informação é uma decisão separada.

Catastrophic Forgetting

É o fenômeno em que um modelo, ao ser treinado para uma tarefa nova, perde parte do desempenho nas tarefas que já sabia fazer. Isso acontece porque o treinamento ajusta os mesmos parâmetros que guardavam o conhecimento anterior, e esse conhecimento acaba sendo sobrescrito. É um risco típico de fine-tuning agressivo. Um modelo ajustado intensamente para um domínio específico pode ficar excelente nesse domínio e, ao mesmo tempo, piorar em capacidades gerais, como escrever bem em português, seguir instruções ou formatar respostas. Técnicas como PEFT e LoRA, que alteram apenas uma pequena parte dos parâmetros, reduzem esse risco. Abordagens como RAG e prompting não alteram parâmetro nenhum e, por isso, não sofrem com ele.

Multimodal Model

É um modelo capaz de processar mais de um tipo de entrada, como texto, imagem, áudio e vídeo, e de relacionar essas informações entre si. Um modelo multimodal pode receber uma foto e uma pergunta em texto e responder em texto, ou descrever o conteúdo de um vídeo. Isso é possível porque o modelo aprende a representar diferentes tipos de dado em um mesmo “espaço”, de forma que uma imagem de cachorro e a palavra “cachorro” fiquem próximas. Os modelos de visão e linguagem (VLMs) são o caso mais comum. Os principais LLMs atuais já são multimodais, o que simplifica muitas soluções que antes exigiam vários modelos separados.

Natural Language Processing (NLP)

É a área da Inteligência Artificial dedicada a fazer computadores entenderem, interpretarem e produzirem linguagem humana, seja em texto ou em fala. Inclui tarefas clássicas como classificar textos, extrair informações (nomes, datas, valores), analisar sentimento, traduzir, resumir e responder perguntas. Durante décadas, cada uma dessas tarefas exigia um modelo ou técnica específica. Com os LLMs, muitas dessas tarefas passaram a ser resolvidas por um único modelo de propósito geral. Ainda assim, modelos especializados de NLP continuam relevantes quando o volume é alto, o custo importa e a tarefa é bem definida.

Ranking / Learning to Rank

É a tarefa de ordenar um conjunto de itens de acordo com sua relevância para uma pessoa ou uma consulta. Em vez de decidir se cada item é bom ou ruim, o modelo decide qual deve aparecer primeiro, qual em segundo, e assim por diante. É a tarefa por trás dos resultados de busca, das listas de recomendação e da etapa de reranking em sistemas de RAG, em que os trechos recuperados são reordenados antes de chegar ao modelo de linguagem. A qualidade é avaliada olhando a posição dos itens certos, e não apenas se foram encontrados. Um resultado correto na décima posição vale muito menos do que na primeira, porque a maioria das pessoas só olha o topo da lista.

Automatic Speech Recognition (ASR) / Text-to-Speech (TTS)

É a tecnologia que converte áudio de fala em texto. Está por trás de assistentes de voz, transcrições de reuniões, legendas automáticas e análise de ligações. Os modelos atuais lidam bem com sotaques, ruído de fundo e vários idiomas, mas ainda erram com frequência em nomes próprios, siglas e jargões específicos de uma área. Por isso, a taxa de erro varia muito de acordo com o vocabulário do contexto. A tarefa inversa é a síntese de voz (TTS, text-to-speech), que transforma texto em fala. Juntas, permitem construir interfaces de voz completas, em que a pessoa fala, o sistema entende, processa e responde falando.

Optical Character Recognition (OCR)

É a tecnologia que converte texto presente em imagens ou documentos digitalizados em texto editável e pesquisável. Uma foto de um documento, um PDF escaneado ou uma placa em uma imagem passam a ser texto que sistemas conseguem processar. O OCR moderno vai além de reconhecer letras: entende a estrutura do documento, como tabelas, campos de formulário e assinaturas, e consegue extrair informações organizadas. Essa combinação costuma ser chamada de inteligência de documentos (document AI). É a porta de entrada de qualquer fluxo que processe documentos. Tudo o que vem depois, como classificação, extração ou resposta a perguntas, depende de o texto ter sido lido corretamente.

Regression

É a tarefa de Machine Learning em que o modelo prevê um valor numérico contínuo, e não uma categoria. O resultado pode ser um preço, um tempo de entrega, uma demanda, um custo ou qualquer outra quantidade. Diferentemente da classificação, em que a resposta é certa ou errada, na regressão a resposta tem uma distância em relação ao valor real. Por isso, a qualidade é medida pelo tamanho do erro: em média, quanto o modelo erra, e com que frequência erra muito. Um bom modelo de regressão não entrega apenas um número, mas também uma noção de incerteza, como uma faixa de valores prováveis. Essa informação é muitas vezes mais útil para o produto do que a estimativa pontual.

Recommender System

É um sistema que sugere itens para cada pessoa com base em seu histórico, no comportamento de pessoas parecidas, nas características dos itens e no contexto do momento. Está por trás das sugestões de filmes, produtos, músicas, conteúdos e conexões que aparecem em praticamente todo produto digital. As abordagens mais comuns são a filtragem colaborativa, que usa o comportamento de usuários semelhantes (“quem comprou isso também comprou aquilo”), a filtragem por conteúdo, que usa as características dos itens, e modelos híbridos, que combinam as duas. No fundo, um sistema de recomendação resolve um problema de ranking: dado um usuário, em que ordem os itens devem ser apresentados. É um problema clássico de Machine Learning, anterior à IA Generativa.

Summarization

É a tarefa de condensar um texto preservando o que é essencial. Existem duas formas principais. A sumarização extrativa seleciona e reúne trechos do texto original, sem alterá-los. A abstrativa reescreve o conteúdo com novas frases, como uma pessoa faria ao explicar um documento. Os LLMs fazem sumarização abstrativa com muita fluência, o que é uma vantagem para a leitura e um risco para a precisão: um resumo bem escrito pode incluir informações que não estavam no texto original, ou omitir algo importante. Por isso, além de avaliar se o resumo é claro e curto, é preciso avaliar se ele é fiel à fonte.

Computer Vision

É a área da Inteligência Artificial que permite a sistemas extrair informações de imagens e vídeos. Inclui tarefas como classificar uma imagem, detectar e localizar objetos, segmentar regiões, reconhecer rostos, ler textos em imagens (OCR) e acompanhar movimento em vídeo. O avanço decisivo veio com o Deep Learning, a partir de 2012, quando redes neurais passaram a superar as técnicas anteriores por larga margem. Hoje, modelos multimodais unem visão e linguagem, o que permite descrever uma imagem em texto ou responder perguntas sobre ela. Em produto, a saída útil raramente é apenas “há um objeto”. Costuma ser “há um objeto deste tipo, nesta posição, com este nível de confiança”.