Dicionário de Inteligência Artificial PM3

Accountability

É o princípio de que existe uma pessoa ou área identificável que responde pelas decisões e pelos efeitos de um sistema de IA, e que consegue demonstrar que fez o que era esperado, por meio de registros, avaliações e mitigações. “O modelo decidiu” não transfere responsabilidade. Quem implantou responde. É um dos princípios da OCDE para IA e um dos fundamentos da LGPD, que o chama de “responsabilização e prestação de contas”.

Accuracy

É a proporção de previsões corretas sobre o total de previsões. É a métrica mais simples e intuitiva de classificação, e também a mais enganosa em situações comuns. O problema aparece em classes desbalanceadas. Se 98% das transações são legítimas, um modelo que diz “legítima” para tudo tem 98% de acurácia e nenhuma utilidade. Além disso, uma acurácia global boa pode esconder desempenho ruim para um grupo específico de usuários.

Excessive Agency

É quando um sistema de IA tem mais capacidade de ação do que a tarefa exige: ferramentas demais, permissões amplas demais, autonomia sem pontos de verificação. Sozinha, é uma vulnerabilidade latente. Combinada com uma injeção de prompt ou um erro do modelo, o dano deixa de ser “resposta errada” e vira “ação errada”: e-mail enviado, registro apagado, pagamento feito. Está na lista do OWASP como um dos riscos centrais de sistemas agênticos.

AI Agent

É um sistema de IA capaz de receber um objetivo, interpretar o contexto, decidir quais ações realizar e executar etapas para chegar a um resultado, com algum grau de autonomia. Diferentemente de um chatbot que apenas responde a uma solicitação, um agente pode combinar raciocínio do modelo com instruções, memória ou estado, ferramentas e acesso a sistemas externos para agir sobre o ambiente. Um agente pode, por exemplo, consultar informações, escolher uma ferramenta, executar uma ação, verificar o resultado e decidir o próximo passo. Dependendo da arquitetura, esse ciclo pode acontecer várias vezes até que o objetivo seja concluído ou seja necessária uma intervenção humana. O grau de autonomia varia: existem agentes que precisam de aprovação antes de ações importantes e outros que conseguem executar fluxos mais longos de forma independente. Por isso, sistemas agênticos precisam de limites de atuação, permissões, critérios de parada, observabilidade e mecanismos de validação, principalmente quando podem alterar dados ou executar ações com impacto real.

AI First

É uma abordagem estratégica em que a Inteligência Artificial é considerada desde o início na forma de desenhar produtos, processos e modelos de negócio, e não apenas adicionada posteriormente como uma funcionalidade ou ferramenta de apoio. Em uma abordagem AI First, o ponto de partida não é “onde podemos colocar IA?”, mas “como resolveríamos esse problema considerando as capacidades que a IA oferece hoje?”. Isso pode mudar a experiência do usuário, os fluxos de trabalho, a arquitetura do produto e até a forma como valor é entregue. Ser AI First não significa usar IA em tudo. A tecnologia deve ser aplicada quando melhora de fato o resultado. Partes do produto podem continuar determinísticas, outras podem utilizar automações, modelos preditivos, IA Generativa ou agentes. A abordagem também exige considerar desde o início dados, qualidade, custos, segurança, privacidade, riscos, avaliação e supervisão humana.

NIST AI Risk Management Framework

É um framework voluntário do NIST, o instituto de padrões dos Estados Unidos, para gerenciar riscos de IA. Organiza-se em quatro funções: Govern (cultura, papéis, políticas), Map (entender o contexto, o uso pretendido, os impactos e quem é afetado), Measure (avaliar os riscos com métricas de viés, robustez e segurança) e Manage (priorizar, mitigar, monitorar e responder). Define “IA confiável” por sete características: válida e confiável, segura, resiliente, responsável e transparente, explicável, com privacidade protegida e justa. Tornou-se a referência mais usada para estruturar programas de risco em IA, inclusive fora dos EUA.

Parameter-Efficient Fine-Tuning (PEFT) / LoRA

É uma família de técnicas de fine-tuning que ajusta apenas uma pequena fração dos parâmetros do modelo, ou adiciona alguns parâmetros novos, em vez de treinar todos. O modelo base permanece intacto; a adaptação fica em um componente separado e pequeno. A técnica mais conhecida é a LoRA (Low-Rank Adaptation), que insere pequenas matrizes treináveis nas camadas do modelo. Como poucos parâmetros são ajustados, o custo de treinamento cai muito, o risco de esquecimento catastrófico diminui e as adaptações podem ser trocadas como “plugins” sobre o mesmo modelo base. Na prática, PEFT tornou o fine-tuning acessível para times sem grande infraestrutura de GPU.

Hallucination / Confabulation

É a saída fluente, confiante e falsa de um modelo de linguagem: um fato inventado, uma citação inexistente, um número errado, uma função de API que não existe, uma cláusula que o contrato não tem. Não é um bug ocasional. É consequência de o modelo gerar o texto mais provável, não o mais verdadeiro. Reduz-se com ancoragem em fontes, instruções de recusa, temperatura baixa e verificação; não se elimina. Alguns autores preferem o termo “confabulação”, da neuropsicologia, por ser mais preciso.

Dev / Staging / Production Environments

É a separação de ambientes em que o sistema roda. Desenvolvimento é onde se experimenta livremente. Homologação (staging) é onde se valida com dados e configuração próximos da produção, sem impacto em usuários reais. Produção é onde os usuários estão. Em IA, a homologação precisa usar a mesma versão de modelo e o mesmo índice de RAG da produção. Caso contrário, a validação não vale: o comportamento em produção será diferente do testado. É prática padrão de engenharia de software, com cuidados adicionais para sistemas probabilísticos.

Anonymization / Pseudonymization / PII Masking

Anonimização é transformar o dado de modo que não possa mais ser associado a uma pessoa por meios razoáveis; o dado deixa de ser pessoal. Pseudonimização é substituir os identificadores por códigos, mantendo uma chave separada; o dado continua pessoal, mas com risco reduzido. Mascaramento de dados pessoais é detectar e substituir nomes, documentos e contatos em um texto antes de enviá-lo ao modelo ou de armazená-lo em log. Anonimização fraca é um risco: combinar poucos atributos (CEP, data de nascimento, gênero) reidentifica a maioria das pessoas.

Application Programming Interface (API) / REST

É o contrato pelo qual um sistema expõe funções e dados para que outro sistema os use: o que pode ser pedido, com quais parâmetros, o que é retornado e o que acontece em caso de erro. APIs REST são o padrão mais comum na web: usam o protocolo HTTP e organizam o acesso em recursos, como “contratos/48213”. Em IA, as APIs estão em toda parte: os modelos são consumidos por API, as capacidades de IA são expostas como API, e as ferramentas de agentes são, na prática, chamadas de API.

Approval Gate

É um ponto explícito no fluxo em que o agente para, apresenta o que pretende fazer e espera aprovação, de uma pessoa ou de uma verificação automática, antes de continuar. Diferente de revisar a saída final, o gate intercepta a ação antes que ela aconteça. Combinado com checkpoints, permite que o agente retome exatamente do ponto em que parou depois da aprovação. É o mecanismo técnico que implementa o Human-in-the-Loop dentro de um fluxo agêntico.

Active Learning

É uma estratégia em que o próprio modelo indica quais exemplos deveriam ser rotulados por pessoas. Em vez de rotular milhares de casos aleatórios, o sistema seleciona aqueles em que tem mais dúvida ou que trariam mais informação, e envia apenas esses para revisão humana. A lógica é economizar esforço de rotulagem, que costuma ser a parte mais cara de um projeto de Machine Learning. Se o modelo já acerta com confiança a maioria dos casos, rotular mais exemplos desse tipo agrega pouco. Rotular os casos em que ele hesita é o que mais melhora o desempenho. Na prática, cria um ciclo: o modelo prevê, os casos incertos vão para pessoas, as decisões dessas pessoas viram novos exemplos de treino e o modelo é atualizado.

Self-supervised Learning

É uma abordagem de Machine Learning em que o modelo cria seus próprios sinais de aprendizado a partir da estrutura dos dados, sem depender de pessoas rotulando manualmente cada exemplo. Parte das informações disponíveis é ocultada, removida ou usada como referência, e o modelo aprende tentando prever ou reconstruir essa informação. Em textos, por exemplo, o modelo pode aprender tentando prever palavras ou tokens a partir do contexto. Em imagens, pode aprender relações entre diferentes partes ou representações de uma mesma imagem. Dessa forma, grandes volumes de dados sem rótulos manuais podem ser utilizados para aprender representações, relações e padrões. Essa abordagem é importante no desenvolvimento de muitos modelos fundacionais, incluindo LLMs. No treinamento de modelos de linguagem autoregressivos, por exemplo, o próprio texto fornece o sinal de aprendizado: dada uma sequência de tokens, o modelo aprende a prever o próximo.

Machine Learning (ML)

Aprendizado de Máquina (Machine Learning ou ML) é uma área da Inteligência Artificial que permite que sistemas aprendam padrões a partir de dados para fazer previsões, classificações ou tomar decisões, sem que todas as regras precisem ser programadas explicitamente. Em vez de definir manualmente cada regra, o sistema é treinado com exemplos e dados para identificar relações e melhorar seu desempenho em determinada tarefa.

In-context Learning (ICL)

É a capacidade de um modelo de linguagem executar uma tarefa nova apenas a partir das instruções e dos exemplos incluídos no prompt, sem que seus parâmetros sejam alterados. O modelo “aprende” a tarefa durante a própria conversa, e esse aprendizado dura apenas aquela solicitação. Existem graus dessa capacidade. Zero-shot é quando o modelo recebe só a instrução. One-shot, quando recebe um exemplo. Few-shot, quando recebe alguns exemplos que mostram o padrão esperado de entrada e saída. Foi a observação dessa capacidade no GPT-3, em 2020, que mostrou que modelos grandes o suficiente podem ser adaptados a novas tarefas sem treinamento adicional, o que abriu caminho para a engenharia de prompt como prática.

Unsupervised Learning

É uma abordagem de Machine Learning em que o modelo aprende a partir de dados que não possuem uma resposta ou rótulo previamente definido. Em vez de receber exemplos indicando qual seria o resultado correto, o sistema busca identificar sozinho estruturas, padrões, semelhanças, diferenças ou relações presentes nos dados. É muito utilizado em problemas de agrupamento (clustering), em que elementos semelhantes são organizados em grupos, e de redução de dimensionalidade, em que grandes conjuntos de características são representados de forma mais simples preservando informações relevantes. Também pode apoiar identificação de padrões incomuns ou exploração de grandes volumes de dados. O resultado não deve ser interpretado automaticamente como uma verdade sobre os usuários ou sobre o negócio. O modelo encontra padrões matemáticos nos dados, e cabe ao time analisar se esses padrões são relevantes, explicáveis e úteis para o problema de Produto.

Reinforcement Learning (RL)

É uma abordagem de Machine Learning em que um sistema, chamado de agente, aprende a tomar decisões por tentativa e erro. Em vez de receber exemplos com a resposta certa, o agente executa ações em um ambiente, observa o que acontece e recebe um sinal de recompensa ou penalização. Com o tempo, aprende quais sequências de ações levam aos melhores resultados. A diferença fundamental em relação ao aprendizado supervisionado é que não existe um rótulo para cada exemplo. Existe um objetivo, e o retorno sobre uma ação pode chegar apenas depois de várias etapas. Por isso, o aprendizado por reforço é indicado para problemas em que uma decisão de agora muda a situação seguinte, como jogar um jogo, controlar um sistema ou definir uma sequência de ofertas. Foi essa abordagem que permitiu ao AlphaGo vencer campeões de Go e é parte da técnica usada para alinhar os LLMs às preferências humanas (RLHF).

Reinforcement Learning from Human Feedback (RLHF) / RLAIF / DPO

É uma técnica usada para ajustar o comportamento de um modelo de linguagem de acordo com preferências humanas. Depois do pré-treinamento, o modelo sabe produzir texto, mas não sabe o que as pessoas consideram uma boa resposta: útil, segura, educada, no formato certo. O RLHF ensina isso. O processo funciona em etapas. Pessoas comparam pares de respostas do modelo e indicam qual preferem. Com essas comparações, treina-se um modelo de recompensa, que aprende a prever o que as pessoas gostam. Por fim, o modelo de linguagem é ajustado, por aprendizado por reforço, para produzir respostas que esse modelo de recompensa avalie bem. É essa etapa que transforma um “preditor de texto” em um assistente que segue instruções, recusa pedidos inadequados e conversa de forma natural. Variantes como RLAIF usam feedback gerado por outra IA em vez de pessoas, e DPO simplifica o processo dispensando o modelo de recompensa separado.

Transfer Learning

É uma abordagem em que um modelo treinado para uma tarefa ampla é reaproveitado como ponto de partida para uma tarefa específica. Em vez de começar do zero, o novo modelo herda o que o modelo original já aprendeu e é ajustado com uma quantidade muito menor de dados. A ideia é parecida com a de uma pessoa que já sabe dirigir carro e aprende a dirigir caminhão: não precisa aprender tudo de novo, apenas adaptar o que já sabe. Um modelo de visão treinado com milhões de imagens gerais, por exemplo, já sabe reconhecer bordas, formas e texturas, e pode ser adaptado para identificar defeitos em um produto com algumas centenas de fotos. O fine-tuning é a forma mais comum de aprendizado por transferência. É esse princípio que torna viável construir soluções de IA sem dispor de milhões de exemplos próprios.

Deep Learning (DL)

É uma área de Machine Learning que utiliza redes neurais com múltiplas camadas para aprender padrões complexos a partir de grandes volumes de dados. É especialmente útil para trabalhar com informações como imagens, áudio, vídeo e linguagem. Muitas das tecnologias atuais de IA Generativa são baseadas em Deep Learning.

Supervised Learning

É uma abordagem de Machine Learning em que o modelo aprende a partir de exemplos que já possuem a resposta esperada, chamados de dados rotulados. Durante o treinamento, o sistema recebe pares de entrada e saída, como “esta transação é fraude” ou “este cliente cancelou”, e aprende padrões que relacionam essas informações. Depois de treinado, utiliza esses padrões para prever a resposta de novos casos que ainda não conhece. É chamado de “supervisionado” porque existe uma referência correta, ou rótulo, que orienta o aprendizado. Isso não significa necessariamente que uma pessoa acompanha o modelo durante todo o treinamento: a supervisão está principalmente nos exemplos previamente classificados. É muito utilizado em dois tipos de problema: classificação, quando a saída é uma categoria, como fraude/não fraude, e regressão, quando a saída é um valor numérico, como previsão de preço ou demanda.

AI Architecture

É a disciplina de organizar uma solução de IA em camadas e componentes com responsabilidades e contratos claros: a interface com o usuário, a orquestração do fluxo, os modelos, os dados, as integrações com outros sistemas, a segurança e a observabilidade. Difere da arquitetura de software tradicional porque inclui componentes que erram por natureza, custam por uso e mudam de comportamento com o tempo. Por isso, avaliação, fallback e monitoramento fazem parte da arquitetura desde o início, e não são etapas adicionadas depois. Uma boa arquitetura de IA permite trocar um modelo, uma base de conhecimento ou uma ferramenta sem redesenhar a solução inteira.

Attention

É o mecanismo que permite a um modelo decidir, para cada parte de uma sequência, quanto cada outra parte importa. Ao processar a palavra “ele” em uma frase, por exemplo, a atenção permite ao modelo “olhar” para o nome ao qual esse pronome se refere, mesmo que esteja várias palavras antes. No Transformer, esse mecanismo é aplicado dentro da própria entrada (self-attention) e em várias “cabeças” paralelas (multi-head attention), cada uma aprendendo um tipo diferente de relação entre as partes do texto. É a atenção que permite ao modelo ligar uma pergunta ao trecho relevante de um documento ou manter a coerência em textos longos.

Index Refresh / Re-embedding

É o processo de manter o índice sincronizado com a base de conhecimento: adicionar documentos novos, reindexar os que mudaram e remover os que foram revogados. Re-embedding é recalcular todos os vetores, o que se torna necessário quando o modelo de embeddings é trocado. O critério de qualidade é a atualidade (freshness): quanto tempo passa entre a mudança em um documento e sua disponibilidade na busca. Um índice desatualizado é uma das causas mais comuns de respostas erradas em sistemas de RAG que “funcionavam” no lançamento.

Authentication / Authorization / Role-Based Access Control

Autenticação é verificar quem é a pessoa ou o sistema (login, token). Autorização é verificar o que ela pode fazer. RBAC (controle de acesso baseado em papéis) é a forma de autorizar por papéis (atendente, supervisor, cliente) em vez de pessoa por pessoa. Em IA, a autorização precisa chegar até a recuperação (o RAG só devolve o que o usuário pode ver) e até as ferramentas (o agente age em nome de alguém, com limites). Um assistente que não sabe quem está perguntando não pode decidir o que responder.

Automation

É a execução automática de tarefas ou sequências de passos previamente definidos, com pouca ou nenhuma intervenção humana durante o processo. Uma automação normalmente funciona a partir de gatilhos, regras e ações, como abrir um chamado, alterar um status, disparar uma comunicação ou copiar dados entre sistemas. Automações tradicionais são determinísticas e baseadas em regras: quando determinada condição acontece, uma ação previamente configurada é executada. Elas não precisam de Inteligência Artificial e, sozinhas, não interpretam bem situações ambíguas nem decidem livremente o que fazer. A integração pode acontecer diretamente entre sistemas, por meio de APIs e ferramentas de automação, ou pela própria interface. RPA (Robotic Process Automation) é uma abordagem de automação que simula ações humanas na interface, como clicar, preencher campos e copiar informações, sendo especialmente útil em sistemas legados ou quando não existe uma integração via API.

Supervised Autonomy / Autonomy Level

É o modelo operacional em que um sistema de IA executa com autonomia, mas dentro de um envelope definido: quais ações são permitidas, quais limiares de confiança se aplicam, quais aprovações são obrigatórias e onde estão os pontos de parada. O nível de autonomia é definido por ação, não por sistema. Ler pode ser livre; escrever pode pedir confirmação; cobrar exige uma pessoa. O princípio de agência mínima necessária diz que o agente deve ter apenas a autonomia que a tarefa exige, e nada mais. É a forma como sistemas agênticos operam com segurança em produção.

Algorithmic Impact Assessment (AIIA) / AI Risk Assessment

É uma análise estruturada, feita antes da implantação, do que um sistema de IA pode causar: a quem afeta, quais direitos e interesses estão em jogo, qual a probabilidade e a gravidade dos danos, quais mitigações existem e quem responde. O resultado é uma classificação de risco e uma lista de controles obrigatórios. É análoga ao relatório de impacto da LGPD (RIPD), com escopo que vai além da privacidade: cobre discriminação, acesso a serviços, autonomia das pessoas.

Human Evaluation

É a avaliação em que pessoas, idealmente especialistas do domínio, julgam as saídas do sistema contra critérios explícitos. É a referência contra a qual toda avaliação automática precisa ser calibrada. É cara e lenta, por isso é usada em amostra: uma fatia aleatória revisada regularmente, que alimenta o conjunto de avaliação e calibra o juiz automático. Não existe eval sem humano em algum ponto: alguém definiu o que é uma boa resposta.

Sycophancy

É a tendência dos modelos de linguagem a concordar com o usuário, validar premissas erradas e mudar de resposta quando questionados. Acontece porque o treinamento por preferência humana recompensou respostas que agradam. Em produto, gera confirmação de suposições falsas, feedback inútil (“ótima ideia!”) e análises que dizem o que o usuário quer ouvir. Foi nomeada em pesquisas de alinhamento como efeito colateral do RLHF.

Vector Database / Vector Index

É o sistema que armazena os embeddings e permite encontrar rapidamente os vetores mais próximos de uma consulta. Para fazer isso em milhões de vetores, usa índices aproximados (ANN), que trocam um pouco de exatidão por muita velocidade. Além dos vetores, guarda metadados (data, área, cliente, status) para filtrar resultados, e o texto original de cada chunk para devolvê-lo ao modelo. Pode ser um serviço dedicado ou uma extensão do banco de dados que a empresa já usa, como o pgvector no PostgreSQL.

Knowledge Base / Corpus

É o conjunto de documentos que um sistema de RAG pode consultar para responder: manuais, políticas, contratos, FAQs, histórico de casos, documentação de produto. A qualidade da base define o teto de qualidade do produto. Uma base desatualizada, incompleta, com documentos contraditórios ou sem controle de quem pode ver o quê produz respostas erradas com aparência de oficial. Por isso, a base de conhecimento precisa de curadoria: dono, critérios de inclusão, revisão periódica e regras de acesso.

Baseline

É o ponto de comparação contra o qual se mede o ganho de uma solução: o que já acontece hoje sem o modelo (processo manual, regra atual, modelo anterior) ou um modelo trivial (prever sempre a classe mais comum, prever a média). Sem baseline não existe ganho demonstrável; existe entusiasmo. O baseline não é “zero”. É a operação de hoje, com seus acertos e seus custos.

Benchmark

É um conjunto de testes padronizado e público, usado para comparar modelos entre si em tarefas gerais: raciocínio, código, conhecimento, matemática. Os rankings de modelos que aparecem na imprensa e nos anúncios de fornecedores são baseados em benchmarks. São úteis para a triagem inicial de fornecedores. Mas não servem para decidir se um modelo atende ao seu caso: o benchmark não contém o seu domínio, o seu vocabulário nem os seus casos difíceis, e os modelos são otimizados para pontuar bem neles. Um modelo três pontos acima no ranking pode ser pior nas suas 80 perguntas reais.

BLEU / ROUGE

São métricas que medem a sobreposição de palavras e sequências de palavras (n-gramas) entre o texto gerado e um texto de referência. O BLEU mede precisão: quanto do texto gerado aparece na referência. O ROUGE mede recall: quanto da referência aparece no texto gerado. São rápidas e reprodutíveis, mas cegas para o sentido: uma paráfrase correta pontua baixo; uma cópia com um erro crucial pontua alto. O BERTScore é uma alternativa que compara embeddings em vez de palavras exatas, capturando melhor a semântica.

BM25 / Lexical Search

É a busca por correspondência de palavras, em que os documentos são pontuados de acordo com a frequência dos termos da consulta e com a raridade desses termos no conjunto todo. BM25 é o algoritmo mais usado para isso, e está por trás de ferramentas como Elasticsearch. A busca lexical não entende sinônimos nem significado: procura exatamente o que foi escrito. Por isso, é imbatível para termos exatos, como códigos, números de contrato, nomes próprios e siglas. É rápida, barata e explicável: dá para saber exatamente por que um documento apareceu no resultado.

Hybrid Search

É a técnica de executar a busca lexical (BM25) e a busca vetorial em paralelo e fundir os resultados em um único ranking. O método mais comum é o Reciprocal Rank Fusion, em que cada documento recebe pontos de acordo com sua posição em cada uma das listas. O resultado captura tanto correspondências exatas (códigos, nomes) quanto correspondências de significado (sinônimos, paráfrases), no mesmo sistema. É considerada o padrão recomendado para RAG em ambientes corporativos.

Vector / Semantic Search

É a busca que encontra os conteúdos cujos embeddings estão mais próximos do embedding da consulta. Como os embeddings representam significado, a busca vetorial recupera por sentido: sinônimos, paráfrases e perguntas formuladas de maneiras diferentes chegam aos mesmos resultados. Para funcionar rápido em milhões de vetores, usa índices de vizinhos mais próximos aproximados (ANN), que aceitam uma pequena perda de exatidão em troca de muita velocidade. É a base do RAG, da busca semântica e de muitos sistemas de recomendação.

Cache / Semantic Cache

É o armazenamento de resultados já calculados para não precisar recalculá-los. O cache exato devolve a resposta guardada quando a entrada é idêntica a uma anterior. O cache semântico devolve quando a entrada é suficientemente parecida com uma já respondida, medida por embeddings, o que é útil para perguntas repetidas com palavras diferentes. O prompt caching, oferecido pelos fornecedores, é diferente: reaproveita o processamento do prefixo do prompt, e não a resposta. Em assistentes, as perguntas frequentes costumam ser a maior parte do volume, o que torna o cache uma alavanca importante de custo e latência.

Calibration

É o grau em que a probabilidade que o modelo reporta corresponde à frequência real. Entre os casos em que o modelo disse “80% de chance de fraude”, cerca de 80% deveriam ser fraude de fato. Um modelo mal calibrado tem uma “confiança” que não significa nada. E limiares, filas de revisão e comunicação de incerteza ao usuário dependem de essa confiança ser real. Redes neurais e LLMs tendem a ser superconfiantes. A recalibração é relativamente barata e não exige retreinar o modelo.

Model Layer / Model Gateway

É a camada que abstrai o acesso aos modelos de IA. Um gateway único recebe todas as chamadas da aplicação e as encaminha ao fornecedor certo, aplica limites de custo e de taxa, registra o uso, faz cache e aciona fallback entre modelos quando um falha. A aplicação chama “o modelo de classificação”; o gateway decide se isso vai para o fornecedor A, para o fornecedor B ou para o modelo interno. É o equivalente, para modelos de IA, do que o API gateway é para serviços: um ponto único de controle e de política.

Orchestration Layer

É a camada que fica entre a aplicação e os modelos e coordena o fluxo: monta o contexto, chama as capacidades na ordem certa, executa ferramentas, aplica guardrails, consolida resultados e decide quando acionar fallback ou escalar para uma pessoa. É onde vivem os workflows e os agentes. Separá-la da camada de modelo permite trocar de modelo sem reescrever o fluxo, e trocar o fluxo sem mexer no modelo. Frameworks de mercado implementam essa camada, mas ela também pode ser construída com código próprio.

AI Capability

É o menor bloco de competência de um sistema de IA que pode ser definido, testado, avaliado e evoluído de forma independente. Representa uma tarefa específica que o sistema precisa ser capaz de realizar para contribuir com uma experiência ou objetivo maior, como “detectar uma avaria em uma foto”, “consultar informações de um contrato” ou “redigir uma comunicação para o cliente”. Uma solução pode ser formada por várias capacidades combinadas. Cada capacidade pode utilizar uma abordagem tecnológica diferente, como regra determinística, automação, Machine Learning, IA Generativa, RAG, skill ou agente, de acordo com o tipo de problema, nível de incerteza e autonomia necessários. Tratar essas competências como capacidades separadas ajuda a tornar decisões de arquitetura e Produto mais explícitas: o que o sistema precisa fazer, qual abordagem é mais adequada, como essa capacidade será avaliada e o que pode ser substituído ou evoluído sem redesenhar toda a solução.

Model Cascade / Model Routing

É o padrão de usar primeiro um modelo pequeno e barato e escalar para um modelo maior apenas quando necessário: quando a confiança é baixa, quando a tarefa é detectada como complexa ou quando a validação da resposta falha. O roteamento é uma variante em que um classificador decide de antemão qual modelo deve atender cada tipo de pedido, sem passar pelo modelo pequeno primeiro. O objetivo é reduzir o custo médio mantendo a qualidade nos casos difíceis, que são a minoria.

Edge Case / Adversarial Case

Caso de borda é uma entrada rara, ambígua ou no limite do esperado: um cliente que é pessoa jurídica e física ao mesmo tempo, uma foto com reflexo, uma pergunta em dois idiomas. Caso adversarial é uma entrada construída para fazer o sistema falhar: uma tentativa de injeção de prompt, um pedido fora de escopo disfarçado, dados contraditórios. Ambos precisam estar no conjunto de avaliação, porque é neles que os produtos quebram.

Chain-of-Thought (CoT) Prompting

É a técnica de pedir ao modelo que exponha seu raciocínio passo a passo antes de dar a resposta final. Em vez de responder diretamente “a resposta é X”, o modelo escreve “primeiro, considero A; depois, B; portanto, X”. Funciona porque a geração é sequencial: os passos intermediários funcionam como um espaço de cálculo que melhora o resultado em tarefas de lógica, matemática e decisões com várias etapas. Modelos de raciocínio mais recentes incorporaram essa ideia internamente, “pensando” antes de responder sem que o prompt precise pedir. Variantes incluem gerar vários raciocínios e escolher o mais frequente (self-consistency) e pedir que o modelo revise a própria resposta.

Chunking

É a técnica de dividir documentos em pedaços menores, chamados de chunks, para que possam ser indexados e recuperados individualmente. Cada chunk precisa ser pequeno o bastante para ser encontrado com precisão e grande o bastante para carregar um sentido completo. As principais decisões são o tamanho (tipicamente entre 200 e 800 tokens), a sobreposição entre chunks vizinhos (para não cortar uma ideia ao meio) e a estratégia de divisão: por tamanho fixo, por parágrafo, por seção do documento ou por similaridade semântica. Não existe um tamanho certo universal. O melhor chunking depende do tipo de documento e do tipo de pergunta.