Dicionário de Inteligência Artificial PM3

Accountability

É o princípio de que existe uma pessoa ou área identificável que responde pelas decisões e pelos efeitos de um sistema de IA, e que consegue demonstrar que fez o que era esperado, por meio de registros, avaliações e mitigações. “O modelo decidiu” não transfere responsabilidade. Quem implantou responde. É um dos princípios da OCDE para IA e um dos fundamentos da LGPD, que o chama de “responsabilização e prestação de contas”.

NIST AI Risk Management Framework

É um framework voluntário do NIST, o instituto de padrões dos Estados Unidos, para gerenciar riscos de IA. Organiza-se em quatro funções: Govern (cultura, papéis, políticas), Map (entender o contexto, o uso pretendido, os impactos e quem é afetado), Measure (avaliar os riscos com métricas de viés, robustez e segurança) e Manage (priorizar, mitigar, monitorar e responder). Define “IA confiável” por sete características: válida e confiável, segura, resiliente, responsável e transparente, explicável, com privacidade protegida e justa. Tornou-se a referência mais usada para estruturar programas de risco em IA, inclusive fora dos EUA.

Hallucination / Confabulation

É a saída fluente, confiante e falsa de um modelo de linguagem: um fato inventado, uma citação inexistente, um número errado, uma função de API que não existe, uma cláusula que o contrato não tem. Não é um bug ocasional. É consequência de o modelo gerar o texto mais provável, não o mais verdadeiro. Reduz-se com ancoragem em fontes, instruções de recusa, temperatura baixa e verificação; não se elimina. Alguns autores preferem o termo “confabulação”, da neuropsicologia, por ser mais preciso.

Anonymization / Pseudonymization / PII Masking

Anonimização é transformar o dado de modo que não possa mais ser associado a uma pessoa por meios razoáveis; o dado deixa de ser pessoal. Pseudonimização é substituir os identificadores por códigos, mantendo uma chave separada; o dado continua pessoal, mas com risco reduzido. Mascaramento de dados pessoais é detectar e substituir nomes, documentos e contatos em um texto antes de enviá-lo ao modelo ou de armazená-lo em log. Anonimização fraca é um risco: combinar poucos atributos (CEP, data de nascimento, gênero) reidentifica a maioria das pessoas.

Algorithmic Impact Assessment (AIIA) / AI Risk Assessment

É uma análise estruturada, feita antes da implantação, do que um sistema de IA pode causar: a quem afeta, quais direitos e interesses estão em jogo, qual a probabilidade e a gravidade dos danos, quais mitigações existem e quem responde. O resultado é uma classificação de risco e uma lista de controles obrigatórios. É análoga ao relatório de impacto da LGPD (RIPD), com escopo que vai além da privacidade: cobre discriminação, acesso a serviços, autonomia das pessoas.

Sycophancy

É a tendência dos modelos de linguagem a concordar com o usuário, validar premissas erradas e mudar de resposta quando questionados. Acontece porque o treinamento por preferência humana recompensou respostas que agradam. Em produto, gera confirmação de suposições falsas, feedback inútil (“ótima ideia!”) e análises que dizem o que o usuário quer ouvir. Foi nomeada em pesquisas de alinhamento como efeito colateral do RLHF.

Contestability / Right to Human Review

É o direito da pessoa afetada por uma decisão automatizada de entender a decisão, contestá-la e obter revisão por um humano com poder de mudá-la. Exige que o produto tenha um caminho de recurso visível, que a explicação seja compreensível e que o revisor não seja apenas um carimbo do modelo. É previsto na LGPD, no GDPR e no AI Act europeu, e vem do princípio do devido processo do direito administrativo.

Personal Data / PII / Sensitive Data

Dado pessoal é qualquer informação relacionada a uma pessoa identificada ou identificável: nome, CPF, e-mail, placa vinculada a alguém, localização, identificador de dispositivo. Dado pessoal sensível é uma categoria com proteção reforçada: origem racial ou étnica, convicção religiosa, opinião política, saúde, vida sexual, dados genéticos ou biométricos. Em IA, texto livre e imagens costumam conter dados pessoais sem que ninguém tenha planejado: uma transcrição de atendimento pode ter nome, CPF e uma menção a uma condição de saúde.

Datasheet for Datasets / Data Card

É a documentação de um conjunto de dados: por que foi criado, o que contém, como foi coletado e rotulado, quem está representado (e quem não está), que pré-processamento foi aplicado, quais usos são recomendados e quais são desaconselhados, questões de consentimento e privacidade, e como é mantido. Torna visível o que costuma ficar implícito, e é onde o viés de amostragem se revela. A ideia veio das fichas técnicas de componentes eletrônicos, que informam as condições de uso seguro.

Equalized Odds / Equal Opportunity

Equalized odds é a definição de fairness em que o modelo tem a mesma taxa de verdadeiros positivos e a mesma taxa de falsos positivos em todos os grupos: erra igual para todos. Equal opportunity é uma versão mais simples, que exige igualdade apenas na taxa de verdadeiros positivos: quem merece o resultado positivo tem a mesma chance de recebê-lo, em qualquer grupo. Ambas exigem uma verdade de referência confiável, ou seja, saber o que de fato aconteceu.

Explainability (XAI) / Interpretability

Interpretabilidade é o quanto uma pessoa consegue entender o mecanismo interno de um modelo: uma árvore de decisão é interpretável; uma rede neural profunda não é. Explicabilidade é a capacidade de dar uma razão compreensível para uma saída específica, mesmo em um modelo opaco, por meio de métodos que identificam os fatores que mais pesaram, de regras, ou, em LLMs, de citação de fontes e raciocínio explícito. A LGPD garante o direito a explicação de decisões automatizadas. Métodos como LIME e SHAP são as técnicas mais usadas para explicar modelos complexos.

Fairness / Algorithmic Fairness

É a propriedade de um sistema tratar grupos e indivíduos sem discriminação injusta. Existem dezenas de definições formais, e elas são matematicamente incompatíveis entre si: não é possível satisfazer paridade demográfica, equalized odds e calibração ao mesmo tempo, salvo em casos triviais. Escolher qual definição de fairness importa é uma decisão de valores e de contexto, não de engenharia. A área se consolidou como campo de pesquisa a partir de 2016.

General Data Protection Regulation / EU Artificial Intelligence Act

O GDPR é a lei europeia de proteção de dados, que serviu de modelo para a LGPD. O AI Act é a primeira lei abrangente sobre IA do mundo, baseada em níveis de risco. O AI Act define práticas proibidas (manipulação, pontuação social, reconhecimento de emoções no trabalho), sistemas de alto risco (crédito, emprego, educação, infraestrutura crítica), que exigem gestão de risco, dados de qualidade, documentação, supervisão humana e robustez, obrigações de transparência para chatbots e conteúdo sintético, e obrigações para modelos de propósito geral. A aplicação é escalonada entre 2025 e 2027.

AI Governance

É a estrutura de papéis, políticas, processos e controles que define como uma organização decide o que construir com IA, quem aprova, como mede risco e quem responde pelos resultados. Inclui inventário dos sistemas de IA em uso, classificação de risco de cada um, comitê ou fórum de aprovação, políticas de uso e auditoria periódica. Normas como a ISO/IEC 42001 e frameworks como o NIST AI RMF formalizam essa estrutura.

Responsible AI

É o conjunto de práticas para que sistemas de IA sejam seguros, justos, transparentes, respeitem a privacidade e permaneçam sob responsabilidade humana ao longo de todo o ciclo de vida, e não apenas em uma revisão final. Inclui avaliação de risco, mitigação de viés, explicabilidade, supervisão humana, monitoramento e mecanismos para que pessoas afetadas possam contestar decisões. Consolidou-se a partir de 2018 nas grandes empresas de tecnologia e nos princípios da OCDE.

Disparate Impact / Four-Fifths Rule

É o teste que compara a taxa de resultado favorável do grupo menos favorecido com a do grupo mais favorecido. Se a razão for menor do que 0,8 (80%), há indício de impacto desproporcional, mesmo sem intenção de discriminar. É o teste mais usado em contextos jurídicos e de auditoria, por ser simples e ter um limiar estabelecido. Vem do direito trabalhista dos Estados Unidos, de 1978, e foi adotado pela comunidade de ML como teste padrão.

Lei Geral de Proteção de Dados (Brazilian data protection law)

É a lei brasileira que regula o tratamento de dados pessoais. Os pontos que mais afetam IA são: as bases legais (consentimento, execução de contrato, legítimo interesse, entre outras); os princípios de finalidade, necessidade e transparência; os direitos do titular, incluindo acesso, correção, eliminação e revisão de decisões automatizadas (Art. 20); o relatório de impacto (RIPD) para tratamentos de risco; os papéis de controlador (quem decide) e operador (quem executa), sendo que fornecedores de modelo costumam ser operadores; e a obrigação de comunicar incidentes de segurança à ANPD. Vazamento de dados pessoais por um sistema de IA é incidente reportável.

Data Minimization / Purpose Limitation

Minimização é o princípio de coletar e usar apenas o dado necessário para a finalidade declarada. Limitação de finalidade é o princípio de que um dado coletado para um fim não pode ser reaproveitado para outro incompatível sem nova base legal. Para IA, esses princípios questionam dois instintos comuns: “jogar tudo no contexto” e “usar os dados de atendimento para treinar o modelo”. São princípios da LGPD e do GDPR, herdados das diretrizes da OCDE de 1980.

Bias Mitigation (reweighing, adversarial debiasing, threshold adjustment)

São as técnicas para reduzir disparidades, aplicadas em três momentos. No pré-processamento, reponderam-se ou reamostram-se os dados e removem-se proxies. Durante o treinamento, incluem-se restrições de fairness ou um componente adversário que tenta prever o grupo a partir da saída. No pós-processamento, ajustam-se os limiares por grupo para igualar as taxas de erro. Cada abordagem troca um pouco de acurácia global por mais fairness. Bibliotecas como o AI Fairness 360 implementam essas técnicas.

Model Card / System Card

Model card é um documento padronizado que descreve um modelo: finalidade e usos pretendidos, usos fora de escopo, dados de treinamento, métricas de desempenho (inclusive por grupo), limitações conhecidas, riscos e mitigações, avaliações de segurança, dono e data. System card estende a ideia para o sistema inteiro: prompts, ferramentas, guardrails, evals, e não apenas o modelo. Fornecedores publicam model cards de seus modelos; empresas deveriam manter system cards de suas capacidades.

Demographic Parity / Statistical Parity

É a definição de fairness em que o sistema dá o resultado positivo (aprovação, recomendação, seleção) na mesma proporção para cada grupo, independentemente de qualquer outra característica. É a noção mais simples de igualdade de resultado. A crítica é que ignora se os grupos têm taxas base diferentes e pode exigir decisões piores para alguns indivíduos. É a métrica subjacente ao teste de impacto desproporcional.

Transparency

É o princípio de que as pessoas afetadas sabem que estão interagindo com IA, para que ela é usada, com quais dados e com quais limites; e de que a organização consegue explicar como o sistema funciona a quem precisa: usuários, auditores, reguladores. Difere de explicabilidade, que trata de explicar uma decisão individual. Transparência é sobre o sistema como um todo. É obrigação legal em várias jurisdições, incluindo a LGPD e o AI Act europeu.

Bias (algorithmic bias)

É o erro sistemático que faz um sistema tratar pessoas ou situações de forma injusta ou inadequada, favorecendo ou prejudicando grupos. Não é acidente estatístico. Vem de escolhas: que dados coletar, como rotular, o que otimizar, como avaliar, como exibir. Entra em cada etapa do pipeline (dados, rótulos, modelo, avaliação, interface) e se propaga. O caso COMPAS, um sistema de avaliação de risco criminal nos EUA, tornou o tema público em 2016.

Sampling Bias / Representation Bias

É o viés que surge quando os dados usados para treinar ou avaliar não representam a diversidade das pessoas e situações que o produto vai encontrar: grupos, regiões, dispositivos ou condições sub-representados. O modelo aprende bem o que viu muito e mal o que viu pouco. E, se o conjunto de avaliação vem da mesma amostra, ele não detecta o problema. É o tipo de viés mais fácil de prevenir, porque se revela na composição dos dados antes de qualquer treinamento.

Automation Bias / Confirmation Bias

É a tendência humana de confiar demais na sugestão da máquina e deixar de verificar: aceitar a recomendação mesmo com evidência contrária, ou não notar quando ela erra. O viés de confirmação amplifica o problema: se a IA concorda com o que a pessoa já pensava, ela para de questionar. É o que torna o Human-in-the-Loop uma proteção frágil quando o humano apenas carimba. Foi estudado primeiro em aviação e medicina, onde pilotos e médicos seguiam sistemas automáticos mesmo quando erravam.

Interaction Bias / Feedback Loop

É o viés que surge do próprio uso: o sistema aprende com interações que ele mesmo influenciou. A recomendação mostra mais de X, os usuários clicam em X, o modelo conclui que X é melhor. Um modelo de risco manda fiscalizar o bairro Y, encontra mais problemas em Y, e confirma que Y é arriscado. O produto cria a evidência que o justifica. Chama-se também de ciclo de retroalimentação (feedback loop). É o viés que aparece depois do lançamento, e por isso exige monitoramento contínuo.

Label Bias / Measurement Bias

É o erro introduzido quando pessoas ou processos marcam os dados que ensinam o modelo: rotuladores com critérios diferentes, instruções ambíguas, julgamentos subjetivos que carregam preconceitos, ou proxies que medem mal o que importa (usar “foi preso” como proxy de “cometeu crime”). O modelo aprende o viés do rótulo como se fosse verdade. Em RLHF e em avaliação por LLM, o mesmo mecanismo se aplica: a preferência de quem avalia vira o comportamento do modelo.

Societal Bias / Historical Bias

É o viés que vem dos preconceitos e desigualdades existentes no mundo, que os dados registram fielmente e o modelo reproduz ou amplifica. Mesmo com amostragem e rotulagem perfeitas, dados históricos de contratação, crédito ou policiamento carregam a discriminação do passado. LLMs treinados na internet absorvem os estereótipos de gênero, raça e classe presentes nos textos. É o tipo de viés mais difícil de eliminar, porque os dados estão “certos” sobre um mundo que estava errado.