Impacto desproporcional (regra dos 80%)
Disparate Impact / Four-Fifths Rule
Métrica de fairness
IntermediárioCategoria: IA responsável, ética e governançaSubcategoria: Fairness
O que significa
É o teste que compara a taxa de resultado favorável do grupo menos favorecido com a do grupo mais favorecido. Se a razão for menor do que 0,8 (80%), há indício de impacto desproporcional, mesmo sem intenção de discriminar.
É o teste mais usado em contextos jurídicos e de auditoria, por ser simples e ter um limiar estabelecido.
Vem do direito trabalhista dos Estados Unidos, de 1978, e foi adotado pela comunidade de ML como teste padrão.
Como usar na prática de produto
Em Produto, vale rodar o teste antes de lançar qualquer capacidade que seleciona, aprova ou prioriza pessoas, e periodicamente depois.
Uma razão abaixo de 0,8 não é automaticamente ilegal, mas exige justificativa de necessidade e busca de alternativa menos discriminatória. E é a primeira pergunta que um auditor vai fazer.
Por exemplo, uma triagem automática de currículos aprova 35% dos candidatos acima de 50 anos e 55% dos abaixo. Razão de 0,64; o sistema é suspenso para revisão.
Quando usar este termo ou outro
Use impacto desproporcional como teste de triagem e de auditoria.
Use paridade demográfica como a métrica subjacente.
Use equalized odds para análise mais fina quando há verdade de referência.
Uma forma simples de diferenciar: a regra dos 80% é o alarme; as outras métricas são a investigação.
Exemplos de aplicação
- Currículos: razão de 0,64 entre faixas etárias leva à suspensão do sistema.
- Crédito: teste periódico das taxas de aprovação por grupo.
- Auditoria: primeira pergunta de um auditor sobre sistemas de decisão.
- Justificativa: documentar a necessidade quando a razão fica abaixo de 0,80.
- Alternativas: buscar critérios menos discriminatórios que atendam ao objetivo.
Como calcular
Fórmula:
Razão de impacto = taxa de resultado favorável do grupo desfavorecido ÷ taxa de resultado favorável do grupo mais favorecido.
Regra: razão maior ou igual a 0,80 passa no teste.
Passo a passo:
1. Calcule a taxa de resultado favorável (aprovação, seleção) de cada grupo.
2. Identifique o grupo com a maior taxa.
3. Divida a taxa de cada outro grupo pela do grupo mais favorecido.
4. Verifique se alguma razão fica abaixo de 0,80.
Exemplo:
48% de aprovação no grupo B e 62% no grupo A. Razão = 0,48 ÷ 0,62 = 0,77, abaixo de 0,80. Indício de impacto desproporcional.
Como interpretar:
Razão abaixo de 0,80 exige investigação e justificativa. Não é prova de discriminação, mas é o ponto em que a organização precisa demonstrar que o critério é necessário e que não há alternativa menos discriminatória.
Origem do termo
Direito trabalhista dos EUA: Uniform Guidelines on Employee Selection Procedures (EEOC, 1978); adotado como teste em ML por Feldman et al. (2015).
Fonte técnica
EEOC, Uniform Guidelines on Employee Selection Procedures (1978); Feldman et al., Certifying and Removing Disparate Impact (2015)