Paridade demográfica

Demographic Parity / Statistical Parity

Métrica de fairness

Intermediário

Categoria: IA responsável, ética e governançaSubcategoria: Fairness

O que significa

É a definição de fairness em que o sistema dá o resultado positivo (aprovação, recomendação, seleção) na mesma proporção para cada grupo, independentemente de qualquer outra característica. É a noção mais simples de igualdade de resultado. A crítica é que ignora se os grupos têm taxas base diferentes e pode exigir decisões piores para alguns indivíduos. É a métrica subjacente ao teste de impacto desproporcional.

Como usar na prática de produto

Em Produto, a paridade demográfica é adequada quando o resultado é uma oportunidade que deveria ser distribuída igualmente (exposição, convite, triagem inicial) ou quando a variável-alvo é suspeita de viés histórico. É inadequada quando há diferença real e legítima na taxa base entre grupos. Por exemplo, em recomendação de vagas, anúncios de liderança exibidos para 30% dos homens e 12% das mulheres com o mesmo perfil violam a paridade na exposição.

Quando usar este termo ou outro

Use paridade demográfica para igualdade de acesso e exposição. Use equalized odds quando há verdade de referência confiável e o que importa é o erro. Use calibração quando a pontuação é interpretada por pessoas. Uma forma simples de diferenciar: paridade demográfica é “mesma proporção de sim”; equalized odds é “mesma taxa de acerto”.

Exemplos de aplicação

Vagas: anúncios de liderança exibidos em proporções diferentes por gênero.
Triagem: verificar se a primeira etapa de seleção aprova proporções parecidas por grupo.
Exposição: garantir que conteúdos ou ofertas cheguem igualmente a todos os grupos.
Limiar: definir a diferença máxima aceitável antes de lançar.
Base para auditoria: usar a razão entre taxas no teste dos 80%.

Como calcular

Fórmula: Para cada grupo, taxa de resultado positivo = casos com resultado positivo ÷ total de casos do grupo. Paridade demográfica é atingida quando as taxas são iguais entre grupos, ou quando a diferença absoluta fica abaixo de um limiar (por exemplo, 0,05). Passo a passo: 1. Identifique os grupos a comparar (por exemplo, por gênero ou faixa etária). 2. Calcule a taxa de resultado positivo em cada grupo. 3. Compare as taxas: calcule a diferença e a razão entre elas. Exemplo: Aprovação de 62% no grupo A e 48% no grupo B. Diferença de 0,14, acima do limiar de 0,05: paridade violada. A razão (48 ÷ 62 = 0,77) é a base do teste de impacto desproporcional. Como interpretar: Diferença grande indica que um grupo recebe o resultado positivo com menos frequência. Se isso é injusto ou reflete uma diferença legítima é uma decisão de contexto que a métrica sozinha não resolve.

Origem do termo

Dwork et al., Fairness Through Awareness (2012); Feldman et al. (2015).

Fonte técnica

Dwork et al., Fairness Through Awareness (2012); Google Machine Learning Glossary, Fairness