Mitigação de viés

São as técnicas para reduzir disparidades, aplicadas em três momentos. No pré-processamento, reponderam-se ou reamostram-se os dados e removem-se proxies. Durante o treinamento, incluem-se restrições de fairness ou um componente adversário que tenta prever o grupo a partir da saída. No pós-processamento, ajustam-se os limiares por grupo para igualar as taxas de erro. Cada abordagem troca um pouco de acurácia global por mais fairness. Bibliotecas como o AI Fairness 360 implementam essas técnicas.

Em Produto, vale começar pelo mais simples e explicável: remover proxies e reponderar os dados. O ajuste de limiar por grupo é eficaz, mas pode ser juridicamente sensível, porque trata grupos de forma explicitamente diferente. Qualquer mitigação exige medir de novo por grupo depois, e monitorar em produção, porque o viés volta com o drift. Por exemplo, reponderar as amostras do grupo sub-representado no treinamento de um detector de fraude reduz a diferença de recall entre grupos de 0,18 para 0,04, com perda de 1 ponto no F1 global.

Use pré-processamento quando o problema está nos dados. Use pós-processamento quando não é possível retreinar o modelo. Use técnicas durante o treinamento quando há controle sobre o treino e o trade-off é aceito. Uma forma simples de diferenciar: pré-processamento corrige a entrada; treinamento corrige o aprendizado; pós-processamento corrige a saída.

Kamiran & Calders (reweighing, 2012); Zhang et al. (adversarial debiasing, 2018); Hardt et al. (pós-processamento de limiares, 2016).

Kamiran & Calders, Data preprocessing techniques for classification without discrimination (2012); IBM AI Fairness 360 documentation