Fairness (justiça algorítmica)

É a propriedade de um sistema tratar grupos e indivíduos sem discriminação injusta. Existem dezenas de definições formais, e elas são matematicamente incompatíveis entre si: não é possível satisfazer paridade demográfica, equalized odds e calibração ao mesmo tempo, salvo em casos triviais. Escolher qual definição de fairness importa é uma decisão de valores e de contexto, não de engenharia. A área se consolidou como campo de pesquisa a partir de 2016.

Em Produto, o time precisa escolher explicitamente: igualdade de resultado (paridade demográfica), igualdade de erro (equalized odds) ou igualdade de significado da pontuação (calibração)? A escolha depende do dano principal: negar um benefício, gerar um falso alarme, ou enganar quem lê a pontuação. A decisão deve ser documentada e medida por grupo. Por exemplo, para um modelo de aprovação de crédito, o time escolhe equal opportunity (mesmo recall entre grupos): bons pagadores de todos os grupos têm a mesma chance de aprovação.

Use paridade demográfica quando o resultado em si deve ser distribuído igualmente. Use equalized odds ou equal opportunity quando há verdade de referência confiável e o que importa é errar igual. Use calibração quando a pontuação é lida por humanos e precisa significar o mesmo para todos. Use impacto desproporcional como teste legal e de auditoria. Uma forma simples de diferenciar: não dá para ter todas; escolha pelo dano que mais importa e documente.

Área de pesquisa consolidada a partir de 2016 (conferência FAccT, 2018); resultado de impossibilidade de Kleinberg et al. (2016) e Chouldechova (2017).

Barocas, Hardt & Narayanan, Fairness and Machine Learning (2023); Kleinberg, Mullainathan & Raghavan, Inherent Trade-Offs in the Fair Determination of Risk Scores (2016)