Avaliação de impacto algorítmico

É uma análise estruturada, feita antes da implantação, do que um sistema de IA pode causar: a quem afeta, quais direitos e interesses estão em jogo, qual a probabilidade e a gravidade dos danos, quais mitigações existem e quem responde. O resultado é uma classificação de risco e uma lista de controles obrigatórios. É análoga ao relatório de impacto da LGPD (RIPD), com escopo que vai além da privacidade: cobre discriminação, acesso a serviços, autonomia das pessoas.

Em Produto, a avaliação de impacto deve ser feita para qualquer capacidade que decide ou influencia decisões sobre pessoas: crédito, elegibilidade, priorização, preço. Meia página basta para baixo risco; um documento completo para alto risco. É o artefato que responde “vocês pensaram nisso?” quando algo dá errado. Por exemplo, a avaliação de um modelo de priorização de atendimentos conclui que o dano principal é o atraso para grupos vulneráveis; o SLA de resposta igual para todos os grupos vira requisito do produto.

Use avaliação de impacto algorítmico para impacto em pessoas e direitos. Use modelagem de ameaças para riscos de ataque e segurança. Use RIPD para o tratamento de dados pessoais especificamente. Os três frequentemente se combinam em um único documento. Uma forma simples de diferenciar: impacto algorítmico olha para quem é afetado; modelagem de ameaças olha para quem ataca; RIPD olha para os dados.

Proposta pelo AI Now Institute (2018); adotada pelo governo do Canadá (2019) e prevista no EU AI Act como Fundamental Rights Impact Assessment (2024).

AI Now Institute, Algorithmic Impact Assessments (2018); EU AI Act, Art. 27