Contestabilidade e revisão humana

É o direito da pessoa afetada por uma decisão automatizada de entender a decisão, contestá-la e obter revisão por um humano com poder de mudá-la. Exige que o produto tenha um caminho de recurso visível, que a explicação seja compreensível e que o revisor não seja apenas um carimbo do modelo. É previsto na LGPD, no GDPR e no AI Act europeu, e vem do princípio do devido processo do direito administrativo.

Em Produto, para qualquer decisão automatizada com efeito relevante (negar, cobrar mais, priorizar menos), o fluxo de contestação deve ser desenhado como parte do produto: botão, prazo, revisor com informação suficiente e autonomia, registro do resultado. As contestações são também o melhor sinal de viés que o produto vai ter: onde as pessoas discordam sistematicamente, vale investigar. Por exemplo, o cliente recebe “seu pedido de desconto foi negado por [fatores]; para revisão humana, clique aqui”. O revisor vê os fatores e pode reverter a decisão.

Use contestabilidade para o direito do afetado de recorrer. Use explicabilidade como pré-requisito: sem explicação, não há como contestar. Use Human-in-the-Loop como o mecanismo de revisão. Uma forma simples de diferenciar: explicabilidade diz o porquê; contestabilidade permite discordar; revisão humana decide de novo.

Direito administrativo (devido processo); LGPD Art. 20 e GDPR Art. 22 (decisões automatizadas); EU AI Act Art. 86.

LGPD, Art. 20; GDPR, Art. 22; EU AI Act, Art. 86