Transparência para o usuário

São os padrões de interface que comunicam ao usuário o que a IA é e quanto confiar nela: identificar que é IA, explicar o que pode e não pode fazer, mostrar fontes, sinalizar incerteza (“não tenho certeza, confirme com...”), indicar quando uma resposta foi gerada ou recuperada, e dar saída fácil para um humano. O objetivo é calibrar a confiança do usuário para o nível real de confiabilidade do sistema. Guias do Google e da Microsoft consolidaram essas práticas a partir de 2019.

Em Produto, confiança demais gera viés de automação; confiança de menos gera abandono. A interface é o que calibra: confiança do modelo visível, fontes clicáveis, linguagem mais cautelosa quando a incerteza é alta, botão de “falar com humano” sempre acessível. Vale testar com usuários se eles entendem quando confiar e quando não. Por exemplo, uma resposta com fidelidade alta mostra a fonte e usa tom direto; uma com fidelidade média mostra “com base no que encontrei, mas confirme” e destaca o botão de atendente.

Use transparência de interface para calibrar a confiança do usuário em cada interação. Use explicabilidade para decisões individuais que afetam a pessoa. Use model card e system card para stakeholders e auditores. Uma forma simples de diferenciar: transparência de interface é para quem usa; explicabilidade é para quem é afetado; model card é para quem governa.

Google People + AI Guidebook (2019) e Microsoft Guidelines for Human-AI Interaction (Amershi et al., 2019).

Amershi et al., Guidelines for Human-AI Interaction (Microsoft, 2019); Google People + AI Guidebook, Explainability + Trust