IA responsável

É o conjunto de práticas para que sistemas de IA sejam seguros, justos, transparentes, respeitem a privacidade e permaneçam sob responsabilidade humana ao longo de todo o ciclo de vida, e não apenas em uma revisão final. Inclui avaliação de risco, mitigação de viés, explicabilidade, supervisão humana, monitoramento e mecanismos para que pessoas afetadas possam contestar decisões. Consolidou-se a partir de 2018 nas grandes empresas de tecnologia e nos princípios da OCDE.

Em Produto, IA responsável não é um departamento nem um checklist de lançamento. É um conjunto de decisões de produto: quais dados usar, qual nível de autonomia dar ao sistema, quanta transparência oferecer, qual recurso o usuário tem quando discorda. Essas decisões são tomadas desde o discovery, e o time de Produto é quem tem o contexto para tomá-las. Documentá-las no PRD e no model card é o que as torna auditáveis. Por exemplo, decidir no discovery que o modelo de risco não usará CEP como variável, por ser um proxy de renda e de origem, é uma decisão de produto, não de compliance.

Use IA responsável para o objetivo amplo: sistemas que funcionam bem para as pessoas e para a sociedade. Use governança de IA para a estrutura organizacional que garante isso. Use fairness, privacidade e segurança para as dimensões específicas dentro do conjunto. Uma forma simples de diferenciar: IA responsável é o que se quer; governança é como se organiza; fairness, privacidade e segurança são as partes.

Termo consolidado por Microsoft e Google (2018) e pelos princípios da OCDE sobre IA (2019).

OECD AI Principles (2019); NIST AI RMF 1.0 (2023); Microsoft Responsible AI Standard