Governança de IA

É a estrutura de papéis, políticas, processos e controles que define como uma organização decide o que construir com IA, quem aprova, como mede risco e quem responde pelos resultados. Inclui inventário dos sistemas de IA em uso, classificação de risco de cada um, comitê ou fórum de aprovação, políticas de uso e auditoria periódica. Normas como a ISO/IEC 42001 e frameworks como o NIST AI RMF formalizam essa estrutura.

Em Produto, uma boa governança é proporcional ao risco: uma capacidade de baixo risco passa por um checklist leve; uma de alto risco (crédito, saúde, emprego, dados sensíveis) passa por avaliação formal. O time de Produto precisa saber em qual trilha sua capacidade se encaixa antes de prometer prazos. Descobrir na véspera do lançamento que é preciso passar por um comitê trimestral atrasa tudo. Por exemplo, o inventário mostra 23 usos de IA na empresa, 4 classificados como alto risco; só esses passam pelo comitê, os demais seguem um fluxo simplificado.

Use governança de IA para a estrutura da organização como um todo. Use contrato de capacidade e model card para cada sistema individual. Use AI RMF como referência para montar a estrutura. Uma forma simples de diferenciar: governança é o sistema de regras; contrato e model card são os documentos de cada capacidade dentro desse sistema.

Governança corporativa e de TI (COBIT) aplicada a IA; formalizada pelo NIST AI RMF (2023) e pela ISO/IEC 42001 (2023).

NIST AI RMF 1.0, Govern; ISO/IEC 42001:2023