IA centrada no humano

É uma abordagem para criar e utilizar sistemas de Inteligência Artificial colocando necessidades, capacidades, direitos, segurança e objetivos das pessoas no centro das decisões de produto e tecnologia. Em vez de avaliar uma solução apenas pela capacidade ou desempenho do modelo, considera também como a IA afeta quem usa, quem é impactado e o contexto em que a decisão acontece. Na prática, envolve projetar sistemas que sejam úteis e compreensíveis, definir níveis adequados de autonomia, permitir supervisão ou intervenção humana quando necessário e avaliar possíveis erros, vieses e impactos. Isso não significa que uma pessoa precise aprovar todas as ações da IA, mas que o papel humano e o nível de controle sejam definidos de acordo com o risco e as consequências de cada contexto. A abordagem considera todo o ciclo de vida do produto, desde a definição do problema e escolha dos dados até testes, lançamento e monitoramento contínuo.

Em Produto, IA Centrada no Humano significa começar pelo problema, pelas pessoas afetadas e pelo contexto de uso, e não pela tecnologia disponível. Ao desenhar uma funcionalidade com IA, o time deve entender onde ela realmente ajuda, quais erros podem acontecer, quem será afetado por esses erros, quanto controle o usuário precisa ter e quando deve existir revisão humana. Também influencia decisões de UX, como comunicar que o usuário está interagindo com IA, permitir corrigir resultados, explicar limitações, oferecer alternativas e criar mecanismos de feedback e contestação quando fizer sentido.

Use IA Centrada no Humano quando o foco estiver no desenho da relação entre pessoas e sistemas de IA, considerando experiência, autonomia, controle, impactos e necessidades humanas. Use IA Responsável (Responsible AI) quando a discussão for mais ampla e envolver princípios e práticas como segurança, fairness, privacidade, transparência, accountability e governança. Os conceitos são complementares e frequentemente se sobrepõem. Também não é sinônimo de Human-in-the-Loop (HITL). HITL é um mecanismo específico em que uma pessoa participa de alguma etapa do processo, como revisar, aprovar ou corrigir uma saída. Um produto pode ser centrado no humano sem exigir revisão humana em todas as decisões. Uma forma simples de diferenciar: IA Centrada no Humano orienta como criar IA que funcione para e com as pessoas; IA Responsável amplia o olhar para riscos e responsabilidades; Human-in-the-Loop define momentos específicos de participação humana.

Formalizado pelo Stanford HAI (2019) e por Ben Shneiderman em Human-Centered AI (2022); ecoa a 'inteligência aumentada' de Engelbart (1962).

Shneiderman, Human-Centered AI (2022); NIST AI RMF 1.0 (característica 'human-centered')