Autonomia supervisionada

É o modelo operacional em que um sistema de IA executa com autonomia, mas dentro de um envelope definido: quais ações são permitidas, quais limiares de confiança se aplicam, quais aprovações são obrigatórias e onde estão os pontos de parada. O nível de autonomia é definido por ação, não por sistema. Ler pode ser livre; escrever pode pedir confirmação; cobrar exige uma pessoa. O princípio de agência mínima necessária diz que o agente deve ter apenas a autonomia que a tarefa exige, e nada mais. É a forma como sistemas agênticos operam com segurança em produção.

Em Produto, a pergunta útil não é “o sistema é autônomo ou não?”, mas “qual ação, com qual aprovação?”. O exercício é mapear as ações possíveis por reversibilidade e impacto, e definir o controle de cada uma. A autonomia deve ser ampliada gradualmente, à medida que as avaliações e o monitoramento demonstram confiabilidade, e nunca antes. Um agente começa propondo e passa a executar quando provou que propõe bem. Por exemplo, um agente de suporte pode responder dúvidas sozinho, propor reembolsos para aprovação humana e nunca alterar dados cadastrais.

Use autonomia supervisionada como o padrão para sistemas agênticos em produção. Use autonomia plena apenas para ações reversíveis, de baixo impacto e com monitoramento contínuo. Use Human-in-the-Loop para ações irreversíveis ou de alto impacto. Uma forma simples de diferenciar: a autonomia é uma escala por ação, não um interruptor por sistema.

Níveis de autonomia vêm da automação veicular (SAE J3016, 2014); aplicados a agentes de IA em modelos de maturidade e no princípio de 'least agency' (agência mínima necessária).

SAE J3016 (níveis de automação); Anthropic, Building Effective Agents; NIST AI RMF 1.0