Agência excessiva
Excessive Agency
Ameaça
IntermediárioCategoria: Segurança de IASubcategoria: Ameaças
O que significa
É quando um sistema de IA tem mais capacidade de ação do que a tarefa exige: ferramentas demais, permissões amplas demais, autonomia sem pontos de verificação.
Sozinha, é uma vulnerabilidade latente. Combinada com uma injeção de prompt ou um erro do modelo, o dano deixa de ser “resposta errada” e vira “ação errada”: e-mail enviado, registro apagado, pagamento feito.
Está na lista do OWASP como um dos riscos centrais de sistemas agênticos.
Como usar na prática de produto
Em Produto, para cada ferramenta do agente, vale perguntar: ele precisa mesmo dessa ação? Com esse escopo? Sem aprovação?
A matriz de ações versus nível de autonomia deve estar no PRD. Ações irreversíveis ou com valor financeiro exigem aprovação humana até que as avaliações provem confiabilidade.
Por exemplo, um agente de suporte com permissão de “cancelar contrato” quando sua tarefa é “consultar status”: remover a ferramenta elimina o risco inteiro.
Quando usar este termo ou outro
Use agência excessiva para nomear a ameaça: capacidade de ação além do necessário.
Use menor privilégio e approval gate para as mitigações.
Use autonomia supervisionada para o modelo operacional que equilibra ação e controle.
Uma forma simples de diferenciar: agência excessiva é o problema; menor privilégio é a solução; autonomia supervisionada é a prática.
Exemplos de aplicação
- Ferramenta desnecessária: agente de consulta com permissão de cancelamento.
- Matriz: ações classificadas por reversibilidade e impacto no PRD.
- Aprovação: ações financeiras exigem humano até prova de confiabilidade.
- Escopo: credenciais só-leitura para agentes que não precisam escrever.
- Revisão: reavaliar as permissões a cada nova ferramenta adicionada.
Origem do termo
OWASP Top 10 para LLMs (LLM06, 2023-2025).
Fonte técnica
OWASP Top 10 for LLM Applications, LLM06 Excessive Agency (2025)