Validação de entrada e saída

Validação de entrada é checar o que chega ao modelo: tamanho, formato, idioma, presença de instruções suspeitas e dados pessoais. Validação de saída é checar o que o modelo produz: obedece ao esquema esperado? Contém dados proibidos? Inclui código executável ou links não autorizados? Está ancorada no contexto? O princípio é que a saída do modelo é uma entrada não confiável para tudo o que vem depois. Um modelo pode ser manipulado para gerar algo perigoso, e o sistema que consome essa saída precisa se proteger. É a extensão, para IA, do princípio clássico de “nunca confie na entrada”.

Em Produto, toda saída de LLM que alimenta outro sistema (banco de dados, e-mail, API, tela) precisa passar por validação como se viesse de um usuário anônimo. É esse controle que impede que “o modelo mandou apagar” vire um dado apagado. O modelo pede; o sistema valida; só então executa. Por exemplo, a saída JSON de um extrator de laudos é validada: o campo “valor” precisa ser um número positivo abaixo do teto do contrato; senão, o caso vai para revisão humana.

Use validação de esquema para saídas estruturadas. Use validação de conteúdo para texto livre exibido ao usuário. Use guardrail de ação para chamadas de ferramenta com efeito no mundo. Uma forma simples de diferenciar: validação de entrada protege o modelo; validação de saída protege o resto do sistema.

Princípio clássico de segurança de software ('nunca confie na entrada'), estendido a saídas de LLM pelo OWASP (2023).

OWASP Top 10 for LLM Applications, LLM05 Improper Output Handling (2025)