Prevenção de exfiltração de dados

Exfiltração é a saída de dados do sistema por um canal não autorizado. Em IA, pode acontecer por uma resposta que inclui dados pessoais, por um link gerado que codifica dados na URL, ou por uma ferramenta de envio manipulada. DLP (prevenção de perda de dados) é o conjunto de controles que detecta e bloqueia padrões sensíveis (CPF, cartão, segredos) nas saídas e nas chamadas de ferramenta, e que restringe os canais de saída. É a última linha de defesa quando as outras falharam.

Em Produto, se o agente pode gerar links ou enviar mensagens, ele pode exfiltrar dados. As mitigações são: restringir domínios permitidos, bloquear a renderização de imagens externas na resposta, aplicar DLP na saída e nas ferramentas, e registrar tudo. Combinado com menor privilégio, o efeito é maior: sem ferramenta de envio, não há exfiltração por ela. Por exemplo, uma resposta com imagem apontando para um domínio desconhecido, com dados codificados na URL, é bloqueada pelo filtro de saída antes de ser exibida.

Use DLP para detectar dados sensíveis saindo do sistema. Use validação de saída para formato e conteúdo em geral. Use menor privilégio para eliminar canais de saída desnecessários. Uma forma simples de diferenciar: menor privilégio fecha portas; DLP vigia as que precisam ficar abertas.

DLP como categoria de produto de segurança (2006+); exfiltração via LLM descrita a partir de 2023 (links markdown, ferramentas de envio).

OWASP Top 10 for LLM Applications, LLM02 e LLM05 (2025); Embrace The Red, LLM data exfiltration research