Execução paralela

É o padrão de executar ao mesmo tempo as capacidades que não dependem uma da outra (fan-out) e consolidar seus resultados em seguida (fan-in). Em vez de esperar cada etapa terminar para começar a próxima, tudo o que pode rodar junto roda junto. Paralelismo não é rodar tudo ao mesmo tempo; é saber o que não depende de quê. A latência de um bloco paralelo é a da capacidade mais lenta, e não a soma de todas. O que depende de um resultado anterior espera por ele. É um dos padrões mais eficazes para reduzir o tempo de resposta de sistemas com várias etapas.

Em Produto, vale desenhar o grafo de dependências antes de implementar: o que pode disparar no mesmo gatilho e o que precisa esperar. Cada dependência aceita é um custo de tempo assumido, e vale questionar cada uma. O ganho real raramente está nos segundos de processamento economizados. Está em tirar a espera humana de onde ela não decidia nada: quando três consultas que levavam três dias em sequência passam a acontecer juntas em minutos. Por exemplo, em uma análise de ocorrência, análise de imagem, consulta de contrato, busca de precedentes e histórico do cliente podem rodar em paralelo. A estimativa de custo depende da imagem; a cobertura depende do custo e do contrato; a comunicação depende de tudo.

Use execução paralela para capacidades independentes, que não precisam do resultado umas das outras. Use execução sequencial quando há dependência real de dados entre as etapas. Use fan-in com regras de consolidação quando os resultados paralelos podem conflitar. Uma forma simples de diferenciar: paralelo para o que é independente; sequencial para o que depende; a regra de consolidação decide o que fazer quando os resultados discordam.

Padrões de computação concorrente; 'parallelization' é um dos cinco padrões de workflow em Anthropic (2024).

Anthropic, Building Effective Agents: parallelization (2024)