Sistema probabilístico

É um sistema que trabalha com probabilidades e incerteza para produzir resultados. Em vez de seguir apenas regras fixas, ele pode avaliar diferentes possibilidades e atribuir probabilidades a cada uma delas. Por isso, dependendo do modelo e de sua configuração, entradas semelhantes podem levar a resultados diferentes.

Em Produto, sistemas probabilísticos aparecem quando precisamos lidar com situações em que não existe uma única resposta certa ou totalmente previsível. É comum em recomendações, previsões, classificações e aplicações de IA Generativa. Ao desenhar produtos com esses sistemas, é importante considerar essa incerteza na própria experiência: definir níveis aceitáveis de erro, métricas de qualidade, avaliações, mecanismos de fallback e situações em que uma pessoa precisa revisar ou confirmar o resultado.

Use probabilístico quando o sistema estima possibilidades, probabilidades ou gera resultados que podem variar. Use determinístico quando a mesma entrada, nas mesmas condições, deve produzir sempre o mesmo resultado. LLMs são um bom exemplo de modelos probabilísticos: ao gerar um texto, o modelo estima probabilidades para os próximos tokens. Isso ajuda a entender por que aplicações de IA Generativa podem apresentar variação nas respostas. Uma forma simples de diferenciar: determinístico = resultado definido pelas regras; probabilístico = resultado baseado em probabilidades e sujeito a incerteza.

Fundamento da estatística e do ML; em produto, o termo descreve qualquer componente cuja saída é uma estimativa com incerteza.

Google Machine Learning Crash Course; NIST AI RMF 1.0