Non-determinism
Mesma pergunta, resposta diferente. Não é defeito, é como a coisa funciona por dentro.
Onde você esbarra nisso
"Ontem funcionou, hoje não." Você rodou de novo, saiu diferente, e passou a tarde procurando o que mudou no prompt. Não mudou nada no prompt. Mudou o sorteio.
Conecta com
O que é
O modelo escreve uma palavra de cada vez, e cada palavra é sorteada de uma lista de candidatas com probabilidades diferentes. Sortear é a palavra certa: não é a mais provável que sempre ganha. Rode o mesmo texto duas vezes e o sorteio pode cair diferente, e a partir da primeira palavra diferente a resposta inteira toma outro caminho.
Detalhe atual que quase ninguém sabe: nos modelos novos da Anthropic os controles de aleatoriedade (`temperature`, `top_p`, `top_k`) foram removidos. Mandar esses parâmetros devolve erro. O botão de "deixa mais previsível" não existe mais.
O que muda pro teu negócio
Você não pode tratar saída de IA como saída de planilha. Fórmula devolve o mesmo valor sempre; modelo, não.
Isso tem uma consequência prática dura: se o teu processo depende do formato exato da resposta (um número, uma categoria, uma tabela), você precisa de validação depois, não de esperança antes. Automação séria com IA sempre tem uma checagem no fim. Quem monta fluxo sem isso não montou automação, montou uma roleta com o teu processo dentro.
Fontes
Skill `claude-api` (cache 2026-06-24), tabela Thinking & Effort: `temperature`, `top_p` e `top_k` removidos nos modelos atuais, requisição com esses parâmetros retorna 400.
docs.claude.com para o mecanismo de amostragem token a token.
AI Coding Dictionary, verbete "Non-determinism", Matt Pocock. Ele amarra não determinismo a next-token prediction, que é a explicação de por que a resposta desvia inteira depois da primeira palavra diferente.