Pular para o conteúdo
LabS Atlas
Agentic AI
Entrar

Temperatura

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Temperatura é o parâmetro do modelo de linguagem que controla a variabilidade da saída: baixa gera respostas mais objetivas e repetíveis, alta gera respostas mais criativas e variadas.

Num sistema de agentes, a temperatura é ajustada por agente, junto com o modelo e o prompt, conforme a Estrutura de um Agente no LangGraph. Cada nó tem um papel diferente no grafo, e o valor certo depende desse papel.

Temperatura baixa para agentes de decisão

A regra prática é: quanto mais fechada e específica a função de um agente, mais baixa a temperatura. Classificação, roteamento, extração de dados e validação pedem respostas certeiras e consistentes, não criativas. Com temperatura alta, o modelo tende a divagar e a se afastar do tema, trazendo conteúdo que o fluxo não pediu; com temperatura baixa, ele se limita a resolver a tarefa passada.

Um exemplo concreto: num agente especialista em Copa do Mundo, o classificador e cada subagente temático (história, atualidades, regras) usam GPT-4o mini com temperatura 0.1, porque cada um tem escopo estreito e precisa acertar, não inventar. Num gerador de minutas jurídicas, a extração dos dados do processo também usa temperatura baixa, para que os mesmos dados sejam extraídos do mesmo jeito a cada execução.

Temperatura mais alta faz sentido quando a variação é desejada, como em texto criativo, e não em nós que tomam decisões.

Efeito colateral sobre a validação

Consistência tem preço

Temperatura muito baixa num Agente Validador pode deixá-lo rígido demais. Num caso real, o validador reprovou uma minuta por um espaço duplicado entre palavras. Uma hipótese, ainda não testada, é que subir um pouco a temperatura torne o validador mais tolerante a variações irrelevantes, como espaçamento e acentuação.

A outra alavanca é o prompt do validador. Nos casos reais, chegar a um prompt aceitável e calibrar as validações foi a parte que mais consumiu esforço, um trabalho de Engenharia de Prompt feito por tentativa e teste.