Temperatura
Ir para notas que citam estaTemperatura é o parâmetro que controla quanto um modelo de linguagem varia e arrisca nas respostas, numa escala geralmente de 0 a 1: valores baixos dão previsibilidade, altos dão criatividade.
Ela é um dos ajustes do pensamento de um agente, ao lado do limite máximo de tokens de saída, no modelo descrito em Elementos de um Agente de IA. O mesmo modelo de linguagem pode se comportar como um analista cirúrgico ou como um redator criativo só por essa mudança, e por isso a temperatura é escolhida pelo papel de cada agente, não fixada uma vez para o sistema inteiro.
Efeito prático nos extremos da escala
Perto de 1, a resposta fica mais criativa e floreada, com mais variação e mais traços próprios do modelo. Não é que ele perca a precisão, mas enfeita mais. Perto de 0, a resposta fica concisa e precisa, e o modelo se atém mais ao contexto fornecido, num comportamento mais pragmático. Alguns modelos aceitam valores até 2, e algumas implementações limitam o valor efetivo: configurar algo acima do máximo aceito tende a produzir o mesmo comportamento do próprio máximo.
Escolher a temperatura pelo papel do agente
Um agente que só interpreta, como o Agente Especialista em Histórias de Usuário, trabalha com temperatura próxima de zero para não ir além do que foi pedido. Isso importa ainda mais quando a resposta precisa seguir um formato rígido, como a saída estruturada em JSON, em que a criatividade só atrapalha. Já um agente que precisasse escrever histórias novas, do zero, pede temperatura mais alta.
Não há valor certo de antemão: testa-se, observa-se a resposta e ajusta-se o parâmetro até o comportamento desejado. Temperatura baixa não substitui um contexto bem definido; modelos que recebem instruções incompletas continuam sujeitos à Alucinação.