Arquitetura de um Modelo de Decisão
Ir para notas que citam estaArquitetura de um modelo de decisão é a forma como um decisor é construído sobre um LLM existente: mantém o corpo que entende o texto e troca a cabeça que escreve por uma que pontua opções.
Isso significa que adotar um decisor não exige reinventar a roda nem treinar um modelo do zero. A base de parâmetros de um modelo de linguagem já existe; o que muda é a forma como ele devolve o resultado.
Mesmo corpo, outra cabeça
Um LLM tem um corpo, as camadas que entendem o texto, e uma cabeça de linguagem, a camada final que escolhe a próxima palavra com base na probabilidade de cada uma continuar a sequência. Um decisor mantém o corpo e troca a cabeça.
O Strands Decider, da AWS, parte do Qwen3.5 2B, remove a cabeça de linguagem e coloca uma cabeça de pontuação com pouco mais de 1 milhão de parâmetros, que compara cada opção com a pergunta. A Decisions API, da OpenAI, é o exemplo mais literal: roda sobre o mesmo GPT-6 Luna usado como LLM e devolve probabilidades em vez de texto. Muda o formato da resposta, não o modelo, e por isso a acurácia dela fica muito próxima da do LLM equivalente, como mostrou o ensaio da bancada: os dois pensam da mesma forma, e só um escreve.
O que é cobrado num decisor
O decisor gasta tokens para ler e entender a entrada, mas a escolha não é escrita palavra por palavra, então não há tokens de saída. Um LLM cobra pela leitura e também por cada palavra da resposta, inclusive o raciocínio que ele escreve antes do resultado. É por isso que as ofertas da categoria publicam preço por milhão de tokens de entrada.
Herança do LLM e diferença para modelos de decisão clássicos
Por herdar o corpo de um LLM, o decisor herda o conhecimento dele: entende linguagem natural, gírias e erros de digitação, e aceita perguntas e opções novas na hora, sem treino. Decidir não é novidade: há modelos de decisão matemáticos que não usam IA, como as cadeias de Markov, e classificadores treinados para um conjunto fixo de rótulos, como um BERT. A novidade está em usar a mesma base dos modelos Transformer para gerar uma decisão em vez de texto e em não precisar retreinar o modelo para uma decisão diferente da anterior, algo que os modelos de decisão antigos exigiam.
Para um rótulo fixo de altíssimo volume, um classificador clássico ainda pode bastar. E, quando a decisão é muito específica, também dá para ajustar o próprio decisor com Fine-tuning, como permite a contribuição aberta da Unsloth descrita no Mapa de Modelos de Decisão.