Tech Talk Modelos de Decisão Nem Toda Resposta Precisa Ser Escrita (2026-10-21)
Entre para ler os trechos da transcrição de cada capítulo e perguntar ao Labinho sobre esta sessão.
O Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.
Notas citadas nas anotações desta sessão.
A sessão apresentou os modelos de decisão como sistemas que recebem uma entrada e retornam uma escolha estruturada, como uma categoria, um valor, um sim ou não ou um direcionamento, acompanhada do nível de confiança. Uma dinâmica de classificação de mensagens mostrou que o modelo também pode se abster quando nenhuma categoria disponível representa adequadamente a entrada. Diferentemente de uma LLM, que gera uma resposta token a token, o modelo de decisão trabalha com saídas previamente definidas, evitando a geração de texto, reduzindo latência, custo e problemas de formato ou alucinação. Também foi discutido que modelos de decisão podem complementar LLMs, atuando na triagem, no roteamento, em guard rails e na escolha de quando é necessário chamar um modelo generativo ou um atendente humano.
Foram apresentados lançamentos recentes, possibilidades de execução local e uso em dispositivos, além de uma demonstração comparando uma LLM, um modelo local pequeno e uma API de decisão. O modelo de decisão externo alcançou acurácia semelhante à LLM, mas com latência e custo menores, enquanto o modelo local teve custo nulo, porém menor precisão e desempenho variável. A escolha entre decisão e geração depende do tipo de resposta, do volume de requisições, da quantidade de opções fixas e do custo de manutenção e calibração dos limiares de confiança; portanto, o decisor não é uma solução universal. Como próximos passos, foram indicados a exploração dos repositórios da demonstração e do Labs Atlas, onde estão disponíveis os materiais, notas e um assistente para esclarecer dúvidas sobre o tema.