Pular para o conteúdo
LabS Atlas
Agentic AI
Entrar

Seleção de Modelo por Agente

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Seleção de Modelo por Agente é escolher, num sistema multiagente, um modelo de linguagem para cada agente conforme a tarefa, pesando janela de contexto, chamada de ferramentas, temperatura e custo.

Num sistema multiagente, cada agente faz uma parte diferente do trabalho, e essas partes têm exigências muito diferentes. Usar o modelo mais caro em todas as etapas é como usar uma bazuca para pregar um prego: funciona, mas desperdiça dinheiro e tempo. O modelo certo é o proporcional à complexidade da tarefa, não o mais avançado disponível.

Modelo forte vai onde há raciocínio e acúmulo de contexto; modelo pequeno, rápido e barato vai onde a tarefa é classificar, captar, traduzir ou formatar. Como cada nó aceita um modelo próprio, a escolha é decisão de arquitetura.

Critérios para escolher o modelo de cada agente

  • Capacidade de chamar ferramentas. Nem todo modelo suporta Function Calling. Colocado no orquestrador, um modelo sem essa capacidade simplesmente não enxerga os outros agentes, porque o orquestrador só os conhece pelo nome e pela descrição expostos como ferramentas. É um critério eliminatório.
  • Janela de contexto. O orquestrador acumula as saídas do pesquisador, dos analistas e dos revisores ao longo dos loops de decisão, e por isso pede janela grande. Um modelo rápido, com menos parâmetros e janela menor, pode ser ótimo para traduzir um texto quase instantaneamente, mas no orquestrador passa do limite, se perde e deixa de saber o que tinha para fazer.
  • Temperatura. Em análise técnica, agentes com temperatura alta ficam criativos demais e fogem do pedido. Um agente que só pega informação bruta e a repassa não precisa de criatividade; baixar a temperatura deixa a resposta objetiva.
  • Custo e latência. Modelos menores custam menos por token e respondem mais rápido; nem sempre o mais caro é o mais adequado para uma tarefa pontual.
  • Disponibilidade do provedor. Quando o provedor principal fica fora do ar, a troca automática para outro é tratada em Fallback de Modelos em Agentes.

Combinações que funcionam

Um arranjo testado em n8n usa o GPT-4.1 Mini no orquestrador e nas etapas que exigem pensar, por ter janela da ordem de 1 milhão de tokens a um custo menor que o dos modelos mais novos da OpenAI, e o GPT-4.1 Nano, com menos parâmetros e mais barato, nos agentes que só captam e repassam informação. Modelos gratuitos e de outros provedores também foram testados, mas ficaram atrás em qualidade de resultado para um custo que já era baixo.

Para classificar intenção (saudação, dúvida ou pedido de código), um modelo pequeno como o GPT-4o mini basta; antes dos LLMs essa triagem era feita com expressões regulares, e um classificador leve de machine learning também é alternativa. Quando todos os prompts são bem específicos e nenhum agente precisa de muito contexto, manter o mesmo modelo pequeno em todos é uma escolha legítima.

Em agentes de código a regra se repete: modelo forte para planejar, modelo barato para executar, e subagentes fixos por função (frontend, backend, QA) com o modelo mais indicado para cada uma. Um CRUD básico não justifica o modelo mais caro do provedor. Há ainda razões fora do custo, como um modelo local para dados sensíveis. E a escolha pede critério: decidir o modelo de cada agente no improviso, só porque um provedor gerava textos mais detalhados, fica como ponto de melhoria.

Efeito da escolha na conta final

O custo separa tokens de entrada (prompt) e de saída (completion), e o n8n mostra os dois por nó. Uma execução completa de um sistema de análise de investimentos com seis agentes consumiu cerca de 85 mil tokens, a maior parte de entrada: o nó de busca de notícias recebeu por volta de 8 mil tokens e devolveu menos de 800. Com preço aproximado de US$ 0,40 por milhão de tokens de entrada e US$ 1,60 por milhão de saída, a estimativa é de algumas centenas de execuções por mês para gastar entre 5 e 10 reais.

Trocar de modelo no meio da conversa

O novo modelo precisa reler todo o histórico antes de responder. Numa conversa longa, trocar para um modelo caro gera um custo alto de uma só vez.