Pular para o conteúdo
LabS Atlas
AI For Devs
Entrar

Data de Corte de Conhecimento

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Data de corte de conhecimento é o limite dos dados de treino de um modelo de linguagem: depois dela, ele desconhece os fatos e precisa de uma ferramenta de busca online.

O modelo funciona como o cérebro de um agente, e esse cérebro para no tempo na data em que o treinamento terminou. Nenhuma estrutura montada por cima, seja um time de agentes no CrewAI ou um fluxo visual, muda isso: a limitação é do modelo, não do framework. Por isso ela aparece igual em qualquer ferramenta que use o mesmo modelo, e muda quando se troca de modelo, já que cada um tem o seu corte. Essa variação é um dos motivos para tratar a liberdade de escolher o modelo como critério de avaliação, tema de Seleção de Modelo por Tarefa.

Como o corte aparece nas respostas

O sintoma típico é uma resposta segura e desatualizada. Um time de agentes com a tarefa de pesquisar quem venceu a eleição presidencial americana de 2024, rodando sobre o GPT-4o mini, respondeu que a eleição ainda não tinha acontecido e estava agendada para novembro. O modelo tinha conhecimento até por volta de outubro de 2023 e simplesmente não podia saber o resultado. O agente pesquisador do time não resolvia o problema, porque sem ferramenta ele pesquisava apenas dentro do próprio modelo.

O mesmo raciocínio vale para qualquer data: um modelo que só conhece fatos até determinado ano responde bem sobre aquele período e falha em tudo o que veio depois, sem avisar que está fora do seu limite.

Busca online como ferramenta do agente

A correção é separar o motor de raciocínio do motor de busca. O modelo continua sendo o cérebro, e o agente recebe uma ferramenta que consulta a internet quando precisa de informação que o modelo não tem, uma das ferramentas que compõem um agente.

O Tavily é uma dessas ferramentas. Faz busca semântica, devolve as fontes consultadas (no exemplo da eleição, Reuters, Wikipedia e CNBC) e permite configurar, em código, quantos resultados cada pesquisa traz; o plano gratuito oferece cerca de mil buscas por mês. Acoplado ao agente pesquisador, fez o mesmo time responder corretamente quem venceu, com percentual de votos e estados decisivos. As bibliotecas de ferramentas de frameworks de agentes trazem outras opções prontas, como busca no Bing, Wikipedia (gratuita) e calculadora, e também é possível construir uma ferramenta própria.

Quando não acionar a busca

A ferramenta resolve o corte, mas cada chamada é uma requisição a mais e consome tokens. Um agente com instrução vaga tende a tentar usar ferramentas mesmo quando a pergunta pode ser respondida só com o contexto que ele já recebeu, e isso aumenta o Custo de Tokens sem melhorar a resposta.

Busca só quando a informação é recente

O prompt do agente deve dizer quando a busca é necessária, por exemplo para fatos posteriores ao corte do modelo, e quando não é. Essa regra faz parte da Especialização de Prompts para Agentes.