RAG Agêntico
Ir para notas que citam estaRAG agêntico é o arranjo em que a busca na base de conhecimento vira uma ferramenta que o agente chama quando julga necessário, em vez de acontecer sempre antes da resposta.
No RAG fixo, toda pergunta passa pela busca vetorial e os trechos encontrados entram no prompt, precise ou não. No arranjo agêntico, a busca é uma ferramenta como outra qualquer, exposta ao modelo por Function Calling. O modelo decide se a pergunta exige a base, escreve ele mesmo o texto da consulta e pode consultar mais de uma vez. Uma saudação não gasta busca nenhuma; uma dúvida técnica dispara a consulta com os termos que o agente achou melhores.
Essa autonomia também muda quem formula a consulta. O texto pesquisado não é a pergunta literal do usuário, e sim uma reformulação do agente. Com um modelo capaz, essa consulta costuma sair melhor que a original; com um modelo de menor capacidade, como um modelo local, ela pode sair fraca e trazer trechos pouco úteis.
Assinatura da ferramenta de busca
A ferramenta recebe a consulta como string e um parâmetro de limite, a quantidade de trechos a devolver, com valor padrão de 5. Diferente da ingestão, a busca não passa por Chunking: a consulta é usada inteira. O único pré-processamento é gerar o embedding da consulta com o mesmo modelo usado para indexar os documentos.
Com o vetor em mãos, a ferramenta consulta o Qdrant pelo método de busca de pontos do cliente, informando o nome da coleção, o vetor e o limite. O limite funciona como o LIMIT de um SELECT em SQL.
O que o retorno precisa conter
Cada ponto devolvido traz um payload, o dado auxiliar gravado na indexação. O texto útil está no campo de texto desse payload, e a ferramenta percorre os resultados, extrai esse campo de cada um e junta tudo numa única string separada por quebras de linha. O payload pode guardar também o nome do documento de origem, o que permite devolver a procedência junto com o trecho.
Antes do texto recuperado, a ferramenta coloca uma frase fixa avisando que aquele conteúdo veio da base de conhecimento. Isso deixa claro para o modelo que se trata de contexto adicional, separado da pergunta e das instruções. A função é anotada como ferramenta e recebe uma descrição caprichada, porque é por ela que o modelo decide quando buscar.
Quantos trechos devolver
O limite é uma decisão de projeto, não um detalhe. Com trechos de cerca de 1000 caracteres e limite 5, cada chamada injeta perto de 5000 caracteres no prompt. Se um agente chama a ferramenta duas vezes, são 10 trechos de uma vez. Devolver demais aumenta o risco de estourar o contexto e deixar o agente confuso ou alucinando; devolver de menos pode deixar de fora o trecho que responde a pergunta.
Num fluxo com especialista e validador, cada agente formula a própria consulta. O especialista pesquisa a dúvida do usuário; o validador pesquisa o nome da função que o especialista sugeriu, para confirmar que ela existe na documentação. Mesma ferramenta, consultas distintas, porque os objetivos são distintos.
Limites da busca como ferramenta
A ferramenta só enxerga o que foi ingerido. Quando a informação não está na base, um agente bem instruído responde que não tem o dado em vez de inventar. E documento atualizado na origem só aparece nas respostas depois que a ingestão roda de novo.