Pular para o conteúdo
LabS Atlas
Agentic AI
Entrar

RAG Agêntico

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

RAG agêntico é o arranjo em que a busca na base de conhecimento vira uma ferramenta que o agente chama quando julga necessário, em vez de acontecer sempre antes da resposta.

No RAG fixo, toda pergunta passa pela busca vetorial e os trechos encontrados entram no prompt, precise ou não. No arranjo agêntico, a busca é uma ferramenta como outra qualquer, exposta ao modelo por Function Calling. O modelo decide se a pergunta exige a base, escreve ele mesmo o texto da consulta e pode consultar mais de uma vez. Uma saudação não gasta busca nenhuma; uma dúvida técnica dispara a consulta com os termos que o agente achou melhores.

Essa autonomia também muda quem formula a consulta. O texto pesquisado não é a pergunta literal do usuário, e sim uma reformulação do agente. Com um modelo capaz, essa consulta costuma sair melhor que a original; com um modelo de menor capacidade, como um modelo local, ela pode sair fraca e trazer trechos pouco úteis.

Assinatura da ferramenta de busca

A ferramenta recebe a consulta como string e um parâmetro de limite, a quantidade de trechos a devolver, com valor padrão de 5. Diferente da ingestão, a busca não passa por Chunking: a consulta é usada inteira. O único pré-processamento é gerar o embedding da consulta com o mesmo modelo usado para indexar os documentos.

Com o vetor em mãos, a ferramenta consulta o Qdrant pelo método de busca de pontos do cliente, informando o nome da coleção, o vetor e o limite. O limite funciona como o LIMIT de um SELECT em SQL.

O que o retorno precisa conter

Cada ponto devolvido traz um payload, o dado auxiliar gravado na indexação. O texto útil está no campo de texto desse payload, e a ferramenta percorre os resultados, extrai esse campo de cada um e junta tudo numa única string separada por quebras de linha. O payload pode guardar também o nome do documento de origem, o que permite devolver a procedência junto com o trecho.

Antes do texto recuperado, a ferramenta coloca uma frase fixa avisando que aquele conteúdo veio da base de conhecimento. Isso deixa claro para o modelo que se trata de contexto adicional, separado da pergunta e das instruções. A função é anotada como ferramenta e recebe uma descrição caprichada, porque é por ela que o modelo decide quando buscar.

Quantos trechos devolver

O limite é uma decisão de projeto, não um detalhe. Com trechos de cerca de 1000 caracteres e limite 5, cada chamada injeta perto de 5000 caracteres no prompt. Se um agente chama a ferramenta duas vezes, são 10 trechos de uma vez. Devolver demais aumenta o risco de estourar o contexto e deixar o agente confuso ou alucinando; devolver de menos pode deixar de fora o trecho que responde a pergunta.

Consultas diferentes para objetivos diferentes

Num fluxo com especialista e validador, cada agente formula a própria consulta. O especialista pesquisa a dúvida do usuário; o validador pesquisa o nome da função que o especialista sugeriu, para confirmar que ela existe na documentação. Mesma ferramenta, consultas distintas, porque os objetivos são distintos.

Limites da busca como ferramenta

A ferramenta só enxerga o que foi ingerido. Quando a informação não está na base, um agente bem instruído responde que não tem o dado em vez de inventar. E documento atualizado na origem só aparece nas respostas depois que a ingestão roda de novo.