Pular para o conteúdo
LabS Atlas
Generative AI
Entrar

Busca por Similaridade Vetorial

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Busca por similaridade vetorial é achar no banco vetorial os trechos cujo vetor está mais perto do vetor da pergunta, limitando o resultado por um score mínimo e pelos k melhores.

É a etapa de recuperação de um Pipeline de RAG. Tudo o que foi indexado virou vetor por meio de Embeddings; na hora da consulta, a pergunta do usuário também é vetorizada, com o mesmo modelo, e comparada aos vetores guardados no Banco Vetorial. O que volta é um conjunto de trechos ranqueados por proximidade semântica, que depois vira contexto no prompt.

Diferente de uma busca por palavra-chave, do tipo que um filtro textual de banco relacional faz, a comparação acontece por significado: perguntas sobre um tema encontram trechos daquele tema mesmo sem compartilhar as mesmas palavras.

Métricas de proximidade e como ler o score

A métrica mais usada é o cosseno do ângulo entre dois vetores. A distância euclidiana, a linha reta entre dois pontos no espaço multidimensional, também serve. O ponto de atenção é saber o que a biblioteca devolve: uma distância (quanto menor, mais perto) ou uma similaridade (quanto maior, mais perto). Ler um pelo outro inverte o filtro.

Na similaridade de cosseno aplicada a embeddings, o score fica na prática entre 0 e 1. Perto de 1, os vetores apontam na mesma direção semântica; perto de 0, são ortogonais e não têm relação. Se a base só fala de cachorro e a pergunta é sobre copo, nenhum trecho chega perto do limiar e nada volta, porque os vetores estão distantes.

Score mínimo e top-k

A recuperação combina dois filtros. Primeiro, o limiar (threshold): só entram os vetores cujo score supera um mínimo, por exemplo 0,5. Depois, o top-k: dos que passaram, ficam os k mais relevantes, que podem ser 3, 5, 7 ou até 100.

Calibrar o limiar é das partes mais difíceis de um RAG, porque o erro vai para os dois lados:

  • Score alto demais (no extremo, 1) exige correspondência quase exata e devolve praticamente nada.
  • Score baixo demais traz trechos pouco relacionados, enche a janela de contexto, encarece a chamada e favorece alucinação.

Não existe valor universal. Cada modelo de embedding calcula com dimensões e comportamento próprios, e o score precisa ser recalibrado quando o modelo muda; modelos locais menos populares têm menos referência pública para esse ajuste. O tipo de dado também pesa: dados estruturados, com campos fixos, aceitam score mais alto do que texto livre. Aumentar o k traz mais material potencialmente útil, ao custo de memória e de tokens. Numa mesma aplicação, o chat interno usou score 0,5 com os 3 melhores resultados, e a busca exposta como serviço externo usou 0,6 com os 5 melhores.

Reranking depois da busca

Depois dos k resultados, um modelo de reranking pode reordená-los pelo que de fato responde à pergunta, e não só pela proximidade vetorial bruta.

KNN, HNSW e FAISS

Comparar a pergunta com todos os vetores é caro. Duas abordagens organizam essa busca:

  • KNN (K-Nearest Neighbors) procura os k vizinhos mais próximos do vetor da pergunta.
  • HNSW (Hierarchical Navigable Small World) monta um grafo navegável sobre os vetores. Funciona como um bibliotecário: define onde cada conhecimento é guardado e como chegar até ele sem percorrer a biblioteca inteira. Os vetores desse espaço têm muitas dimensões; um formato comum usa 1536 posições.

FAISS, biblioteca criada na Meta e implementada em C, faz esse cálculo rapidamente em memória. É uma alternativa a manter um banco vetorial completo, com uso mais direto em Python e Node do que em outras stacks.

A granularidade do Chunking afeta tudo isso. Vetorizar um livro extenso como um único bloco produz um vetor que aponta só para a ideia geral da obra, e nenhuma pergunta específica encontra o trecho que a responde.