Pular para o conteúdo
LabS Atlas
Agentic AI
Entrar

Chunking

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Chunking é a divisão de um texto longo em pedaços de tamanho semelhante, com um trecho repetido entre vizinhos (overlap), para preparar o texto antes de gerar embeddings.

Num pipeline de RAG, o documento inteiro não vai para o prompt. Cada pedaço (chunk) é transformado em vetor por um modelo de embedding e guardado num banco vetorial; na hora da pergunta, a busca devolve só os pedaços mais próximos dela. O chunking define, portanto, a unidade de recuperação: o que o agente consegue encontrar e o que chega ao modelo como contexto.

É considerada a parte conceitualmente mais simples do RAG, mas também uma das que mais pesam no resultado. Uma ideia pode começar num chunk e terminar no seguinte, e aí a resposta completa deixa de estar num único trecho recuperado. Lidar bem com esse corte é um dos maiores desafios práticos de quem constrói RAG.

Tamanho do pedaço e sobreposição

Uma configuração comum é de cerca de 1000 caracteres por chunk e 200 de sobreposição, os dois ajustáveis. É o padrão usado tanto no divisor de texto do N8N, que oferece um modo simples e um customizado, quanto numa implementação própria em Python.

A sobreposição faz os últimos caracteres de um pedaço reaparecerem no início do próximo. Com isso, quando a busca cai num pedaço intermediário, o trecho repetido ainda sinaliza que a continuação está no vizinho. Um exemplo simples: uma frase curta sobre um sistema que armazena dados num banco de dados para facilitar a recuperação, dividida em três pedaços. Uma pergunta sobre para que serve o banco de dados pode encontrar o segundo pedaço, e o overlap contendo "banco de dados" indica que o resto da resposta está no terceiro.

O tamanho real varia: a última página de um PDF costuma ter menos conteúdo e gera um chunk menor que os demais.

Como funciona o corte por caracteres

O algoritmo mais direto usa um ponteiro de início que começa em zero. A cada volta, recorta o texto do ponteiro até o ponteiro mais o tamanho, adiciona esse recorte à lista de saída e avança o ponteiro em tamanho menos overlap. Com 1000 e 200, o primeiro pedaço vai do caractere 0 ao 1000 e o segundo começa no 800. O laço termina quando o ponteiro alcança o comprimento do texto.

Corte cego ao conteúdo

O corte por caracteres não sabe onde termina uma palavra, uma frase ou uma seção. Ao inspecionar os chunks gerados, os pedaços terminam no meio de palavras, e o seguinte começa com os 200 caracteres finais do anterior antes de trazer texto novo. Títulos em markdown produzidos pela extração com OCR também são ignorados por esse corte.

Efeito da divisão na qualidade da recuperação

A divisão não é neutra, e alguns efeitos aparecem com frequência:

  • Ideia partida: a informação necessária fica dividida entre dois chunks, e uma única busca não traz a resposta completa.
  • Tipo de dado: texto corrido é dividido em blocos de cerca de 1000 caracteres, mas conhecimento tabular pode ser carregado linha a linha, cada linha virando uma entrada. A estratégia de indexação muda conforme o formato de origem.
  • Quantidade de pedaços retornados: o limite de chunks devolvidos pela busca é o outro lado da mesma decisão. Aumentá-lo dá mais contexto ao modelo, mas também eleva o custo em tokens e pode aumentar o risco de alucinação. Com trechos de cerca de 1000 caracteres, cada chunk extra acrescenta esse volume ao prompt.
  • Pedaços repetidos: processar o mesmo documento duas vezes faz a busca devolver cópias do mesmo trecho em vez de trechos complementares, problema descrito em Duplicação de Embeddings e Chunks. Aumentar o limite para compensar só encarece a consulta sem corrigir a causa.