LangChain
Ir para notas que citam estaLangChain é um framework para construir aplicações com modelos de linguagem que abstrai chunking, embeddings, banco vetorial, retrievers e composição de prompts.
Ele virou a ferramenta padrão de muitas demonstrações de RAG porque junta, sob uma interface única, todas as etapas de um Pipeline de RAG: quebrar o documento, gerar os vetores, guardar numa base, recuperar o que interessa e montar o prompt final. Em volta dele cresceu um ecossistema: o LangGraph para fluxos com vários agentes, o LangFlow para montar fluxos visualmente e o LangSmith, ligado ao tratamento de prompts.
O que ele resolve num pipeline de RAG
Num pipeline típico, o LangChain cuida de fatiar o conteúdo em chunks, chamar o modelo de embeddings, montar o banco vetorial, fazer o retrieval e combinar o contexto recuperado com a pergunta. Há recursos prontos para cortes específicos, como a divisão por cabeçalhos Markdown, que devolve cada pedaço como um documento com texto e metadados (por exemplo, o título do capítulo de origem). Também oferece integração pronta com bibliotecas vetoriais como o FAISS, cuja configuração direta, com índice e armazenamento de documentos, é mais trabalhosa do que parece.
Self-query retriever
O self-query retriever é o componente que monta sozinho a consulta sobre a base vetorial a partir da pergunta em linguagem natural e dos metadados disponíveis. Sem ele, cada tipo de pergunta exige escrever a lógica de consulta à mão: uma comparação numérica, por exemplo, pede que se monte explicitamente um filtro do tipo maior que.
Em perguntas diretas e bem delimitadas pelos metadados, como listar os itens associados a um registro específico, ele se mostra bastante assertivo. O risco aparece quando os metadados usam termos ambíguos. Um termo empregado de forma pouco convencional na origem, como dataset significando algo diferente de tabela ou banco, leva o modelo a montar a consulta errada, e isso exige mais testes antes de confiar no componente.
O custo da abstração
A crítica recorrente é que o LangChain mascara demais. Um detalhe simples, como trocar o modelo usado, pode exigir vasculhar o código para descobrir onde a configuração fica. Há comportamentos embutidos que ninguém pediu: um recurso ligado ao LangSmith reescreve o prompt automaticamente para melhorá-lo, e só é encontrado investigando o código. O LlamaIndex aparece como alternativa de abstração ainda mais alta. Já o LangFlow é ótimo para explicar conceitos, mas pesado para rodar e difícil de entender quando se abre o código de cada bloco.
Imports e a organização interna dos pacotes mudam com muita frequência. Tutoriais de um mês atrás já trazem caminhos que não funcionam, um mesmo recurso migra de pacote em poucos dias e projetos antigos precisam ter todos os imports reescritos. Num caso típico, um parâmetro de limite de caracteres mudou de 24 para 20 de um dia para o outro e quebrou uma aplicação que funcionava. Por isso é comum congelar a versão que funciona e evitar mexer nela.
Quando usar e como sair aos poucos
O LangChain é muito bom para aprender, testar ideias e prototipar rápido. Para produção, vale entender cada peça que ele esconde, porque é isso que mostra qual embedding funciona melhor e como separar e vetorizar o conteúdo. A saída recomendada é gradual: trocar primeiro a chamada ao LLM pela biblioteca do próprio provedor e, em seguida, as demais peças, como o banco vetorial por uma biblioteca como o FAISS, até chegar a um fluxo linear e próximo do problema. Bibliotecas mantidas pelos próprios provedores de modelos tendem a ser mais estáveis. A instabilidade não é exclusiva do Python: portar exemplos para Java esbarra nos mesmos imports que mudam de lugar.