Pular para o conteúdo
LabS Atlas
Generative AI
Entrar
Sessões

Desafio RAG Local com MCP (2026-03-17)

17 mar 202659min
Assistir gravação

Entre para ler os trechos da transcrição de cada capítulo e perguntar ao Labinho sobre esta sessão.

O Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

atualizado há 25 dias
Resumo da sessão

A sessão apresentou o desafio de construir um sistema de RAG local integrado a MCP, com arquivos armazenados em diretório local, um modelo de linguagem, interface de consulta e registro detalhado das interações. Também foi explicado o funcionamento do RAG: os documentos são divididos em chunks, convertidos em embeddings, armazenados em um banco vetorial e recuperados por similaridade para compor o contexto enviado ao modelo. A implementação demonstrada usou front-end separado, back-end em Spring Boot, PostgreSQL com extensão vetorial e execução local do modelo por meio do LM Studio. Durante a demonstração, o sistema respondeu a consultas sobre arquivos de despesas e exibiu os contextos recuperados e os logs das buscas.

A discussão destacou a importância de ajustar o tamanho dos chunks, o overlap, a quantidade de resultados e o score mínimo de similaridade, pois configurações inadequadas podem gerar excesso de contexto, respostas irrelevantes ou ausência de resultados. Também foram relatadas dificuldades com mudanças frequentes nas bibliotecas e imports do LangChain, especialmente na integração com Java e MCP, além da influência do modelo de embedding e da capacidade do modelo de linguagem na qualidade das respostas. O código foi disponibilizado em um repositório para consulta, e a solução cumpriu os requisitos obrigatórios e desejáveis do desafio, garantindo a recompensa correspondente.

Ao final, reforçou-se que os desafios do mural são abertos mesmo para pessoas sem experiência prévia, contando com apoio da equipe, materiais e workshops. Foi divulgado um workshop sobre conceitos de agentes, e os participantes foram incentivados a escolher desafios, propor abordagens alternativas e compartilhar seus aprendizados. Permaneceram como pontos em aberto a busca pelo melhor ajuste de parâmetros para diferentes modelos e bases de dados, bem como a evolução da solução para ambientes mais robustos ou em nuvem.

Gerado por IA a partir da transcrição.
Capítulos · 18
07:20
Abertura e apresentação do desafio
Assistir
10:27
Como funciona o mural de desafios
Assistir
12:16
Como escolher e abordar um desafio
Assistir
15:22
Visão geral do desafio de RAG local
Assistir
16:41
Fundamentos técnicos de RAG e embeddings
Assistir
30:42
Ranking, score e busca por similaridade
Assistir
35:21
Chunking e sobreposição de contexto
Assistir
36:51
Demonstração da ingestão de documentos
Assistir
38:31
Implementação de MCP com Java e Spring Boot
Assistir
42:03
Código aberto e configuração do MCP
Assistir
47:15
Ajuste de embeddings e parâmetros por modelo
Assistir
48:50
Limitações de modelos locais em aplicações RAG
Assistir
50:16
Atualização de documentação e uso de MCPs
Assistir
51:55
Arquitetura local do projeto RAG apresentado
Assistir
53:44
Recompensa e transferência ao vivo do desafio
Assistir
54:59
Convite para novos desafios e workshops
Assistir
57:00
Workshop sobre agentes e encerramento da sessão
Assistir
58:20
Agradecimentos e despedida
Assistir
Cortes · 6
Construindo um RAG local com Spring Boot
Pablo apresenta um sistema de RAG local desenvolvido com arquivos de um diretório, embeddings, banco vetorial PostgreSQL e uma interface para consultas. Ele explica o fluxo de ingestão, divisão dos documentos em chunks, busca por similaridade, geração da resposta e visualização dos contextos e logs, além de demonstrar a aplicação e comentar dificuldades com versões e imports do LangChain.
15:22 – 30:42Assistir
Como ajustar score, quantidade de resultados e overlap no RAG
O grupo discute como o score mínimo e a quantidade de resultados recuperados influenciam a qualidade das respostas de um sistema RAG. Também são abordados os efeitos sobre contexto, custo, alucinações e o uso de overlap entre chunks para evitar que informações importantes sejam quebradas.
30:42 – 36:48Assistir
Implementação de MCP e desafios das bibliotecas
Após a apresentação, Pablo explica como adaptou para Spring Boot uma implementação de MCP estudada em Python e como lidou com bibliotecas e imports instáveis. A conversa também relaciona o MCP à recuperação de contexto, detalha parâmetros de busca e destaca que os valores ideais de score dependem do tipo de dado e do modelo de embedding utilizado.
38:31 – 48:49Assistir
Como o modelo influencia o resultado do RAG
A discussão mostra que uma resposta ruim em um sistema RAG pode ser causada não apenas pela recuperação dos documentos, mas também pelas limitações do modelo, pelo volume de texto e pelo prompt. Também são comentados modelos locais pequenos e o uso de MCPs para consultar documentação atualizada durante o desenvolvimento.
48:50 – 51:52Assistir
Aplicação local de RAG com arquivos próprios
É apresentada uma solução local em que arquivos armazenados no computador alimentam um sistema RAG conectado a um backend, frontend e modelo de linguagem. O fluxo envolve gerar embeddings dos documentos, consultar esse conteúdo e interagir com ele por meio de um chat, além de destacar outras ferramentas para experimentar MCPs locais.
51:55 – 53:43Assistir
Desafios, recompensas e workshops do Labs
A conversa confirma a recompensa de um desafio e convida outras pessoas a participarem das próximas atividades. Também são divulgados o mural de desafios e workshops para quem quer aprender sobre agentes e desenvolver habilidades mesmo sem dominar todos os conhecimentos necessários.
54:59 – 57:01Assistir
Perguntas desta sessão
É possível realizar um desafio de Generative AI sem conhecimento prévio sobre a área?
Sim. Os desafios servem para explorar e aprender o assunto na prática, sem exigir domínio prévio. É necessário cumprir os itens obrigatórios e o escopo definidos, por isso recomenda-se escolher um desafio compatível com o próprio nível ou negociar ajustes na proposta.
13:01 – 13:59Assistir
Quais são os requisitos obrigatórios e desejáveis do desafio de RAG local?
O desafio exige desenvolver um sistema de RAG integrado a um modelo de linguagem. Entre os requisitos apresentados estão usar arquivos de um diretório local, integrar o modelo de linguagem, criar uma interface para exibir as respostas e registrar logs detalhados das consultas. Esses itens foram cumpridos na implementação demonstrada.
14:59 – 16:18Assistir
Como escolher o score mínimo e a quantidade de resultados retornados em uma aplicação RAG?
É necessário testar os valores de acordo com os dados e o objetivo da aplicação. Scores muito altos podem não retornar nada, enquanto scores baixos podem trazer informações irrelevantes. Aumentar o número de resultados melhora a quantidade potencial de contexto, mas também aumenta o uso de memória, o custo e o risco de sobrecarregar ou confundir a LLM. Não existe um valor universal; os parâmetros precisam ser ajustados empiricamente.
34:46 – 35:39Assistir
Como foi implementado o servidor MCP em Java com Spring Boot e quais bibliotecas foram utilizadas?
A implementação foi adaptada de uma experiência anterior em Python para Spring Boot. Foram utilizadas bibliotecas do LangChain compatíveis com o projeto, mas a escolha exigiu bastante pesquisa devido às mudanças frequentes de imports e versões. Para evitar que o backend quebrasse, a configuração funcional foi preservada em um arquivo compactado.
38:46 – 40:33Assistir
Como o arquivo de configuração do MCP foi implementado e quais parâmetros ele usa para recuperar dados do RAG?
O serviço MCP percorre os embeddings armazenados e recupera até cinco resultados mais similares, aplicando score mínimo de 0,6. Para cada resultado, calcula e registra o score, monta o contexto recuperado e devolve essas informações à aplicação. Assim, o MCP utiliza parâmetros próprios, diferentes dos usados diretamente no serviço de retrieval do RAG, que trabalhava com três resultados e score mínimo de 0,5.
42:04 – 45:54Assistir