Pular para o conteúdo
LabS Atlas
Generative AI
Entrar
Sessões

Sessão de Bancada RAG com Agentes e CrewAI (2024-10-21)

21 out 20241h 20min
Assistir gravação

Entre para ler os trechos da transcrição de cada capítulo e perguntar ao Labinho sobre esta sessão.

O Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

atualizado há 25 dias
Notas relacionadas · 6

Notas citadas nas anotações desta sessão.

Resumo da sessão

A sessão apresentou a combinação de RAG (Retrieval-Augmented Generation) com agentes e CrewAI, destacando como essa abordagem pode tornar as respostas de modelos de linguagem mais precisas, atualizadas e adaptáveis. Foi revisado o fluxo tradicional de RAG, que envolve vetorização de documentos, recuperação de trechos relevantes e geração de respostas com base nesse contexto, além de suas limitações diante de perguntas complexas, dados transacionais ou informações que não estão no banco vetorial. A abordagem com agentes amplia esse processo ao permitir que diferentes agentes pesquisem fontes, usem ferramentas e APIs externas, consultem sistemas, avaliem respostas e verifiquem possíveis alucinações antes de entregar o resultado ao usuário. Também foram discutidos casos de uso envolvendo notas acadêmicas, análise de dados, processamento de linguagem, visão computacional, informações financeiras, geolocalização e automação de processos.

Na parte prática, foi demonstrado um notebook no Google Colab usando CrewAI, LangChain, modelos Llama hospedados no Groq e embeddings do Hugging Face. O exemplo utilizou um PDF como base para RAG e criou agentes responsáveis por roteamento, recuperação, avaliação da resposta, detecção de alucinações e seleção do resultado final, incluindo a possibilidade de recorrer a uma ferramenta de pesquisa externa quando o conteúdo não estivesse disponível no banco vetorial. A demonstração foi considerada funcional, embora breve, e o notebook será compartilhado com a comunidade. Ficaram em aberto questões sobre como definir automaticamente quando uma resposta já é suficientemente boa, como validar e encadear agentes com segurança, quais dados são enviados a serviços externos como o Groq e quais modelos de embedding são mais adequados para diferentes tipos de documentos. A sessão também reforçou a importância de explorar esses temas de forma colaborativa e consultar os materiais dos ciclos anteriores sobre prompting, fine-tuning e RAG.

Gerado por IA a partir da transcrição.
Capítulos · 48
00:17
Abertura e boas-vindas
Assistir
03:21
Ferramentas de IA e resumos automáticos
Assistir
04:38
Imagens geradas por IA e desinformação
Assistir
08:33
Contexto da bancada e objetivos da sessão
Assistir
09:52
Comunidade, bancadas e organização do conhecimento
Assistir
11:08
Primeiro ciclo da bancada de IA generativa
Assistir
13:39
Agentes e RAG: conexão entre bancadas
Assistir
16:19
Introdução ao RAG com agentes
Assistir
17:37
Como funciona o RAG tradicional
Assistir
21:26
Limitações do RAG e entrada dos agentes
Assistir
22:47
Fluxo de agentes, tarefas e ferramentas
Assistir
24:04
Diferenças entre RAG tradicional e agentes
Assistir
26:41
Autonomia, APIs e personalização dos agentes
Assistir
29:13
Casos de uso com APIs externas
Assistir
30:31
Exemplo prático: notas escolares e agentes
Assistir
35:39
Casos de uso e memória de chat
Assistir
38:14
Aplicações futuras e automação de processos
Assistir
39:30
Preparação para a demonstração prática
Assistir
40:47
Discussão sobre dados transacionais e atualização
Assistir
43:18
Validação e qualidade das respostas dos agentes
Assistir
44:38
Critérios de saída e transição para a prática
Assistir
45:55
Introdução, Colab e feedback da sessão
Assistir
47:10
Configuração do ambiente e ferramentas de agentes
Assistir
48:31
Configuração do modelo Llama no Groq
Assistir
49:46
Vetorização de PDF e criação do contexto
Assistir
51:05
RAG tradicional e pesquisa externa
Assistir
52:21
Busca híbrida com banco vetorial e web
Assistir
53:37
Arquitetura dos agentes de pesquisa e avaliação
Assistir
54:55
Orquestração de cinco agentes
Assistir
56:11
Execução do fluxo e resposta final
Assistir
57:28
Resultados do sistema multiagente
Assistir
58:47
Perguntas sobre desempenho e travamentos
Assistir
1:00:03
Modelos locais, RAM e privacidade dos dados
Assistir
1:01:21
Groq Cloud, APIs e custos
Assistir
1:02:39
Modelos disponíveis e limites do Groq
Assistir
1:03:57
Embeddings e execução local
Assistir
1:05:15
Escolha de modelos de embedding
Assistir
1:06:31
Compatibilidade entre modelos e embeddings
Assistir
1:07:51
Encerramento da apresentação e disponibilização do notebook
Assistir
1:09:08
Discussão sobre aplicações práticas de multiagentes
Assistir
1:10:28
Possibilidades de integração e convite à experimentação
Assistir
1:11:41
Materiais de apoio e aprofundamento
Assistir
1:13:00
Compartilhamento de conteúdos na comunidade
Assistir
1:14:16
Técnicas recomendadas para estudo
Assistir
1:15:32
Apresentações anteriores e colaboração
Assistir
1:16:50
Indicações de artigos e próximos passos
Assistir
1:18:07
Feedback final e encerramento informal
Assistir
1:19:23
Despedida da sessão
Assistir
Cortes · 9
Como funciona o RAG
A apresentação explica o que é RAG e como ele complementa modelos de linguagem com informações externas e atualizadas. O processo envolve vetorização de documentos, recuperação dos trechos relevantes e geração de uma resposta baseada nesse contexto.
16:19 – 21:26Assistir
Agentes para aprimorar o RAG
O trecho mostra como agentes podem entrar em ação quando o RAG tradicional não consegue responder adequadamente. São apresentadas diferenças entre as abordagens, incluindo autonomia, adaptação de contexto, controle de fluxo, tratamento de erros e uso de múltiplos agentes e ferramentas.
21:26 – 26:40Assistir
Ferramentas e APIs em agentes de RAG
A apresentação detalha como agentes de RAG podem consultar APIs externas para processamento de linguagem, visão computacional, dados financeiros, geolocalização e outras tarefas. Também são discutidos histórico de interações, memória e possibilidades de integração com sistemas externos.
26:41 – 31:48Assistir
Exemplo de cálculo de notas com agentes
A discussão usa o cálculo da média escolar como exemplo para mostrar as limitações do RAG tradicional e as vantagens de combinar agentes, regras de negócio e acesso a dados transacionais. O trecho também introduz a questão de validar quando uma resposta já é suficientemente boa.
31:48 – 34:23Assistir
Casos de uso e aplicações práticas
São apresentados casos de uso para agentes de RAG, como análise de dados, visão computacional, previsão, otimização de processos, robótica e automação. O trecho também aborda memória de chat, aprendizado a partir de interações e personalização dos agentes.
35:39 – 39:30Assistir
Dados atualizados e validação das respostas
Os participantes discutem como agentes podem acessar sistemas transacionais para obter dados atualizados sem precisar manter tudo dentro do modelo ou do banco vetorial. A conversa também explora como definir critérios de qualidade, revisar respostas e decidir quando é necessário acionar novas camadas de agentes.
40:47 – 45:55Assistir
Construindo um sistema RAG com múltiplos agentes
Demonstração prática, em Colab, da instalação das ferramentas, configuração do modelo e uso de um PDF como base de conhecimento. O apresentador explica a vetorização do documento, a busca de informações e a arquitetura com agentes pesquisadores, recuperadores e avaliadores para selecionar a melhor resposta.
47:10 – 58:45Assistir
Desempenho, privacidade e escolha de modelos
Sessão de perguntas sobre o desempenho do sistema de agentes, os recursos necessários para executar modelos localmente e o uso de APIs externas. Também são discutidos o Groq Cloud, custos, telemetria, modelos disponíveis e a escolha de embeddings para diferentes tipos de conteúdo.
58:47 – 1:07:51Assistir
Possibilidades de aplicação dos agentes
Reflexão sobre como combinar agentes, validação de respostas e técnicas de busca para criar sistemas mais inteligentes. O grupo destaca as possibilidades de integração e sugere aplicações práticas, como análise de relatórios financeiros e outros casos de uso.
1:09:08 – 1:11:44Assistir
Perguntas desta sessão
O que é RAG e como ele é feito?
RAG combina recuperação, aumento de contexto e geração. Documentos relevantes são vetorizados e armazenados; quando o usuário faz uma pergunta, o sistema recupera os dados pertinentes, incorpora essas informações ao contexto e as envia ao modelo de linguagem para gerar uma resposta mais completa.
18:39 – 20:30Assistir
O que é a vetorização de dados no RAG?
Vetorização é transformar dados de documentos, PDFs ou tabelas em um formato específico, geralmente embeddings, e armazená-los em um banco de dados vetorial para permitir sua recuperação posterior.
19:09 – 19:34Assistir
Por que usar RAG com um grande modelo de linguagem?
Grandes modelos de linguagem são generalistas, podem não ter sido treinados com determinadas informações ou estar desatualizados, e podem alucinar. O RAG recupera dados relevantes e os fornece ao modelo como contexto, ajudando a produzir respostas mais corretas e específicas.
21:06 – 21:45Assistir
O que são agentes RAG?
Agentes RAG combinam agentes com o processo de recuperação aumentada de geração. Um ou mais agentes podem trabalhar em paralelo, usando ferramentas, APIs externas e regras predefinidas para recuperar informações, refinar o contexto e complementar a resposta do modelo.
21:41 – 23:17Assistir
Qual é a principal diferença entre o RAG tradicional e os sistemas baseados em agentes?
O RAG tradicional é mais estático e costuma responder consultas predefinidas usando apenas os documentos previamente vetorizados no banco de dados. Sistemas baseados em agentes são mais dinâmicos, autônomos e adaptáveis: podem consultar outras fontes, manter histórico, usar ferramentas e APIs externas, lidar com perguntas mais complexas e ampliar o contexto conforme a necessidade. Essa flexibilidade traz mais possibilidades, mas também pode aumentar os custos.
24:17 – 26:51Assistir
A recuperação de informações vetorizadas no RAG é suficiente para garantir respostas precisas?
Não necessariamente. O RAG recupera apenas os blocos de texto mais relacionados à pergunta e os inclui no contexto do modelo. Isso pode ser insuficiente em tarefas que exigem dados completos ou cálculos, como determinar a média de um aluno a partir de todas as suas notas. Nesses casos, agentes e ferramentas externas podem buscar os dados necessários e aplicar regras específicas para produzir uma resposta mais precisa.
31:00 – 31:51Assistir
Como um sistema baseado em RAG e agentes pode calcular corretamente a média de um aluno?
O sistema pode usar uma ferramenta ou API para consultar o boletim completo do aluno e fornecer todas as notas ao modelo. Além disso, pode recuperar as regras institucionais ou o manual de cálculo da média e aplicá-las com um agente especializado. Assim, a resposta combina os dados do período consultado com as regras da escola ou instituição, em vez de depender apenas de trechos recuperados por similaridade.
31:54 – 33:14Assistir
Quais são exemplos de uso para ferramentas de linguagem, visão computacional e outros recursos externos em sistemas de IA?
Essas ferramentas podem ser usadas em processamento de linguagem, análise de imagens e visão computacional. Quando o modelo local não oferece determinado recurso, é possível recorrer a APIs externas. Também há aplicações em análise de dados, previsão de eventos, otimização de processos, automação de tarefas e robótica.
36:03 – 37:24Assistir
Como funciona a memória de chat em agentes de IA?
Os agentes podem armazenar registros e o histórico das interações, usando esse contexto em conversas futuras. Isso permite aprendizado ou refinamento contínuo do sistema e possibilita personalizar as interações conforme o usuário e o contexto acumulado.
37:35 – 38:18Assistir
Como integrar agentes de IA a sistemas transacionais para obter dados atualizados, como notas e médias?
A parte semântica da solicitação pode ser processada pelo agente, enquanto tools ou APIs fazem requisições ao sistema transacional para buscar os dados atuais. Assim, informações que mudam com frequência não precisam ser mantidas dentro do modelo ou de uma base vetorial; o agente consulta a fonte atualizada e usa o resultado para produzir a resposta.
41:37 – 42:35Assistir
O que acontece quando um PDF é inserido no sistema RAG?
O sistema extrai o conteúdo do PDF, vetoriza o arquivo usando um modelo de embeddings e armazena essas representações para que possam servir de base às respostas do modelo de linguagem.
50:40 – 51:18Assistir
O que é um mecanismo de atenção nos grandes modelos de linguagem?
É um mecanismo que permite ao modelo identificar e priorizar as partes mais relevantes do contexto para produzir uma resposta; na demonstração, uma ferramenta externa também foi usada para pesquisar e explicar o conceito.
52:42 – 52:50Assistir
Como o mecanismo de atenção ajuda os grandes modelos de linguagem?
O mecanismo de atenção ajuda o modelo a analisar a relevância das informações e a direcionar o processamento para os elementos mais importantes do contexto.
56:39 – 56:48Assistir
A execução de agentes multiagentes pode fazer o sistema travar?
A execução demonstrada não travou por causa dos agentes; ela foi rápida e eficiente porque ocorreu com uma API externa. Um modelo executado localmente, especialmente um modelo grande como o Llama, poderia exigir mais memória e recursos da máquina e eventualmente causar travamentos.
58:58 – 59:56Assistir