Learning Prototype Especialização de LLM Sessão 2 RAG CAG e Fine-tuning (2025-11-07)
Entre para ler os trechos da transcrição de cada capítulo e perguntar ao Labinho sobre esta sessão.
O Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.
Notas citadas nas anotações desta sessão.
O encontro apresentou a proposta da especialização prática de modelos de linguagem, baseada em um método com quatro etapas: definir o objetivo, estabelecer expectativas, preparar os dados e avaliar as respostas. Foi reforçado que a atividade tem caráter experimental e colaborativo, sem exigir uma solução pronta, e que os participantes devem documentar e apresentar suas especializações até o último encontro. Também foi divulgada uma nova edição da dinâmica Monster Labs, prevista para o dia 24, condicionada à formação de um grupo de interessados, além do calendário dos próximos encontros e dos materiais disponíveis no Miro e no Teams.
A principal discussão técnica comparou engenharia de prompts, RAG/CAG e fine-tuning. Um experimento com uma linguagem de programação específica mostrou que inserir uma documentação extensa e pouco estruturada no contexto gerou respostas ruins, enquanto dados selecionados e organizados em uma tabela, com exemplos de perguntas, funções e saídas esperadas, produziram código compilável e mais útil. Foi destacada a importância da qualidade, seleção e estruturação dos dados, dos riscos de perda de contexto na divisão de documentos e da necessidade de validar se as respostas são executáveis. RAG foi associado à busca de informações externas atualizáveis, CAG ao uso de um contexto completo e fine-tuning à incorporação persistente de padrões ou estilos no modelo; a escolha depende do objetivo, da escala e da frequência de atualização dos dados.
Também foi demonstrada uma ferramenta interna que permite criar projetos, personas, instruções de sistema e anexar arquivos para orientar as respostas, exemplificando uma abordagem de especialização sem código. Como pontos em aberto, ficaram a evolução dos experimentos individuais, a organização das apresentações segundo as quatro etapas do método, o aprofundamento das técnicas de recuperação e avaliação e a possível exploração de um projeto de controle parental com IA, incluindo classificação de conteúdo e adequação etária. Os participantes foram incentivados a continuar testando, preparar melhor os dados e compartilhar dúvidas e resultados nos próximos encontros.