Sessão de Bancada Revisão de Engenharia de Prompt Fine-tuning e RAG (2024-05-20)
Entre para ler os trechos da transcrição de cada capítulo e perguntar ao Labinho sobre esta sessão.
O Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.
Notas citadas nas anotações desta sessão.
A sessão revisou os encontros anteriores da bancada de IA generativa e apresentou novidades recentes do setor, especialmente o ChatGPT-4o e o Gemini 1.5 Pro. Foram destacadas a multimodalidade, com interação por texto, voz, imagem e vídeo, as respostas mais naturais, tradução em tempo real, análise de imagens, apoio educacional e integração com tarefas do cotidiano. Também se discutiu o grande aumento da janela de contexto do Gemini, capaz de processar documentos, códigos, vídeos e áudios extensos, além das diferenças de posicionamento entre as plataformas: uma abordagem mais humanizada no ChatGPT e outra mais orientada à integração com ferramentas e serviços no ecossistema Google. Permaneceram como pontos de atenção a privacidade e o uso de dados pessoais para personalização de respostas e serviços.
Na revisão técnica, foram retomados os conceitos de inteligência artificial, machine learning, processamento de linguagem natural, deep learning e grandes modelos de linguagem. Também foram discutidas três frentes principais: engenharia de prompt, fine-tuning e RAG. A engenharia de prompt foi apresentada como habilidade essencial para obter respostas melhores; o fine-tuning, como forma de adaptar um modelo já treinado a necessidades específicas com menor custo; e o RAG, como uma maneira de fornecer contexto atualizado a partir de bases de conhecimento, sem alterar o modelo original.
Como próximo passo, foi proposto um novo ciclo de demonstrações práticas, mais aprofundadas e substanciais, envolvendo geração de código e documentação com técnicas avançadas de prompting, criação de assistentes personalizados com grandes conjuntos de dados para fine-tuning e aplicações de RAG usando ferramentas como o LlamaIndex. Os interessados deverão procurar a organização da bancada para definir a técnica, o escopo e o nível de complexidade, sem prazo rígido inicialmente. As demonstrações poderão receber recompensas de até 300 Solutis, conforme o esforço e a complexidade, e os materiais, gravações e canais de apoio permanecerão disponíveis para orientar os participantes.