Abertura Retomada 2025 da Bancada Generative AI (2025-01-27)
Entre para ler os trechos da transcrição de cada capítulo e perguntar ao Labinho sobre esta sessão.
O Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.
Notas citadas nas anotações desta sessão.
A sessão marcou a retomada da bancada de Generative AI em 2025, apresentou a equipe responsável e revisou o ciclo anterior. Foram discutidos os avanços acelerados da inteligência artificial, o crescimento dos investimentos em modelos e data centers, os custos energéticos e os impactos de iniciativas como o DeepSeek, destacando a relevância de modelos menores, abertos e capazes de operar localmente. Também foram abordidos agentes autônomos, assistentes capazes de navegar na internet e executar tarefas, além de ferramentas e frameworks para construção de soluções com IA.
A revisão técnica passou pelas diferenças entre LLMs e SLMs, suas aplicações, custos, desempenho, privacidade e possibilidades de uso offline. Também foram explicadas três estratégias de personalização: engenharia de prompt, fine-tuning e geração aumentada por recuperação (RAG), com ênfase na importância de adquirir, limpar, estruturar, vetorizar e proteger os dados utilizados. Houve exemplos práticos de assistentes baseados em bases de dados e serviços em nuvem, além de debates sobre bancos vetoriais, memória, segurança, direitos autorais e dependência de grandes provedores.
Para o novo ciclo, a bancada pretende sair da discussão conceitual e desenvolver um produto experimental envolvendo IA generativa, provavelmente com RAG e agentes, explorando desde a concepção até a implementação. A proposta é acompanhar novidades, comparar modelos e incentivar os participantes a compartilharem experimentos e aplicações próprias. Permaneceram em aberto a definição do produto, das tecnologias e dos modelos a serem utilizados, bem como a avaliação de alternativas locais ou em nuvem e a forma de apoiar participantes com máquinas menos potentes.