Sessão de Bancada Function Calling para Ampliar a Capacidade dos Modelos (2024-09-23)
Entre para ler os trechos da transcrição de cada capítulo e perguntar ao Labinho sobre esta sessão.
O Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.
Notas citadas nas anotações desta sessão.
A sessão apresentou o function calling, recurso disponível em diversos modelos de linguagem que permite ao modelo identificar quando precisa de informações ou operações externas, acionar uma função ou API e usar o resultado para produzir uma resposta mais atualizada e precisa. Foram discutidas limitações dos modelos, como desatualização após o treinamento, alucinações e dificuldade com cálculos ou dados em tempo real, além da relação com técnicas como fine-tuning e RAG. O function calling foi descrito como complementar a essas abordagens, podendo consultar clima, voos, notícias, estatísticas, bancos de dados e outros aplicativos, com custo e complexidade potencialmente menores que um novo treinamento do modelo.
Na demonstração prática, foi utilizado um modelo local executado pelo Ollama, com funções para consultar e atualizar o tempo de voo entre cidades, incluindo tratamento de atrasos, cache, parâmetros obrigatórios e funções de fallback. Também foram exploradas possibilidades de encadear múltiplas funções, criar agentes e personagens com comportamentos distintos para jogos, integrar ferramentas a assistentes virtuais e usar modelos locais em ambientes como editores de código e cadernos de anotações. A conversa final reforçou o potencial do recurso para aumentar a assertividade, lidar com dados atualizados e construir sistemas mais autônomos, mas ficaram em aberto novos experimentos com web scraping, múltiplos agentes, geração de voz e aplicações em jogos.