Sessão de Bancada Especialização de Modelos de Inteligência Artificial (2025-09-08)
Entre para ler os trechos da transcrição de cada capítulo e perguntar ao Labinho sobre esta sessão.
O Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.
Notas citadas nas anotações desta sessão.
A sessão apresentou o tema da especialização de modelos de inteligência artificial, diferenciando modelos de IA, modelos de linguagem grandes e protótipos de aprendizagem. Foi discutido que modelos generalistas funcionam como ferramentas versáteis, mas modelos especializados podem oferecer maior confiabilidade, precisão, desempenho e, em alguns casos, economia de recursos. Também foram abordadas técnicas como engenharia de prompts, RAG, vetorização, embeddings e fine-tuning, destacando que elas podem ser combinadas conforme o problema, o volume de dados, o custo, o tempo disponível e a necessidade de controle das respostas.
A conversa reforçou que não existe uma solução única ou uma “bala de prata” para especializar modelos. É necessário avaliar a complexidade da tarefa, selecionar o modelo adequado, preparar os dados, considerar limites de contexto e tokens, reduzir alucinações e validar sistematicamente os resultados. Foram demonstrados exemplos práticos de GPTs configurados e de um fluxo no Langflow usando RAG, com dados internos para criar um assistente especializado. Também se discutiu o risco de injeção de prompts maliciosos em documentos e a importância de conhecer as características e limitações do modelo escolhido.
Como próximo passo, a bancada pretende realizar um Lean Prototype, com uma sessão de inception no dia 29, para experimentar na prática o processo completo de especialização, incluindo preparação de dados, escolha do modelo, composição de agentes ou fluxos, avaliação das respostas e empacotamento da solução. Ficou como provocação o desenvolvimento de um assistente para uma linguagem de programação pouco conhecida pelos modelos generalistas, além da definição de critérios para verificar quando uma especialização está suficientemente confiável para uso em produção.