Pular para o conteúdo
LabS Atlas
Generative AI
Entrar
Sessões

Sessão de Bancada Revisão de Engenharia de Prompt Fine-tuning e RAG (2024-05-20)

20 mai 202442min
Assistir gravação

Entre para ler os trechos da transcrição de cada capítulo e perguntar ao Labinho sobre esta sessão.

O Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

atualizado há 25 dias
Resumo da sessão

A sessão revisou os encontros anteriores da bancada de IA generativa e apresentou novidades recentes do setor, especialmente o ChatGPT-4o e o Gemini 1.5 Pro. Foram destacadas a multimodalidade, com interação por texto, voz, imagem e vídeo, as respostas mais naturais, tradução em tempo real, análise de imagens, apoio educacional e integração com tarefas do cotidiano. Também se discutiu o grande aumento da janela de contexto do Gemini, capaz de processar documentos, códigos, vídeos e áudios extensos, além das diferenças de posicionamento entre as plataformas: uma abordagem mais humanizada no ChatGPT e outra mais orientada à integração com ferramentas e serviços no ecossistema Google. Permaneceram como pontos de atenção a privacidade e o uso de dados pessoais para personalização de respostas e serviços.

Na revisão técnica, foram retomados os conceitos de inteligência artificial, machine learning, processamento de linguagem natural, deep learning e grandes modelos de linguagem. Também foram discutidas três frentes principais: engenharia de prompt, fine-tuning e RAG. A engenharia de prompt foi apresentada como habilidade essencial para obter respostas melhores; o fine-tuning, como forma de adaptar um modelo já treinado a necessidades específicas com menor custo; e o RAG, como uma maneira de fornecer contexto atualizado a partir de bases de conhecimento, sem alterar o modelo original.

Como próximo passo, foi proposto um novo ciclo de demonstrações práticas, mais aprofundadas e substanciais, envolvendo geração de código e documentação com técnicas avançadas de prompting, criação de assistentes personalizados com grandes conjuntos de dados para fine-tuning e aplicações de RAG usando ferramentas como o LlamaIndex. Os interessados deverão procurar a organização da bancada para definir a técnica, o escopo e o nível de complexidade, sem prazo rígido inicialmente. As demonstrações poderão receber recompensas de até 300 Solutis, conforme o esforço e a complexidade, e os materiais, gravações e canais de apoio permanecerão disponíveis para orientar os participantes.

Gerado por IA a partir da transcrição.
Capítulos · 17
00:12
Abertura e objetivos da sessão
Assistir
01:30
Contexto da iniciativa de IA generativa
Assistir
04:04
Novidades recentes em IA generativa
Assistir
05:22
Multimodalidade do ChatGPT-4o
Assistir
11:50
Gemini 1.5 Pro e capacidade de processamento
Assistir
14:24
Personalização e integração com dados pessoais
Assistir
16:56
Conceitos: IA, machine learning, NLP e LLMs
Assistir
20:51
Revisão de técnicas: prompt engineering
Assistir
22:07
Fine-tuning e personalização de modelos
Assistir
23:22
RAG e uso de bases de conhecimento
Assistir
25:58
Proposta de demonstrações práticas
Assistir
28:33
Demonstrações com bases de dados e RAG
Assistir
29:50
Recompensas e critérios das demonstrações
Assistir
31:07
Inscrições e próximos passos
Assistir
37:32
Prazos, escopo e qualidade das entregas
Assistir
40:07
Encerramento e convite à participação
Assistir
41:22
Despedida
Assistir
Cortes · 5
As novas capacidades multimodais do GPT-4o
O trecho apresenta as novidades do GPT-4o, com destaque para a multimodalidade, respostas mais naturais e interação em tempo real. São comentados exemplos de tradução simultânea, análise de imagens e vídeos, auxílio em tarefas cotidianas e apoio educacional.
05:22 – 10:31Assistir
GPT-4o e Gemini: diferentes caminhos da IA
O trecho compara as apresentações do GPT-4o e do Gemini 1.5 Pro. Enquanto o GPT-4o é mostrado com uma abordagem mais humanizada e multimodal, o Gemini se destaca pela capacidade de processar grandes volumes de texto, código, vídeo e áudio.
10:34 – 14:24Assistir
Personalização e acesso a dados pessoais
O trecho discute como assistentes de IA podem usar informações pessoais, e-mails, agendas e reservas para criar recomendações altamente personalizadas. Também são comparadas as diferentes filosofias de Google, OpenAI e outras empresas sobre o papel da IA como ferramenta ou assistente mais humanizado.
14:24 – 16:56Assistir
Como se relacionam IA, machine learning, NLP e LLMs
O trecho explica a relação entre inteligência artificial, machine learning, processamento de linguagem natural, redes neurais e grandes modelos de linguagem. A combinação desses conceitos é apresentada como a base para sistemas capazes de compreender a linguagem humana e gerar conteúdo.
16:56 – 20:49Assistir
Prompt engineering, fine-tuning e RAG
O trecho revisa três técnicas importantes de IA generativa: prompt engineering, fine-tuning e RAG. São explicadas suas finalidades, diferenças e aplicações, desde a melhoria das instruções dadas ao modelo até a personalização e a incorporação de bases de conhecimento específicas.
20:51 – 25:58Assistir
Perguntas desta sessão
Como o GPT-4o consegue analisar imagens e vídeos?
O GPT-4o pode analisar uma foto ou um vídeo e descrever em texto, com precisão, os objetos e o que está acontecendo na cena.
07:43 – 07:52Assistir
Por que inteligência artificial generativa, machine learning e NLP foram apresentados como conceitos principais na sessão?
Esses conceitos formam um conjunto de ferramentas para resolver problemas diversos: a IA generativa produz conteúdo, o machine learning permite aprender com grandes volumes de dados e o NLP possibilita a interação em linguagem humana. Os modelos de linguagem integram esses elementos usando redes neurais e grande poder computacional.
20:03 – 20:49Assistir
Por que a engenharia de prompt é uma técnica importante para usar inteligência artificial generativa?
A engenharia de prompt é a arte e a ciência de criar instruções eficazes. A qualidade do prompt influencia diretamente a qualidade da resposta do modelo, tornando essa habilidade essencial para obter melhores resultados com IA generativa.
21:13 – 21:38Assistir
Como a engenharia de prompt se torna uma habilidade essencial para realizar buscas na internet?
À medida que mecanismos de busca incorporam IA generativa, formular instruções claras e eficazes passa a ser importante não apenas para conversar com modelos, mas também para fazer pesquisas e obter respostas mais úteis.
21:54 – 21:57Assistir
Como o RAG utiliza uma base de conhecimento com dados atualizados?
O RAG usa arquivos, como PDFs e conjuntos de dados estruturados, para recuperar informações atualizadas e fornecê-las ao modelo sem modificar sua estrutura. Assim, as respostas podem ser mais específicas e atuais.
29:33 – 29:39Assistir
Qual é o tamanho necessário de uma base de conhecimento para demonstrar o uso de RAG?
A demonstração deve usar uma base substancial, com mais de mil exemplos ou documentos; conjuntos muito pequenos, como 10, 20 ou 30 itens, não representam adequadamente esse tipo de aplicação.
34:00 – 34:12Assistir