Pular para o conteúdo
LabS Atlas
Generative AI
Entrar
Sessões

Sessão de Bancada Técnicas Avançadas de Prompt para Geração de Código (2024-07-15)

15 jul 20241h 28min
Assistir gravação

Entre para ler os trechos da transcrição de cada capítulo e perguntar ao Labinho sobre esta sessão.

O Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

atualizado há 25 dias
Resumo da sessão

A sessão apresentou técnicas avançadas de prompting aplicadas à geração de código, começando pela ideia de que um prompt é uma forma de comunicação com modelos de linguagem. Foram discutidas boas práticas como formular perguntas claras, definir contexto, indicar público e objetivo, usar palavras-chave, evitar solicitações binárias e especificar o formato da resposta. Também foram comparadas abordagens como zero-shot, few-shot e conversas iterativas, destacando que diálogos muito longos podem aumentar as alucinações e que é importante reiniciar o contexto quando as respostas perdem coerência.

A demonstração prática concentrou-se no uso do Continue integrado ao editor, com modelos locais e externos, para explicar e traduzir documentação, gerar testes, completar e refatorar código, analisar erros, consultar a base inteira do projeto e usar documentação ou terminal como contexto. Foram ressaltadas as vantagens de combinar modelos especializados, incluindo privacidade e menor custo ao usar modelos locais, além dos cuidados com consumo de processamento e com o envio de informações confidenciais a serviços externos. Também houve uma breve demonstração de agentes automatizados e de ferramentas de geração de imagens, mostrando como o contexto pode ser refinado para obter resultados mais precisos.

Como conclusão, destacou-se que prompts avançados não precisam ser longos quando a ferramenta já fornece contexto adequado, e que a qualidade das respostas depende tanto da clareza da solicitação quanto das informações anexadas. Ficou como ponto em aberto a criação de um espaço ou novo encontro para compartilhar configurações, modelos e experiências com o Continue, além da continuidade da comunidade com novos temas e desafios sobre IA generativa.

Gerado por IA a partir da transcrição.
Capítulos · 47
08:29
Bots, IA e a internet não humana
Assistir
11:01
Abertura e expectativas da sessão
Assistir
13:34
Contexto da comunidade e agenda
Assistir
16:11
Objetivos da bancada de IA generativa
Assistir
18:47
Início da demonstração de prompt engineering
Assistir
20:04
O que é prompt e como se comunicar com modelos
Assistir
21:21
Como formular boas perguntas
Assistir
22:36
Especificidade, contexto e palavras-chave
Assistir
23:52
Objetividade e cuidados com perguntas binárias
Assistir
25:10
Idioma, linguagem natural e ambiguidades
Assistir
26:26
Zero-shot e exemplos diretos
Assistir
27:42
Few-shot e controle do formato da resposta
Assistir
28:58
Conversas longas, alucinações e limites do contexto
Assistir
31:36
Interação iterativa e quebra de senhas
Assistir
32:50
Automação com agentes de IA
Assistir
34:09
Agentes para desenvolvimento de software
Assistir
35:25
Uso de IA no fluxo de desenvolvimento
Assistir
36:43
Documentação, tradução e geração de testes
Assistir
38:04
Hands-on com código e documentação
Assistir
39:19
Tradução e explicação de código com IA
Assistir
41:53
Plugin Continue e modelos locais
Assistir
44:27
Ollama e execução local de modelos
Assistir
45:45
Modelo Phi-3 e assistência para programação
Assistir
47:02
Segurança e filtros éticos dos modelos
Assistir
48:19
Geração automatizada de testes
Assistir
49:38
Contexto e controle na criação de testes
Assistir
50:54
Modelos diferentes para chat e autocomplete
Assistir
52:15
Desafios de desempenho do autocomplete
Assistir
53:37
Consumo de CPU e escolha de modelos locais
Assistir
54:53
Geração de código com contexto da classe
Assistir
56:12
Como escrever prompts melhores para código
Assistir
57:28
Documentação como contexto para a IA
Assistir
58:44
Uso do terminal e explicação de configurações
Assistir
1:02:32
Privacidade e envio de dados para modelos externos
Assistir
1:03:48
Agentes para enriquecer prompts automaticamente
Assistir
1:05:04
Busca na base de código
Assistir
1:06:24
Indexação e referências do projeto
Assistir
1:07:40
Correção de erros com contexto
Assistir
1:08:57
Análise de vulnerabilidades e segurança
Assistir
1:11:29
Customização de prompts e ferramentas
Assistir
1:14:00
Modelos locais, embeddings e comparação com Copilot
Assistir
1:15:18
Configuração de contexto para diferentes tarefas
Assistir
1:16:36
Geração de imagens e engenharia de prompts
Assistir
1:20:26
Comparação entre ferramentas de código e imagem
Assistir
1:21:42
Pesquisa online e uso de contexto
Assistir
1:24:14
Sugestões para grupo de estudos e próximos encontros
Assistir
1:25:32
Encerramento e continuidade da comunidade
Assistir
Cortes · 10
Como formular bons prompts
A apresentação explica prompt como uma forma de comunicação com modelos de linguagem e mostra por que é importante fazer perguntas específicas, objetivas e contextualizadas. Também são discutidos o uso de palavras-chave, a definição do público-alvo e a importância de escrever na própria linguagem, deixando claras as intenções.
20:04 – 26:25Assistir
Zero-shot, few-shot e conversas com IA
O apresentador demonstra técnicas como zero-shot e few-shot para orientar modelos de linguagem, incluindo exemplos de pedidos de código e de respostas mais diretas. Ele também alerta para os riscos de conversas longas, alucinações e perda de coerência, usando um jogo de quebra de senha para ilustrar a interação progressiva com a IA.
26:26 – 32:50Assistir
Automação com agentes de IA
O trecho apresenta técnicas de automação em que agentes de IA executam tarefas, usam ferramentas e coordenam diferentes funções. São mostrados exemplos de agentes para desenvolvimento de software, capazes de atuar como programadores, testadores e responsáveis por front-end e back-end, além de uma introdução ao uso de prompts no desenvolvimento.
32:50 – 36:43Assistir
IA local para documentação e testes de código
A demonstração mostra como ferramentas de desenvolvimento com IA podem traduzir documentação, explicar funções, documentar código e gerar testes para diferentes cenários. O apresentador também explica o uso de modelos locais, ferramentas como Continue e Ollama, as vantagens de privacidade e compatibilidade entre diferentes modelos.
36:43 – 49:36Assistir
Modelos diferentes para autocomplete e geração de código
A apresentação compara modelos usados no chat e no autocomplete, explicando que eles podem ser configurados para funções distintas. Também são mostrados os problemas de latência e consumo de CPU do autocomplete, além da vantagem de usar um modelo menor e especializado para código.
50:54 – 54:53Assistir
Como adicionar documentação e contexto às respostas
O trecho demonstra como fornecer documentação, arquivos e blocos do terminal como contexto para melhorar respostas sobre código. A discussão explica que a qualidade depende de descrever bem a tarefa e mostra como a ferramenta usa esse material para gerar explicações e documentação mais específicas.
56:12 – 1:02:32Assistir
Privacidade, modelos locais e agentes de contexto
São discutidos os cuidados ao enviar código e informações sensíveis para modelos externos, com a alternativa de usar modelos locais. O trecho também mostra agentes que enriquecem automaticamente o prompt e combinam documentação, contexto da conversa e informações do projeto.
1:02:32 – 1:05:03Assistir
Busca na base de código e correção de problemas
A ferramenta é usada para localizar referências em toda a base de código, retornando arquivos e trechos relacionados à pergunta. Em seguida, o exemplo mostra como fornecer erros, apontamentos de segurança e CVEs como contexto para receber uma análise e um passo a passo de correção.
1:05:04 – 1:10:13Assistir
Prompts customizados e combinação de modelos
O apresentador explica que as respostas da ferramenta são baseadas em prompts com instruções e contexto adicionais, que podem ser customizados para cada projeto. Também demonstra a possibilidade de combinar modelos locais e externos, usar embeddings e escolher modelos diferentes conforme a tarefa.
1:11:29 – 1:15:18Assistir
Geração de imagens a partir de prompts
O trecho apresenta uma ferramenta de geração de imagens que permite editar prompts, alterar elementos visuais e aprender como descrever uma imagem. Também é mostrado como usar um modelo de linguagem para transformar uma ideia em um prompt mais detalhado e obter resultados visuais mais próximos do esperado.
1:15:18 – 1:20:26Assistir
Perguntas desta sessão
A elaboração de boas perguntas para modelos de IA também se aplica à comunicação com outras pessoas?
Sim. A lógica é semelhante, mas a IA depende ainda mais de contexto explícito, pois não conhece automaticamente as informações que a pessoa já teria em mente.
22:36 – 23:08Assistir
O que deve ser evitado ao elaborar prompts para modelos de IA?
Devem ser evitadas perguntas binárias cuja resposta possa ser apenas “sim” ou “não”, pois elas tendem a produzir respostas pouco informativas. Também é recomendável ser objetivo e evitar rodeios.
24:23 – 24:52Assistir
Como prompts condicionais podem orientar uma conversa com um modelo de IA?
Prompts condicionais apresentam cenários alternativos — por exemplo, “se acontecer X” ou “se for por causa de Y” — para que o modelo considere diferentes possibilidades e elabore uma resposta mais completa.
29:27 – 29:37Assistir
Qual é a principal diferença entre o modelo usado e outros modelos disponíveis?
A principal diferença é que a ferramenta permite alternar entre vários modelos, escolhendo modelos compatíveis com diferentes usos e estruturas de prompt.
42:50 – 43:28Assistir
Modelos de IA locais são compatíveis com diferentes ferramentas e estruturas de prompt?
Em geral, sim, mas a compatibilidade depende do modelo e da ferramenta. É possível configurar modelos próprios, desde que se defina como eles recebem e devolvem o conteúdo e se siga a estrutura esperada, como as mensagens de sistema e de assistente.
43:43 – 43:59Assistir
Como funciona o Llama quando usado localmente?
O Llama é carregado e executado localmente por uma ferramenta de gerenciamento de modelos, semelhante ao uso de pacotes ou contêineres. Assim, o modelo permanece na máquina, sem enviar os dados para um serviço externo; modelos sem filtros de segurança podem responder a solicitações que modelos com salvaguardas recusariam.
47:03 – 47:38Assistir
O modelo usado para conversar no chat é diferente do modelo usado para autocomplete?
Sim. O plugin permite configurar modelos diferentes para funções distintas: um modelo é usado no chat e outro, especializado em geração de código, é usado para autocomplete.
51:48 – 52:01Assistir
Como a documentação e o contexto da conversa enriquecem um prompt para gerar respostas mais adequadas?
A documentação e o contexto da conversa são usados como referência para orientar a resposta; o modelo considera os termos e as informações presentes nesses materiais, funcionando como se tivesse acesso ao contexto relevante do projeto.
1:00:51 – 1:01:18Assistir
Como o terminal e outros contextos do projeto podem ser usados para melhorar as respostas da IA?
O terminal, os arquivos e a documentação podem ser incluídos como contexto. Assim, a IA analisa informações como comandos e blocos de código presentes no terminal para explicar configurações, diagnosticar problemas e responder com base no projeto real.
1:01:35 – 1:02:38Assistir
O comando @codebase coloca o código da aplicação no contexto da ferramenta?
Sim. A ferramenta analisa os arquivos do projeto e pode indexar a base de código; quanto maior a quantidade de arquivos, mais tempo leva, mas a inferência fica mais rápida depois da indexação.
1:07:21 – 1:07:39Assistir
É possível usar um modelo de IA para uma tarefa e outro modelo para uma tarefa diferente?
Sim. A ferramenta permite configurar modelos diferentes para finalidades distintas, além de possibilitar customizações e o uso de modelos locais, inclusive para embeddings.
1:13:56 – 1:14:09Assistir
Quais são as implicações de usar modelos locais em vez de modelos externos para o compartilhamento de dados?
Modelos locais processam os dados na própria máquina, evitando o compartilhamento com serviços externos. Em contrapartida, modelos externos como o GPT podem oferecer mais recursos, enquanto os modelos locais tendem a reduzir custos e a dependência de processamento externo.
1:20:59 – 1:21:17Assistir