Pular para o conteúdo
LabS Atlas
Generative AI
Entrar

Continue

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Continue é a extensão de editor de código que conecta modelos de linguagem locais ou em nuvem ao desenvolvimento, com chat, autocomplete, geração de documentação e testes e contexto do projeto.

Seu diferencial é não prender o desenvolvedor a um único provedor. O mesmo painel conversa com um modelo rodando na máquina via Ollama ou com um modelo em nuvem, e a troca acontece na hora, sem desligar nada. Por isso aparece como alternativa aberta a assistentes comerciais como o GitHub Copilot, com quem pode até conviver no mesmo editor. Ao ser configurado, o Continue oferece um login com período de teste do Copilot, que pode ser recusado em favor de modelos locais ou de configuração própria.

Modelos locais, modelos em nuvem e privacidade do código

Os modelos se conectam seguindo a estrutura comum de conversa com papéis de sistema e assistente; um modelo que não siga esse padrão pode ganhar um provider próprio, que ensina à extensão como enviar o pedido e ler a resposta. A escolha entre local e nuvem é um trade-off:

  • Local (um modelo pequeno como o Phi-3, via Ollama, na linha da Execução Local de Modelos de Linguagem): o código não sai da máquina, não há custo de licença e o uso comercial não é problema. Em troca, consome muito processamento.
  • Nuvem (GPT-4): respondeu mais rápido e de forma bem mais verbosa, mas tudo o que é enviado, inclusive documentação e logs anexados, vai para o provedor.

A regra prática é reservar o modelo local para conteúdo sensível ou código de cliente e usar a nuvem para o que é genérico, conferindo o seletor de modelo antes de enviar. Ter o repositório inteiro como contexto sem entregá-lo a um único provedor fechado foi apontado como mais seguro para código de cliente do que um assistente individual.

Um modelo para o chat, outro para o autocomplete

Cada função pode usar um modelo diferente, como detalha Tipos de Modelo em Assistentes de Código. O chat rodava um modelo geral de cerca de 3 a 4 GB; o autocomplete, o StarCoder, voltado a código, com cerca de 1,7 GB. Mesmo menor, o autocomplete local foi o recurso mais problemático: levava a CPU a praticamente 100% numa máquina de 8 núcleos e respondia devagar demais para acompanhar a digitação. Desativá-lo e pedir o trecho direto no chat funcionou melhor. Num exemplo, a sugestão de autocomplete para uma função de destruição de objeto não funcionava, e o chat gerou a versão correta levando em conta a classe inteira.

Contexto do projeto como recuperação

Os comandos de contexto aplicam RAG ao editor: acrescentam conteúdo ao pedido sem treinar o modelo, e com contexto rico o prompt pode ser mais simples.

  • @docs aponta uma documentação previamente indexada, como a do Docker Compose, para que a resposta se baseie nela em vez de um chute.
  • @codebase indexa a raiz configurada e busca os arquivos relacionados à pergunta. É o recurso mais lento e fica bem mais rápido depois que o indicador de indexação fica verde. Funciona melhor com perguntas específicas: se a saída vier cheia de coisas estranhas, o prompt ficou vago.
  • Terminal e problemas: colar um log de erro ou a lista de problemas do editor faz a extensão cruzar esse conteúdo com a documentação e o código e devolver um passo a passo de correção.
  • Providers extras: busca online, para modelos sem acesso à internet, e contextos customizados, como um apontamento de segurança do SonarQube ou uma CVE, para pedir a correção de um trecho conforme aquela regra.

A extensão também já envia prompts elaborados por trás de cada ação, na linha de um Prompt de Sistema de desenvolvedor experiente, o que explica respostas boas a pedidos curtos.

Documentação, testes e tradução dentro do editor

Selecionar uma função e pedir documentação gera comentários linha a linha, apresentados como diff para aceitar ou rejeitar; com modelo local, o processo é pesado. A geração de testes depende da delimitação do contexto: com a classe inteira, saíram testes repetidos e além do necessário; restrita à função, a resposta foi mais direta. A extensão também resume e traduz no próprio editor documentação escrita em outra língua, como um README em japonês.