Continue
Ir para notas que citam estaContinue é a extensão de editor de código que conecta modelos de linguagem locais ou em nuvem ao desenvolvimento, com chat, autocomplete, geração de documentação e testes e contexto do projeto.
Seu diferencial é não prender o desenvolvedor a um único provedor. O mesmo painel conversa com um modelo rodando na máquina via Ollama ou com um modelo em nuvem, e a troca acontece na hora, sem desligar nada. Por isso aparece como alternativa aberta a assistentes comerciais como o GitHub Copilot, com quem pode até conviver no mesmo editor. Ao ser configurado, o Continue oferece um login com período de teste do Copilot, que pode ser recusado em favor de modelos locais ou de configuração própria.
Modelos locais, modelos em nuvem e privacidade do código
Os modelos se conectam seguindo a estrutura comum de conversa com papéis de sistema e assistente; um modelo que não siga esse padrão pode ganhar um provider próprio, que ensina à extensão como enviar o pedido e ler a resposta. A escolha entre local e nuvem é um trade-off:
- Local (um modelo pequeno como o Phi-3, via Ollama, na linha da Execução Local de Modelos de Linguagem): o código não sai da máquina, não há custo de licença e o uso comercial não é problema. Em troca, consome muito processamento.
- Nuvem (GPT-4): respondeu mais rápido e de forma bem mais verbosa, mas tudo o que é enviado, inclusive documentação e logs anexados, vai para o provedor.
A regra prática é reservar o modelo local para conteúdo sensível ou código de cliente e usar a nuvem para o que é genérico, conferindo o seletor de modelo antes de enviar. Ter o repositório inteiro como contexto sem entregá-lo a um único provedor fechado foi apontado como mais seguro para código de cliente do que um assistente individual.
Um modelo para o chat, outro para o autocomplete
Cada função pode usar um modelo diferente, como detalha Tipos de Modelo em Assistentes de Código. O chat rodava um modelo geral de cerca de 3 a 4 GB; o autocomplete, o StarCoder, voltado a código, com cerca de 1,7 GB. Mesmo menor, o autocomplete local foi o recurso mais problemático: levava a CPU a praticamente 100% numa máquina de 8 núcleos e respondia devagar demais para acompanhar a digitação. Desativá-lo e pedir o trecho direto no chat funcionou melhor. Num exemplo, a sugestão de autocomplete para uma função de destruição de objeto não funcionava, e o chat gerou a versão correta levando em conta a classe inteira.
Contexto do projeto como recuperação
Os comandos de contexto aplicam RAG ao editor: acrescentam conteúdo ao pedido sem treinar o modelo, e com contexto rico o prompt pode ser mais simples.
- @docs aponta uma documentação previamente indexada, como a do Docker Compose, para que a resposta se baseie nela em vez de um chute.
- @codebase indexa a raiz configurada e busca os arquivos relacionados à pergunta. É o recurso mais lento e fica bem mais rápido depois que o indicador de indexação fica verde. Funciona melhor com perguntas específicas: se a saída vier cheia de coisas estranhas, o prompt ficou vago.
- Terminal e problemas: colar um log de erro ou a lista de problemas do editor faz a extensão cruzar esse conteúdo com a documentação e o código e devolver um passo a passo de correção.
- Providers extras: busca online, para modelos sem acesso à internet, e contextos customizados, como um apontamento de segurança do SonarQube ou uma CVE, para pedir a correção de um trecho conforme aquela regra.
A extensão também já envia prompts elaborados por trás de cada ação, na linha de um Prompt de Sistema de desenvolvedor experiente, o que explica respostas boas a pedidos curtos.
Documentação, testes e tradução dentro do editor
Selecionar uma função e pedir documentação gera comentários linha a linha, apresentados como diff para aceitar ou rejeitar; com modelo local, o processo é pesado. A geração de testes depende da delimitação do contexto: com a classe inteira, saíram testes repetidos e além do necessário; restrita à função, a resposta foi mais direta. A extensão também resume e traduz no próprio editor documentação escrita em outra língua, como um README em japonês.