LoRA
Ir para notas que citam estaLoRA (Low-Rank Adaptation) é uma técnica de ajuste fino que congela os pesos do modelo base e ajusta apenas pequenas matrizes de baixo posto, gerando adapters que direcionam o modelo a tarefas específicas sem retreinar todos os pesos.
A motivação é de custo. Retreinar um modelo inteiro para acrescentar uma capacidade consome tempo, processamento e armazenamento proporcionais ao tamanho do modelo, mesmo quando a mudança pretendida é pequena. LoRA troca esse retreinamento por um ajuste concentrado em matrizes muito menores, o que torna a especialização barata o suficiente para ser feita várias vezes sobre a mesma base.
Por que ajustar matrizes de baixo posto sai barato
Com o modelo base congelado, o treinamento deixa de tocar a maior parte dos parâmetros e passa a atualizar apenas as matrizes acrescentadas. O custo computacional do ajuste cai bastante em relação a um retreinamento completo, e o artefato produzido é minúsculo perto do modelo original — o que economiza também armazenamento e memória, já que não é preciso guardar uma cópia inteira do modelo por tarefa.
Adapters trocáveis sobre uma base única
O produto do ajuste é um adapter: um conjunto de matrizes que direciona o comportamento do modelo para um domínio ou uma tarefa. Isso permite manter uma única base servindo a múltiplas aplicações, cada uma com seu adapter. Para adicionar uma capacidade nova, acrescenta-se mais um adapter em vez de refazer o treinamento, o que dá um ritmo de evolução contínuo sem o custo de recomeçar.
Lugar no pipeline de construção de um modelo pequeno
Na preparação de um modelo pequeno, o ajuste por LoRA entra depois da poda dos parâmetros desnecessários e antes da compressão final por Quantização. A ordem tem lógica: primeiro se remove o que não serve ao recorte de uso, depois se direciona o que sobrou para a tarefa pretendida e só então se decide quantos bits cada peso vai ocupar no dispositivo alvo.