Pular para o conteúdo
LabS Atlas
Generative AI
Entrar

LoRA

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

LoRA (Low-Rank Adaptation) é uma técnica de ajuste fino que congela os pesos do modelo base e ajusta apenas pequenas matrizes de baixo posto, gerando adapters que direcionam o modelo a tarefas específicas sem retreinar todos os pesos.

A motivação é de custo. Retreinar um modelo inteiro para acrescentar uma capacidade consome tempo, processamento e armazenamento proporcionais ao tamanho do modelo, mesmo quando a mudança pretendida é pequena. LoRA troca esse retreinamento por um ajuste concentrado em matrizes muito menores, o que torna a especialização barata o suficiente para ser feita várias vezes sobre a mesma base.

Por que ajustar matrizes de baixo posto sai barato

Com o modelo base congelado, o treinamento deixa de tocar a maior parte dos parâmetros e passa a atualizar apenas as matrizes acrescentadas. O custo computacional do ajuste cai bastante em relação a um retreinamento completo, e o artefato produzido é minúsculo perto do modelo original — o que economiza também armazenamento e memória, já que não é preciso guardar uma cópia inteira do modelo por tarefa.

Adapters trocáveis sobre uma base única

O produto do ajuste é um adapter: um conjunto de matrizes que direciona o comportamento do modelo para um domínio ou uma tarefa. Isso permite manter uma única base servindo a múltiplas aplicações, cada uma com seu adapter. Para adicionar uma capacidade nova, acrescenta-se mais um adapter em vez de refazer o treinamento, o que dá um ritmo de evolução contínuo sem o custo de recomeçar.

Lugar no pipeline de construção de um modelo pequeno

Na preparação de um modelo pequeno, o ajuste por LoRA entra depois da poda dos parâmetros desnecessários e antes da compressão final por Quantização. A ordem tem lógica: primeiro se remove o que não serve ao recorte de uso, depois se direciona o que sobrou para a tarefa pretendida e só então se decide quantos bits cada peso vai ocupar no dispositivo alvo.