Pular para o conteúdo
LabS Atlas
Generative AI
Entrar

Hiperparâmetros de Fine-tuning

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Hiperparâmetros de fine-tuning são as configurações do treino (épocas, taxa de aprendizado, tamanho do lote) que controlam como o modelo ajusta seus pesos.

Eles não fazem parte dos dados nem do modelo: são escolhidos por quem dispara o treinamento e definem o ritmo e a intensidade do aprendizado. Num Fine-tuning de assistente de FAQ, pesaram mais no resultado final do que o volume ou a limpeza dos dados brutos. O primeiro impulso costuma ser caprichar nas perguntas do dataset e deixar os hiperparâmetros no padrão; quando eles passaram a ser ajustados, a diferença no resultado foi enorme.

Os três hiperparâmetros e seus trade-offs

  • Tamanho do lote (batch size): quantas amostras são processadas juntas numa única atualização do modelo. Lote pequeno demais exige atualizações mais frequentes; lote grande traz mais estabilidade, mas afeta a velocidade do treino.
  • Taxa de aprendizado (learning rate multiplier): a magnitude de cada atualização dos pesos. Alta demais acelera o treino, mas pode fazer os resultados divergirem; baixa demais torna o aprendizado gradual e lento.
  • Número de épocas: quantas vezes o algoritmo percorre o conjunto de treino. O modelo aprende um pouco mais a cada passagem.

Os três interagem com o dataset. Com poucas variações por pergunta e lote maior que um, o modelo pode misturar perguntas diferentes entre si, o que liga esta escolha à de Aumento de Dados de Treinamento.

Ajustar aos poucos em vez de subir tudo

Colocar os valores lá em cima não significa mais eficácia. Um ajuste excessivo pode destruir um resultado que já estava bom, e treinar demais sobre poucos exemplos empurra o modelo a decorá-los, o risco conhecido como Overfitting. O caminho que funcionou foi começar baixo, avaliar as respostas, subir um parâmetro de cada vez e reavaliar.

No experimento com o FAQ de RH, uma primeira configuração de cerca de 3 épocas, lote 1 e taxa 2 gerou respostas pouco estáveis. A configuração final, com 6 épocas, lote 16 e taxa 5, foi a que respondeu de forma consistente. Foram necessárias cerca de 4 rodadas de treino até esse ponto.

Cada rodada custa

Cada envio de arquivo com nova configuração é um treino cobrado, inclusive quando o job falha por formato inválido. Ajustar hiperparâmetros às cegas encarece a curva de aprendizado.

Registrar as combinações e analisar com árvore de decisão

Variar parâmetros de forma empírica é inevitável no começo, mas sem registro não se descobre por que uma combinação deu certo. Uma técnica para sistematizar a busca é montar uma tabela com uma linha por treino: as entradas usadas (épocas, taxa, lote), a saída obtida e uma coluna extra com a avaliação humana, dizendo se o resultado ficou próximo do ideal ou não.

Com histórico suficiente, treina-se uma árvore de decisão sobre essa tabela. A árvore parte de um nó principal e se ramifica até indicar as trajetórias de parâmetros que levaram aos melhores resultados. A partir daí, examinam-se os casos para entender a causa, e não só o efeito. O mesmo banco de resultados pode ser reaproveitado quando chega outro input, como um novo FAQ em PDF.

A técnica faz sentido quando vários parâmetros combinados produzem uma saída aproximada, como no fine-tuning. Faz menos sentido quando se ajusta um único valor contínuo isolado, como girar o dial de um rádio para sintonizar: não há combinação de variáveis para a árvore relacionar.

Onde aprender a intuição visual

Um curso gratuito de machine learning do Google mostra graficamente, com nuvens de pontos e exercícios interativos, como taxa de aprendizado, épocas e tamanho de lote alteram o treino. É um bom complemento para quem precisa ganhar intuição antes de gastar rodadas pagas de Fine-tuning ou montar o Dataset de Treinamento para Fine-tuning.