Pular para o conteúdo
LabS Atlas
Generative AI
Entrar

Fine-tuning

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Fine-tuning é a técnica de reajustar os pesos de um modelo de linguagem pré-treinado com um conjunto menor de dados específicos, especializando-o sem treinar um modelo do zero.

A analogia da casa ajuda: treinar do zero é comprar o terreno e construir tudo; fazer ajuste fino é pegar uma casa pré-fabricada e personalizá-la. Como o modelo já passou pelo treinamento caro, com grande volume de dados, muitas épocas e alto poder computacional, o ajuste exige bem menos máquina, tempo e dados. Ele também escala: um modelo que já reconhece pessoas pode ser ajustado para reconhecer pessoas de máscara e, depois, de boné, sem recomeçar.

Onde o ajuste fino se aplica

O ganho típico é restringir o modelo ao escopo da tarefa. Um assistente de agência de viagens sem ajuste usa todo o conhecimento geral e pode sugerir destinos que a agência não atende; ajustado, fica no que ela oferece. Chats de plataformas de cursos são ajustados para recusar perguntas fora do conteúdo, como uma receita de brigadeiro. Em visão computacional, radiografias de tórax saudáveis e com pneumonia ensinam um modelo genérico a apontar a doença. Recomendações de filmes e de varejo refinam o modelo com o histórico de cada usuário.

Frente aos chatbots antigos baseados em intenção, que cadastravam frases de treino e devolviam respostas estáticas, o modelo ajustado aprende com frases de exemplo e gera respostas novas, mais fluidas e menos repetitivas.

O ciclo de um ajuste na prática

O fluxo é iterativo: preparar o dataset, treinar, avaliar se as respostas saem certas ou alucinadas, ajustar e repetir. Um classificador de cachorros e gatos com poucas fotos fica pronto em menos de dois minutos numa ferramenta visual; num modelo de chat, um ciclo completo de gerar dados e treinar chegou a cerca de 1h20.

Um experimento com um FAQ interno de 99 perguntas dá os números. Por custo, usou só 4 perguntas, cada uma com 50 variações geradas por aumento de dados, sobre o gpt-3.5-turbo-0125. O treino final custou USD 2,89, mais cerca de USD 5 em tentativas e erros. O modelo ajustado acertou perguntas reformuladas de modo informal, com latência 63% menor e menos tokens por resposta que o modelo base. O foco inicial ficou na qualidade das perguntas geradas, mas foi o ajuste dos hiperparâmetros, depois de cerca de quatro tentativas, que mudou o resultado, pesando mais do que o volume de dados.

O modelo ajustado fica disponível via API e pode receber novos exemplos depois, sem recomeçar do zero.

Fine-tuning, RAG e engenharia de prompt

As três formas de contextualizar um modelo diferem no que mudam. A Engenharia de Prompt só melhora o que se pergunta. O RAG injeta contexto externo a cada pergunta, sem mexer no modelo. O fine-tuning altera os próprios pesos: dá o controle mais granular sobre a saída, ao preço do maior custo e da menor flexibilidade, já que mudar os dados exige retreinar.

Critérios que orientam a escolha:

  • Forma de responder: estilo, tom ou jargão regional ficam consistentes em toda resposta com fine-tuning; o RAG traria só os termos que a busca recuperasse em cada chamada.
  • Dados que mudam com frequência: favorecem o RAG, que só exige atualizar a base de busca.
  • Contexto sempre repetido: se o mesmo conteúdo é buscado sempre do mesmo jeito, incorporá-lo ao modelo sai mais barato do que gastar janela de contexto a cada chamada.

As técnicas se combinam: um assistente médico pode ser ajustado numa base ampla de dados clínicos e usar RAG só para as informações do paciente atendido.

Vantagens, limites e o viés da especialização

Entre as vantagens estão resultados personalizados e mais precisos, prompts mais curtos e menor latência. Os limites são a manutenção contínua dos dados, a forte dependência da qualidade deles e o risco de Overfitting, quando o modelo decora o padrão do treino e erra diante do diferente.

O canivete que não cabe mais no bolso

Fazer fine-tuning é soldar uma chave de boca num canivete suíço: ele fica ótimo naquela função, mas deixa de servir a usos genéricos. O modelo fica enviesado para o assunto treinado.