Fine-tuning
Ir para notas que citam estaFine-tuning, ou ajuste fino, é a técnica de treinar um modelo de linguagem com o conteúdo e o comportamento de um domínio específico, para que ele passe a responder como especialista naquele assunto.
O ajuste fino resolve o mesmo problema que o RAG ataca por outro caminho: como fazer um modelo responder sobre um conhecimento que não estava no treinamento original. A diferença está em onde o conhecimento passa a morar. No RAG, ele fica fora do modelo, em uma base consultada no momento da pergunta. No ajuste fino, ele é incorporado aos pesos do próprio modelo, que deixa de precisar de consulta externa para aquele domínio.
Ajuste fino e RAG como caminhos diferentes
Treinar um modelo com dados próprios é um processo mais demorado e mais caro do que montar uma base de recuperação: exige um conjunto de dados preparado e um ciclo de treinamento antes que qualquer resposta saia. Em compensação, o resultado é um modelo especializado, sem a latência e a complexidade de uma etapa de busca a cada pergunta. Um exemplo usado para explicar o mecanismo é treinar um modelo apenas com conteúdo de história, alimentando-o com material sobre a Revolução Francesa ou sobre a história do Brasil, para obter um especialista naquele recorte.
O contraponto do ajuste fino é a atualidade. Conhecimento incorporado ao modelo só muda com um novo ciclo de treinamento, enquanto uma base consultada em tempo real acompanha o que foi atualizado ontem. Nenhum dos dois caminhos é universalmente melhor: a decisão depende de quanto o domínio muda, de haver ou não dataset disponível e de quanto custa cada alternativa no volume esperado de uso.
Barreira de entrada menor do que parece
Plataformas gerenciadas reduziram o esforço do ajuste fino a uma configuração sem código, bastando alimentar o serviço com os dados do domínio — o Bedrock foi citado nesse papel. Na direção oposta às grandes infraestruturas, projetos abertos levaram o treinamento para a máquina do desenvolvedor: o Nanochat, criado por Andrej Karpathy, permite baixar do GitHub e rodar localmente um chat treinado com a personalidade ou a especialidade escolhida. O argumento por trás dele é que nem toda necessidade de cliente exige bilhões em data center, e que modelos rodando localmente podem dar conta de recortes bem definidos.
O que o ajuste fino não entrega
Ajustar um modelo melhora o que ele sabe e como ele escreve, mas não o torna capaz de agir. Um modelo muito bem ajustado para gerar código em uma linguagem continua incapaz de, sozinho, chamar uma API de um sistema externo: essa capacidade vem do teor agêntico — ferramentas, decisão e ciclo de execução —, não do treinamento. Pelo mesmo motivo, o ajuste fino é uma alternativa a técnicas aplicadas via prompt, como a cadeia de pensamento, e não um substituto para a arquitetura de um agente.