Ter um modelo adaptado ao seu projeto não exige necessariamente construir toda a inteligência desde o início. Um modelo já pré-treinado pode ser o ponto de partida.
A partir dele, existem caminhos diferentes. Dois nomes que vale conhecer são Axolotl e MergeKit.
Uma base, diferentes variantes
Uma família de modelos pode reunir versões de tamanhos diferentes e variantes preparadas para conversar ou cumprir tarefas específicas. Compartilhar o nome de uma família não torna todas as versões iguais — nem garante que qualquer combinação funcione.
O modelo base é o ponto de partida. As adaptações mudam como ele atende a determinados objetivos.
Axolotl: adaptar com exemplos
O Axolotl organiza processos de ajuste fino, ou fine-tuning. Você parte de um modelo existente e o adapta usando dados escolhidos para a tarefa.
Entre os caminhos disponíveis estão LoRA e QLoRA, que treinam adaptadores: conjuntos menores de parâmetros acrescentados ao modelo. Os pequenos módulos na cabeça do personagem são uma metáfora desses adaptadores, não uma representação literal da arquitetura.
Isso pode servir para trabalhar um formato de resposta, uma tarefa específica ou um domínio. Continua sendo treinamento, mas não treinamento do zero. A qualidade dos exemplos e a avaliação do resultado fazem diferença. Conheça o Axolotl.
MergeKit: combinar modelos existentes
O MergeKit oferece métodos para combinar parâmetros de modelos. Em muitos desses métodos, a combinação não exige uma nova etapa de treinamento.
A ideia é experimentar o que pode surgir da combinação de modelos compatíveis. Não é simplesmente somar inteligências nem garantir que o resultado seja melhor: também é possível perder capacidades. Conheça o MergeKit.
A parte direita da imagem representa essa combinação. Ela não descreve automaticamente uma arquitetura Mixture of Experts, que é outro conceito.
Escolher um caminho para o que você quer fazer
Adaptar com dados e combinar modelos são possibilidades diferentes. Conhecer essa diferença já ajuda a pesquisar com uma pergunta mais clara.
Também vale separar esses caminhos da personalização por instruções: mudar o prompt de uma aplicação, por si só, não treina adaptadores nem combina os pesos de modelos.
Este post é uma porta de entrada. As fontes das ferramentas explicam métodos, requisitos e exemplos. Antes de usar uma variante, confira sua origem, licença e como ela foi avaliada.
Se você já procurou uma IA mais adequada ao seu projeto, conte pelo espaço de relato privado: o que gostaria de adaptar — e qual dificuldade encontrou para chegar lá?