Tener un modelo adaptado a tu proyecto no exige necesariamente construir toda la inteligencia desde el principio. Un modelo ya preentrenado puede ser el punto de partida.
A partir de él, existen caminos diferentes. Dos nombres que vale la pena conocer son Axolotl y MergeKit.
Una base, distintas variantes
Una familia de modelos puede reunir versiones de distintos tamaños y variantes preparadas para conversar o cumplir tareas específicas. Compartir el nombre de una familia no hace que todas las versiones sean iguales — ni garantiza que cualquier combinación funcione.
El modelo base es el punto de partida. Las adaptaciones cambian cómo atiende determinados objetivos.
Axolotl: adaptar con ejemplos
Axolotl organiza procesos de ajuste fino, o fine-tuning. Partes de un modelo existente y lo adaptas usando datos elegidos para la tarea.
Entre los caminos disponibles están LoRA y QLoRA, que entrenan adaptadores: conjuntos más pequeños de parámetros añadidos al modelo. Los pequeños módulos en la cabeza del personaje son una metáfora de esos adaptadores, no una representación literal de la arquitectura.
Esto puede servir para trabajar un formato de respuesta, una tarea específica o un dominio. Sigue siendo entrenamiento, pero no entrenamiento desde cero. La calidad de los ejemplos y la evaluación del resultado marcan la diferencia. Conoce Axolotl.
MergeKit: combinar modelos existentes
MergeKit ofrece métodos para combinar parámetros de modelos. En muchos de esos métodos, la combinación no exige una nueva etapa de entrenamiento.
La idea es experimentar qué puede surgir de la combinación de modelos compatibles. No consiste simplemente en sumar inteligencias ni en garantizar que el resultado sea mejor: también es posible perder capacidades. Conoce MergeKit.
La parte derecha de la imagen representa esa combinación. No describe automáticamente una arquitectura Mixture of Experts, que es otro concepto.
Elegir un camino para lo que quieres hacer
Adaptar con datos y combinar modelos son posibilidades distintas. Conocer esa diferencia ya ayuda a investigar con una pregunta más clara.
También conviene separar esos caminos de la personalización mediante instrucciones: cambiar el prompt de una aplicación, por sí solo, no entrena adaptadores ni combina los pesos de los modelos.
Este post es una puerta de entrada. Las fuentes de las herramientas explican métodos, requisitos y ejemplos. Antes de usar una variante, comprueba su origen, su licencia y cómo se evaluó.
Si ya has buscado una IA más adecuada para tu proyecto, cuéntalo en el espacio de relato privado: ¿qué te gustaría adaptar — y qué dificultad encontraste para llegar hasta ahí?