Ajustar finamente un modelo

Utiliza el ajuste fino cuando quieras adaptar un modelo base a tus propios ejemplos de entrenamiento y estilo operativo. Los endpoints de ajuste fino crean un trabajo asíncrono a partir de archivos JSONL subidos y devuelven un ID de modelo cuando el entrenamiento finaliza con éxito. Los endpoints de ajuste fino están marcados como SOLO ADMIN en la referencia de API generada. Utiliza una clave de API con los permisos requeridos.

Antes de comenzar

Prepara:

Entrada	Descripción
Archivo de entrenamiento	Un archivo JSONL con tus ejemplos de entrenamiento. Súbelo con `purpose: "fine-tune"`.
Archivo de validación	Datos de validación JSONL opcionales. Súbelo con `purpose: "fine-tune"`.
Modelo base	El ID del modelo que deseas ajustar, por ejemplo `meetkai:functionary-medium`.

Los trabajos de ajuste fino pueden devolver estos estados:

validating_files -> queued -> running -> succeeded
                          \-> failed
                          \-> cancelled

Paso 1 - Sube tus archivos de entrenamiento

Sube cada archivo JSONL con la API de Archivos y purpose: "fine-tune".

mka1 llm files upload \
  --file ./fine-tuning-train.jsonl \
  --purpose fine-tune \
  -H 'X-On-Behalf-Of: <end-user-id>'

mka1 llm files upload \
  --file ./fine-tuning-validation.jsonl \
  --purpose fine-tune

Guarda los IDs de archivo devueltos. Los pasarás a la API de Ajuste Fino en el siguiente paso.

Paso 2 - Crea un trabajo de ajuste fino

Llama a mka1.llm.fineTuning.create con el modelo base y el ID de tu archivo de entrenamiento subido. Agrega un archivo de validación, sufijo, metadatos y configuraciones de método cuando lo necesites.

mka1 llm fine-tuning create --body '{
  "model": "meetkai:functionary-medium",
  "training_file": "file_abc123",
  "validation_file": "file_def456",
  "suffix": "support-bot",
  "seed": 42,
  "method": {
    "type": "supervised",
    "supervised": {
      "hyperparameters": {
        "n_epochs": 3
      }
    }
  },
  "metadata": {
    "experiment": "support-bot-v1"
  }
}'

Paso 3 - Consultar el estado del trabajo

Recupera el trabajo hasta que alcance succeeded, failed o cancelled.

mka1 llm fine-tuning retrieve \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198

También puedes paginar por todos los trabajos con mka1.llm.fineTuning.list({ limit, after }).

Paso 4 - Inspecciona eventos de entrenamiento y checkpoints

Utiliza los eventos para ver los registros de entrenamiento y actualizaciones de métricas. Utiliza los checkpoints para inspeccionar puntos intermedios del modelo y sus métricas.

mka1 llm fine-tuning list-events \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198 \
  --limit 20

mka1 llm fine-tuning list-checkpoints \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198 \
  --limit 10

Las métricas de los checkpoints pueden incluir train_loss, train_mean_token_accuracy, valid_loss, valid_mean_token_accuracy, full_valid_loss y full_valid_mean_token_accuracy.

Paso 5 - Pausar, reanudar o cancelar un trabajo

Utiliza pause cuando necesites detener temporalmente un trabajo en ejecución. Utiliza resume para continuarlo. Utiliza cancel para detenerlo permanentemente.

mka1 llm fine-tuning pause \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198

mka1 llm fine-tuning resume \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198

mka1 llm fine-tuning cancel \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198

Paso 6 - Usa el modelo ajustado

Cuando el trabajo alcance succeeded, job.fineTunedModel contendrá el nuevo ID de modelo. Pasa ese ID de modelo a una solicitud de Responses.

mka1 llm responses create \
  --model ft:meetkai:functionary-medium:support-bot \
  --input '"Write a support reply for a delayed shipment."'

Referencia de API

Para ver el esquema completo de solicitud y respuesta, abre el grupo de Ajuste Fino en la Referencia de API.

Documentation Index

​Antes de comenzar

​Paso 1 - Sube tus archivos de entrenamiento

​Paso 2 - Crea un trabajo de ajuste fino

​Paso 3 - Consultar el estado del trabajo

​Paso 4 - Inspecciona eventos de entrenamiento y checkpoints

​Paso 5 - Pausar, reanudar o cancelar un trabajo

​Paso 6 - Usa el modelo ajustado

​Referencia de API