Pular para o conteúdo principal

Documentation Index

Fetch the complete documentation index at: https://docs.mka1.com/llms.txt

Use this file to discover all available pages before exploring further.

Use o ajuste fino quando quiser adaptar um modelo base aos seus próprios exemplos de treinamento e estilo operacional. Os endpoints de ajuste fino criam um job assíncrono a partir de arquivos JSONL enviados e retornam um ID de modelo quando o treinamento é concluído com sucesso. Os endpoints de ajuste fino são marcados como APENAS ADMINISTRADOR na referência de API gerada. Use uma chave de API com as permissões necessárias.

​
Antes de começar

Prepare:
EntradaDescrição
Arquivo de treinamentoUm arquivo JSONL com seus exemplos de treinamento. Faça upload com purpose: "fine-tune".
Arquivo de validaçãoDados de validação JSONL opcionais. Faça upload com purpose: "fine-tune".
Modelo baseO ID do modelo que você deseja ajustar, por exemplo meetkai:functionary-medium.
Jobs de ajuste fino podem retornar estes status: 
validating_files -> queued -> running -> succeeded
                          \-> failed
                          \-> cancelled

​
Passo 1 - Envie seus arquivos de treinamento

Envie cada arquivo JSONL usando a API de Arquivos e purpose: "fine-tune". 
mka1 llm files upload \
  --file ./fine-tuning-train.jsonl \
  --purpose fine-tune \
  -H 'X-On-Behalf-Of: <end-user-id>'

mka1 llm files upload \
  --file ./fine-tuning-validation.jsonl \
  --purpose fine-tune
Guarde os IDs de arquivo retornados. Você irá passá-los para a API de Ajuste Fino no próximo passo.

​
Passo 2 - Crie um job de ajuste fino

Chame mka1.llm.fineTuning.create com o modelo base e o ID do arquivo de treinamento enviado. Adicione um arquivo de validação, sufixo, metadados e configurações de método quando necessário. 
mka1 llm fine-tuning create --body '{
  "model": "meetkai:functionary-medium",
  "training_file": "file_abc123",
  "validation_file": "file_def456",
  "suffix": "support-bot",
  "seed": 42,
  "method": {
    "type": "supervised",
    "supervised": {
      "hyperparameters": {
        "n_epochs": 3
      }
    }
  },
  "metadata": {
    "experiment": "support-bot-v1"
  }
}'

​
Passo 3 - Consulte o status do job

Recupere o job até que ele atinja o status succeeded, failed ou cancelled. 
mka1 llm fine-tuning retrieve \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198
Você também pode paginar todos os jobs com mka1.llm.fineTuning.list({ limit, after }).

​
Passo 4 - Inspecione eventos de treinamento e checkpoints

Use eventos para logs de treinamento e atualizações de métricas. Use checkpoints para inspecionar checkpoints intermediários do modelo e suas métricas. 
mka1 llm fine-tuning list-events \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198 \
  --limit 20

mka1 llm fine-tuning list-checkpoints \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198 \
  --limit 10
As métricas dos checkpoints podem incluir train_loss, train_mean_token_accuracy, valid_loss, valid_mean_token_accuracy, full_valid_loss e full_valid_mean_token_accuracy.

​
Passo 5 - Pausar, retomar ou cancelar um job

Use pause quando precisar pausar temporariamente um job em execução. Use resume para continuar. Use cancel para interromper permanentemente. 
mka1 llm fine-tuning pause \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198

mka1 llm fine-tuning resume \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198

mka1 llm fine-tuning cancel \
  --fine-tuning-job-id ftjob_aa87e2b1112a455b8deabed784372198

​
Passo 6 - Use o modelo ajustado

Quando o job atingir succeeded, job.fineTunedModel conterá o novo ID do modelo. Passe esse ID de modelo para uma requisição de Respostas. 
mka1 llm responses create \
  --model ft:meetkai:functionary-medium:support-bot \
  --input '"Write a support reply for a delayed shipment."'

​
Referência da API

Para o esquema completo de requisição e resposta, abra o grupo de Ajuste Fino na Referência de API.