Saltar al contenido principal
POST
/
api
/
v1
/
serving
/
finetune-jobs
Python (SDK)
from meetkai_mka1 import SDK


with SDK(
    bearer_auth="<YOUR_BEARER_TOKEN_HERE>",
) as sdk:

    res = sdk.serving.finetune_jobs.create(name="llama-3-support-lora", base_model="meta-llama/Llama-3.1-8B-Instruct", dataset="<value>", accelerator={
        "type": "H100",
        "fallback": [
            "H100",
            "MI300X",
        ],
    }, output_volume="<value>", method="lora", hyperparameters={
        "epochs": 3,
        "learning_rate": 0.0002,
    })

    # Handle response
    print(res)
{
  "id": "<string>",
  "name": "<string>",
  "base_model": "<string>",
  "method": "<string>",
  "created_at": "2023-11-07T05:31:56Z",
  "progress": 123,
  "checkpoints": [
    "<string>"
  ],
  "finished_at": "2023-11-07T05:31:56Z"
}

Autorizaciones

Authorization
string
header
requerido

Gateway auth: send Authorization: Bearer <mka1-api-key>. For multi-user server-side integrations, you can also send X-On-Behalf-Of: <external-user-id>.

Encabezados

X-On-Behalf-Of
string

Optional external end-user identifier forwarded by the API gateway.

Cuerpo

application/json

Enviar un ajuste fino.

name
string
requerido
Ejemplo:

"llama-3-support-lora"

base_model
string
requerido
Ejemplo:

"meta-llama/Llama-3.1-8B-Instruct"

dataset
string
requerido

Ruta del volumen o ID del conjunto de datos de Hugging Face

accelerator
AcceleratorSpec · object
requerido

Una solicitud de acelerador de hardware — GPU, NPU, TPU o similar.

Solicita un acelerador por tipo y cantidad, con tipos de reserva opcionales.

output_volume
string
requerido

Volumen donde se escriben los puntos de control

method
enum<string>
predeterminado:lora
Opciones disponibles:
lora,
qlora,
full
image
string | null

Nombre/ID de una imagen compilada; por defecto, un entrenador estándar

secrets
string[]
hyperparameters
Hyperparameters · object
Ejemplo:
{ "epochs": 3, "learning_rate": 0.0002 }

Respuesta

Respuesta Exitosa

Un trabajo de ajuste fino.

id
string
requerido
name
string
requerido
status
enum<string>
requerido
Opciones disponibles:
queued,
running,
succeeded,
failed,
cancelled
base_model
string
requerido
method
string
requerido
created_at
string<date-time>
requerido
progress
number | null

0.0–1.0 si se conoce

checkpoints
string[]
finished_at
string<date-time> | null