Pular para o conteúdo principal
POST
/
api
/
v1
/
serving
/
finetune-jobs
Python (SDK)
from meetkai_mka1 import SDK


with SDK(
    bearer_auth="<YOUR_BEARER_TOKEN_HERE>",
) as sdk:

    res = sdk.serving.finetune_jobs.create(name="llama-3-support-lora", base_model="meta-llama/Llama-3.1-8B-Instruct", dataset="<value>", accelerator={
        "type": "H100",
        "fallback": [
            "H100",
            "MI300X",
        ],
    }, output_volume="<value>", method="lora", hyperparameters={
        "epochs": 3,
        "learning_rate": 0.0002,
    })

    # Handle response
    print(res)
{
  "id": "<string>",
  "name": "<string>",
  "base_model": "<string>",
  "method": "<string>",
  "created_at": "2023-11-07T05:31:56Z",
  "progress": 123,
  "checkpoints": [
    "<string>"
  ],
  "finished_at": "2023-11-07T05:31:56Z"
}

Autorizações

Authorization
string
header
obrigatório

Gateway auth: send Authorization: Bearer <mka1-api-key>. For multi-user server-side integrations, you can also send X-On-Behalf-Of: <external-user-id>.

Cabeçalhos

X-On-Behalf-Of
string

Optional external end-user identifier forwarded by the API gateway.

Corpo

application/json

Envie um ajuste fino.

name
string
obrigatório
Exemplo:

"llama-3-support-lora"

base_model
string
obrigatório
Exemplo:

"meta-llama/Llama-3.1-8B-Instruct"

dataset
string
obrigatório

Caminho do volume ou ID do dataset do Hugging Face

accelerator
AcceleratorSpec · object
obrigatório

Uma solicitação de acelerador de hardware — GPU, NPU, TPU ou مشابه.

Solicite um acelerador por tipo e quantidade, com tipos de fallback opcionais.

output_volume
string
obrigatório

Volume onde os pontos de verificação são gravados

method
enum<string>
padrão:lora
Opções disponíveis:
lora,
qlora,
full
image
string | null

Nome/ID de uma imagem construída; o padrão é um treinador padrão

secrets
string[]
hyperparameters
Hyperparameters · object
Exemplo:
{ "epochs": 3, "learning_rate": 0.0002 }

Resposta

Resposta Bem-Sucedida

Um trabalho de ajuste fino.

id
string
obrigatório
name
string
obrigatório
status
enum<string>
obrigatório
Opções disponíveis:
queued,
running,
succeeded,
failed,
cancelled
base_model
string
obrigatório
method
string
obrigatório
created_at
string<date-time>
obrigatório
progress
number | null

0.0–1.0 se conhecido

checkpoints
string[]
finished_at
string<date-time> | null