Pular para o conteúdo principal
POST
Python (SDK)

Autorizações

Authorization
string
header
obrigatório

Gateway auth: send Authorization: Bearer <mka1-api-key>. For multi-user server-side integrations, you can also send X-On-Behalf-Of: <external-user-id>.

Cabeçalhos

X-On-Behalf-Of
string

Optional external end-user identifier forwarded by the API gateway.

Parâmetros de caminho

deployment_id
string
obrigatório

Resposta

Resposta Bem-Sucedida

Um servidor de inferência implantado.

accelerator
AcceleratorSpec · object
obrigatório

Uma solicitação de acelerador de hardware — GPU, NPU, TPU ou مشابه.

Solicite um acelerador por tipo e quantidade, com tipos de fallback opcionais.

created_at
string<date-time>
obrigatório
engine
enum<string>
obrigatório

Motor de inferência que dá suporte a uma implantação.

Opções disponíveis:
vllm,
sglang
id
string
obrigatório
image
string | null
obrigatório
model
string
obrigatório
name
string
obrigatório
revision
integer
obrigatório

Revisão de configuração atual

scaling
Scaling · object
obrigatório

Configuração de escalonamento automático para uma implantação.

status
enum<string>
obrigatório
Opções disponíveis:
pending,
provisioning,
ready,
scaling,
updating,
degraded,
failed,
stopped,
deleted
updated_at
string<date-time>
obrigatório
endpoint
DeploymentEndpoint · object | null

Onde e como chamar o modelo; definido enquanto registrado no gateway

served_model_id
string | null

ID do modelo que os consumidores passam para os endpoints de inferência da gateway; definido enquanto a implantação está registrada com a gateway (veja Registrar), nulo quando não estiver registrada