Saltar al contenido principal
POST
Python (SDK)

Autorizaciones

Authorization
string
header
requerido

Gateway auth: send Authorization: Bearer <mka1-api-key>. For multi-user server-side integrations, you can also send X-On-Behalf-Of: <external-user-id>.

Encabezados

X-On-Behalf-Of
string

Optional external end-user identifier forwarded by the API gateway.

Parámetros de ruta

deployment_id
string
requerido

Respuesta

Respuesta Exitosa

Un servidor de inferencia desplegado.

accelerator
AcceleratorSpec · object
requerido

Una solicitud de acelerador de hardware — GPU, NPU, TPU o similar.

Solicita un acelerador por tipo y cantidad, con tipos de reserva opcionales.

created_at
string<date-time>
requerido
engine
enum<string>
requerido

Motor de inferencia que respalda una implementación.

Opciones disponibles:
vllm,
sglang
id
string
requerido
image
string | null
requerido
model
string
requerido
name
string
requerido
revision
integer
requerido

Revisión actual de la configuración

scaling
Scaling · object
requerido

Configuración de autoescalado para una implementación.

status
enum<string>
requerido
Opciones disponibles:
pending,
provisioning,
ready,
scaling,
updating,
degraded,
failed,
stopped,
deleted
updated_at
string<date-time>
requerido
endpoint
DeploymentEndpoint · object | null

Dónde y cómo llamar al modelo; configurado mientras está registrado en la pasarela

served_model_id
string | null

ID de modelo que los consumidores envían a los endpoints de inferencia de la puerta de enlace; se establece mientras la implementación está registrada en la puerta de enlace (véase Registrar), nulo cuando no está registrada