Skip to main content
POST
Python (SDK)

Autorizações

Authorization
string
header
obrigatório

Gateway auth: send Authorization: Bearer <mka1-api-key>. For multi-user server-side integrations, you can also send X-On-Behalf-Of: <external-user-id>.

Cabeçalhos

X-On-Behalf-Of
string

Optional external end-user identifier forwarded by the API gateway.

Corpo

application/json
suite_id
string
obrigatório

Suíte existente para importar. Seu manifesto define o conjunto de tarefas, então crie a suíte primeiro.

Minimum string length: 1
agent_name
string
obrigatório

O agente da plataforma de testes, por exemplo, omp.

Required string length: 1 - 128
model
string
obrigatório
Required string length: 1 - 255
suite_version
integer

Padrão para a versão ativa da suíte.

Intervalo obrigatório: 1 <= x <= 2147483647
agent_version
string | null
Maximum string length: 64
agent_effort
string | null

Configuração de esforço de raciocínio, por exemplo medium. Faz parte da identidade da linha no leaderboard, então o mesmo agente e modelo em dois níveis de esforço permanecem em duas linhas.

Maximum string length: 32
cost_usd
number | null

Gasto total para o trabalho. Na ausência disso, usa a soma dos custos próprios das execuções de teste.

Intervalo obrigatório: x >= 0
created_at
integer

Quando o trabalho foi executado, em segundos Unix. O padrão é agora — defina isso ao fazer backfill, já que o quadro ordena por isso.

Intervalo obrigatório: -9007199254740991 < x <= 9007199254740991
metadata
object
idempotency_key
string

Reutilizar uma chave retorna a execução criada na primeira vez, em vez de importar uma segunda cópia. Sem uma, um envio repetido silenciosamente duplica os testes por trás de uma linha do quadro.

Required string length: 1 - 255
trials
object[]

Pode estar vazio ao abrir uma execução para transmitir tentativas para ela. Uma importação única envia todas elas para cá.

Maximum array length: 1000
expected_trials
integer

Quantas execuções o trabalho produzirá. Define o total da execução antecipadamente para que o console mostre o progresso real (12/89) enquanto os dados são transmitidos, em vez de 12/12 que vai aumentando.

Intervalo obrigatório: 0 <= x <= 1000
finalize
boolean
padrão:true

False abre a execução in_progress para POST /evals/runs/{run_id}/trials ser preenchida. Os placares contam apenas execuções concluídas, então uma execução em streaming permanece fora do placar até ser finalizada.

Resposta

200 - application/json

OK

id
string
obrigatório
object
any
obrigatório
suite_id
string
obrigatório
suite_version
integer
obrigatório
Intervalo obrigatório: -9007199254740991 <= x <= 9007199254740991
suite_version_id
string
obrigatório
org_id
string
obrigatório

The org that owns this run.

team_id
string
obrigatório

The team that owns this run.

status
enum<string>
obrigatório
Opções disponíveis:
queued,
in_progress,
finalizing,
completed,
failed,
cancelling,
cancelled
models
string[]
obrigatório
task_ids
string[] | null
obrigatório
judge_model
string | null
obrigatório
embedding_model
string | null
obrigatório
generation
object
obrigatório
request_counts
object
obrigatório
metrics
object | null
obrigatório
error
object | null
obrigatório
artifact_file_ids
string[]
obrigatório
metadata
object
obrigatório
agent_name
string | null
obrigatório

Coding-agent harness that produced this run (e.g. omp, claude-code). Null for every non-harness eval kind — a null here is not a missing value, it means the run is not an agent run.

agent_version
string | null
obrigatório

Version of agent_name, as the harness reported it. Null when agent_name is.

agent_effort
string | null
obrigatório

Reasoning-effort setting the agent ran at (e.g. medium, xhigh). Part of the leaderboard's row identity: the same agent and model at two efforts are two rows, not one. Null when agent_name is.

cost_usd
number | null
obrigatório

Total spend for the run in USD. Null when the harness did not report cost.

created_at
integer
obrigatório
Intervalo obrigatório: -9007199254740991 <= x <= 9007199254740991
started_at
integer | null
obrigatório
Intervalo obrigatório: -9007199254740991 <= x <= 9007199254740991
completed_at
integer | null
obrigatório
Intervalo obrigatório: -9007199254740991 <= x <= 9007199254740991
cancelled_at
integer | null
obrigatório
Intervalo obrigatório: -9007199254740991 <= x <= 9007199254740991
failed_at
integer | null
obrigatório
Intervalo obrigatório: -9007199254740991 <= x <= 9007199254740991