路由拓扑与安全护栏说明
作业全生命周期支持进度轮询、随时取消与 OTLP 遥测广播投递至可观测性数据湖。
上传 JSONL 测试集至路由文件存储后创建异步批处理作业,利用错峰与地板价格完成回归基线比对。
十万级样本夜间异步评测批处理底座(CN 参考基线)前三:deepseek/deepseek-v4-1-flash / minimax/minimax-m3-1-flash;峰值标价性价比 deepseek/deepseek-v4-1-flash(392.1/$)。高基准能力与参考延迟效率保持收敛(基于公开标价与静态参考评测)。
口径说明:排行、标价成本、参考延迟与基准分来自静态公开规格与参考基线(非实时网关流量,未经第三方 ZDR 审计签章的节点保持未核验状态)。
作业全生命周期支持进度轮询、随时取消与 OTLP 遥测广播投递至可观测性数据湖。
POST https://app.myrilum.cn/api/router/v1/chat/completions
HTTP-Referer: https://myrilum.cn/router/apps/batch-eval-harness
X-Title: Nightly-Batch-Eval
{
"model": "deepseek/deepseek-v4-1-flash",
"models": [
"deepseek/deepseek-v4-1-flash",
"minimax/minimax-m3-1-flash"
],
"provider": {
"allow_fallbacks": true,
"sort": "throughput"
},
"messages": [
{
"role": "user",
"content": "Execute Nightly Corpus & Benchmark Batch Runner workflow."
}
]
}| # | 模型与实验室 | 流形评分 | 混合标价 / 1M | 参考速率与基准 | 上下文 / 输出窗 | 首选节点 | 分叉与 ZDR 审计 |
|---|---|---|---|---|---|---|---|
| 1 | 90.3 100% conf | $0.24 392.1 lift/$ | 168 tok/s ref 145ms TTFT · 94.1 bench | 1M max out 384K | deepseek-official | 共识领跑Unverified | |
| 2 | 90.1 100% conf | $0.24 381.7 lift/$ | 172 tok/s ref 138ms TTFT · 91.6 bench | 1M max out 131K | alibaba-bailian | 共识领跑Unverified |