DeepSeek 官方推理集群
支持 MLA + DeepSeekMoE 架构与前缀缓存折让及显式推理输出(外部审计回执 Unverified)。
覆盖境内直连专线与全球加速集群,公开披露接入协议、部署区域、量化精度、fail-closed 审计态势与 BYOK 密钥透传支持。
推理供应商节点名录(CN 参考基线)前三:deepseek/deepseek-v4-1-flash / minimax/minimax-m3-1-flash / zhipu/glm-5-3-flash;峰值标价性价比 openai/gpt-6-luna(507.8/$)。分叉预警:openai/gpt-6-2-astra 属高基准参考延迟退化,minimax/minimax-m2-flash 属高性价比黑马(非实时遥测)。
口径说明:排行、标价成本、参考延迟与基准分来自静态公开规格与参考基线(非实时网关流量,未经第三方 ZDR 审计签章的节点保持 Unverified)。
支持 MLA + DeepSeekMoE 架构与前缀缓存折让及显式推理输出(外部审计回执 Unverified)。
提供中国区直连端点与新加坡双区模型托管能力,支持 BYOK 透传(第三方审计回执 Unverified)。
承载中文检索与豆包 256K 长文理解专线,支持流式输出与提示词缓存(附 TLS 轮换 Warn 提示)。
面向中文知识库检索对齐与工具调用约束设计的境内直连端点(外部审计回执 Unverified)。
原生 /v1/messages 协议透传与 Prompt Caching 缓存减免通道(第三方 ZDR 回执 Unverified)。
原生支撑 /v1/responses 状态流、严格 JSON Schema 与 GPT-6.2 / GPT-5 / o3 系列自适应推理。
提供 500K 上下文 Grok 4.7 低输出乘数推理通道与前缀缓存折让(第三方审计回执 Unverified)。
部署 Mistral Large 4(1.05T MoE)多模态 1M 窗口推理端点,支持 BYOK 透传(外部审计回执 Unverified)。
支持高达 200 万上下文多模态与长窗缓存能力(第三方零留存审计回执 Unverified)。
跨区企业托管冗余路径,支持 BYOK 凭据透传(第三方零留存审计回执 Unverified)。
面向 :nitro 极速策略后缀的投机解码参考路径,支持 FP8 开放权重推理。
面向 235B–480B 开源模型与 :floor 成本地板策略的分布式 FP8 推理集群。