只做概率判断，不生成文字：vLLM开源27B决策模型d3-ultra，重新定义AI路由架构
在开源大模型赛道普遍追逐参数量与文本生成质量的当下，vLLM Semantic Router团队选择了一条截然不同的技术路径。他们最新发布的d3-ultra模型，参数规模26.09B，采用Apache-2.0协议开源，却明确宣称自己"不生成文字"。这一看似反直觉的设计哲学，恰恰击中了当前AI工程化落地的核心痛点。
决策模型的新范式：State Once
传统大语言模型在处理多轮路由或复杂分类任务时，往往需要多次推理、逐层拆解，不仅延迟高昂，还容易在中间环节累积误差。d3-ultra的核心创新在于"单次读取"（state once）机制。开发者向模型发送一次状态——可以是文本、JSON，也可嵌入图像或视频——并附带一组结构化问题，模型在完成单次输入读取后，便为每个问题的每个可能答案返回概率值。
这意味着，原本需要串联多个API调用的路由、分类、视觉定位（Box）与视频追踪（Track）任务，如今可以通过一次开源模型调用完成。问题类型涵盖选择（Choice）、是非判断（Yes/No）、评分（Score）、空间定位（Box）以及跨帧追踪（Track）。图像甚至可以直接嵌入问题与选项之中，例如展示一张照片后，要求模型从四幅素描中选出匹配项，这种多模态推理能力极大拓展了决策模型的应用边界。
架构细节与性能表现
从技术规格看，d3-ultra基于Qwen3.5架构打造，包含64个网络层级，其中48层采用线性注意力机制，16层保留完整注意力机制。模型总参数量中，视觉编码器占0.46B，其余为密集参数。上下文窗口上限为131,072 tokens，若单组问题超过该阈值，系统将明确返回长度超限错误，而非静默截断，这种确定性行为对企业级应用尤为关键。
在基准测试方面，研发团队构建了SR-Text与SR-Box两套内部评估体系。SR-Text包含10,411条文本请求、73,495个问题，涵盖34个公开基准的技能复现以及43个新增任务族（如SQL校验、工单路由等），评分经过机会校正——0分代表随机猜测，100分为完美表现。
d3-ultra以87.2分位居六款决策模型之首，领先GLiDE V1.2（85.1分）、d1-ultra（83.4分）、d3-turbo（83.1分）、d3（81.4分）及Jev 1.14（73.1分）。在工具调用与自动化子领域，其得分高达97.8分，展现出极强的结构化任务处理能力。然而在艺术与人类审美偏好相关任务上，d3-ultra以89.6分略逊于d1-ultra的90.8分，尽管差距处于误差范围内，却暗示了不同模型在主观判断上的能力分野。
SR-Box测试则聚焦空间定位能力，覆盖10个领域、4,984张图像、5,678个定位问题，以IoU 0.5作为判定正确的阈值。d3-ultra在10个领域综合得分58.2%，在9个领域版本中得分54.6%，略低于同门d3-turbo的60.0%与59.6%。研发团队对此的解释值得玩味：d3-turbo在自然图像上保持优势，而d3-ultra更擅长图表类结构化视觉内容。这一差异可能源于训练数据分布或架构侧重点的不同，也为开发者选型提供了明确指引。
工程落地的现实考量
在部署层面，d3-ultra已在单张AMD Instinct MI325X加速器上完成BF16精度权重验证，但官方尚未发布量化版本。对于资源受限的边缘场景，这构成了一定门槛。不过，考虑到其单次调用即可替代传统多模型串联架构，整体系统复杂度与运维成本的下降，足以抵消部分硬件投入。
更深远的意义在于，d3-ultra代表了AI基础设施从"生成式"向"判别式"的范式转移。过去几年，行业资源过度集中于如何让模型"说得更多、更流畅"，却忽视了在真实业务场景中，大量需求其实是"判断得更准、更快"。客服工单自动分派、金融交易异常标记、医疗影像初筛、工业质检缺陷定位——这些场景不需要模型撰写散文，而是需要它在毫秒级延迟内给出高置信度的决策信号。
行业影响与未来演进
d3-ultra的开源，将加速决策模型成为AI栈中的标准组件。正如当年ResNet为计算机视觉提供了通用特征提取器，Decision 3.0家族（覆盖0.6B至27B全尺寸段）可能为智能体系统提供标准化的"决策中间件"。开发者无需从零训练专用分类器或目标检测模型，即可通过开源权重快速构建多模态路由系统。
展望未来，决策模型的竞争焦点将转向三个维度：一是延迟优化，尤其在量化与端侧部署场景；二是跨模态对齐能力，使文本、图像、视频、音频能在统一决策空间内自由交互；三是可解释性，当模型返回概率而非文字时，工程师需要更精细的工具来诊断误判原因。
d3-ultra或许不会成为大众熟知的"明星模型"，但它所代表的技术路线——让AI从内容生产者进化为可靠决策者——很可能定义下一代智能系统的底层架构。在这场静默的变革中，真正重要的不是模型说了什么，而是它如何替人类做出选择。