核心要点速览

  • CDM 全称约束解码模型，由 Neal Patel 于 2026 年 10 月 13 日公布，核心思路是让模型只读输入、跳过逐 token 生成循环。
  • 目前公布三类模型：分类返回校准概率与理由，抽取返回带置信度和出处的 JSON，摘要把长文本、图片或 PDF 压到 1000 token 以内。
  • 官方宣称输入上限 100 万 token 多模态内容，在 DecisionBench 上得分 77.2%，对比前沿大模型 API 快 200 倍、便宜 467 倍，输入每百万 token 收费 0.05 美元且输出免费。
  • 以上数字均来自发布方自述，目前没有公开版本、下载或官方页面，只能先看预告并关注官方渠道后续消息。

项目速览

类型/定位单任务约束解码模型，非通用对话模型
适用设备官方未公布；按 API 形态推测为云端服务
费用说明公布输入每百万 token 0.05 美元、输出免费，最终以官方为准
语言支持官方未说明，需在官方页面确认
核心亮点只读一次输入，跳过逐 token 生成，速度快、成本低
使用门槛暂无公开版本，普通用户暂时无法直接上手
分类AI 与新模型
作者 / 发布方Neal Patel
热度🔥 热度 178万
最后更新

CDM 到底是什么：为什么有人想给大模型做减法

ScaleDown 约束解码模型（Constrained Decoding Models，简称 CDM）由 Neal Patel 于 2026 年 10 月 13 日公布，是一套与大语言模型思路相反的新架构。普通大模型被训练成写作者，收到问题后一个 token 一个 token 地往下写，延迟和成本就在这个循环里累积。CDM 的出发点是：很多生产环境里的调用其实并不需要文章，只需要一个答案。

它的做法是让模型把输入读一遍就直接得出结论，跳过逐 token 的生成循环。发布方用一句话概括动机：大模型是为写作而生的，但大多数生产负载只需要快速、稳定、便宜的答案。这个观点戳中了不少按输出 token 付费的开发者，因为分类、打标签、抽取字段这类任务，用通用大模型来做确实显得浪费。

需要说明的是，CDM 不是聊天机器人，也不是通用推理模型。它被设计成一次只干一件事，用固定的输出结构换取速度和成本优势。目前公布的三个成员分别对应分类、抽取和摘要，覆盖了开发者日常调用中最常见也最重复的几类需求。

  • 只读不写

    模型读完输入直接给出结果，不再逐字生成，这是它宣称快 200 倍的根本原因。

  • 单任务专用

    每个 CDM 只负责一类任务，不做通用对话，换来更稳定的输出格式。

  • 面向生产负载

    路由、打标签、文档处理、上下文压缩这些高频调用，正是它瞄准的场景。

三类 CDM 分别能做什么：分类、抽取与摘要

分类模型（Classify）由使用者自己定义标签，模型返回每个标签的校准概率以及给出该判断的理由。官方建议的用法包括请求路由、内容打标签和意图识别。所谓校准概率，是指模型给出的置信度尽量贴近真实正确率，这对需要设定阈值的自动化流程很关键，否则阈值调不准就会误判。

抽取模型（Extract）允许你用自然语言描述想要的实体，返回格式规范的 JSON，并附带置信度分数和引用出处。它瞄准的是网页抓取、文档处理和个人身份信息脱敏。带出处这一点对合规场景尤其重要，因为审核人员需要知道每个字段是从原文哪一句抽出来的。

摘要模型（Summarize）接收长文本、图片或 PDF，输出一份控制在 1000 token 以内的摘要。官方给出的用途是上下文压缩、元数据生成和转录稿摘要。把长对话压成短摘要再喂给下游模型，是当前智能体系统里常见的省成本手段，而固定长度上限让下游的 token 预算更好估算。

  • 分类：给概率也给理由

    自定义标签后返回校准概率与判断理由，适合路由、打标签和意图识别。

  • 抽取：JSON 带置信度与出处

    用自然语言描述实体即可，返回规范 JSON，适合抓取、文档处理和脱敏。

  • 摘要：固定上限更可控

    长文本、图片或 PDF 压到 1000 token 以内，用于上下文压缩和元数据生成。

  • 共同点

    三者都不写长文，输出结构固定，便于程序直接消费而无需再做解析清洗。

性能与价格说法怎么理解：200 倍提速背后的账

发布方给出的生产数据包括：输入支持最多 100 万 token 的多模态文本与图片，并称这一数字比它对比的模型 Jev 大 31 倍；在 DecisionBench 上 CDM 得分为 77.2%，Jev 为 72%。对比前沿大模型 API，官方宣称快 200 倍、便宜 467 倍。这些数字全部来自 ScaleDown 自己的发布材料，尚无第三方复现。

价格方面，公布的是输入每百万 token 收费 0.05 美元，输出免费。这个定价只有在模型不生成长文本的前提下才成立，因为一旦按输出计费，摘要这类任务就无法做到免费。反过来说，如果你的业务确实只需要一个标签或一段 JSON，那么按输入计费的模式会比按输入加输出双向计费便宜不少。

阅读这类数字时要分清口径：快 200 倍是和前沿大模型 API 比，而不是和同类小模型比；DecisionBench 是发布方选用的评测集，不同评测集上的差距可能完全不同。真正落地前，建议在自己的数据上做小规模对照测试，重点看准确率、延迟分布和失败样例，而不是只看宣传页上的倍数。

  • 输入上限 100 万 token

    支持多模态文本与图片，官方称比 Jev 大 31 倍，适合长文档与图片混合输入。

  • DecisionBench 77.2%

    对比 Jev 的 72%，差距约 5 个百分点，但评测集由发布方选定。

  • 定价结构特殊

    输入每百万 token 0.05 美元、输出免费，前提是模型不产出长文本。

和通用大模型怎么选：适用场景、局限与观望建议

如果你的调用是开放式写作、多轮推理或需要模型自己规划步骤，CDM 并不合适，它一次只做一件事，输出空间被刻意收窄。相反，如果你的流程里大量出现意图识别、字段抽取、文档摘要这类结构固定的任务，用通用大模型既慢又贵，专用模型理论上更划算。判断标准很简单：输出的形状是否事先就能写死。

需要提醒的是，目前 CDM 还没有公开版本、下载渠道或官方页面，Neal Patel 只通过一段简短的预告视频和公告展示了它。这意味着所有性能与价格信息都停留在发布方自述阶段，既无法试用，也无法验证。对这类新架构，保持关注比立刻迁移更稳妥。

现阶段可以做两件事：一是梳理自己系统里哪些调用其实是伪装的分类或抽取任务，统计它们的调用量和输出 token 成本，为将来对比做准备；二是关注官方站点后续是否放出 API 文档、试用入口或权重。等有公开版本后，再用真实数据跑一轮对照，才能判断 200 倍和 467 倍在你的场景里是否成立。

  • 适合谁

    需要高频、结构化、可预测输出的工程团队，尤其是按输出 token 付费压力大的场景。

  • 不适合谁

    需要开放式写作、复杂多步推理或灵活对话的应用，仍应选择通用大模型。

  • 当前最大局限

    没有公开版本与官方页面，所有数据均未经第三方验证，无法试用。

  • 观望期该做什么

    盘点自身调用结构、记录成本基线，等官方放出试用入口后再做对照测试。

分步上手指南

  1. 第一步：确认当前可用状态

    先明确一点，CDM 目前没有公开版本、下载或官方页面，只有发布方展示的简短预告。你可以先阅读公告内容，了解三类模型各自解决什么问题，再决定是否值得持续关注。

  2. 第二步：盘点自己的调用场景

    翻一遍现有系统里对大模型的调用，把开放式生成和结构化输出分开统计。凡是输出格式能提前写死的，比如打标签、抽字段、压摘要，都属于 CDM 的潜在适用场景，记下它们的调用量和 token 成本。

  3. 第三步：建立对照基线

    在现有通用大模型上，为这些任务准备一小批测试样本，记录准确率、平均延迟和每次调用成本。有了基线，将来 CDM 开放试用时你才能用同一批样本做公平对比，而不是被宣传倍数牵着走。

  4. 第四步：关注官方渠道等待开放

    定期查看 ScaleDown 的官方站点，确认是否放出 API 文档、试用入口或权重下载。在正式开放前，不要把它写进生产架构，也不要把尚未验证的性能数字当作容量规划依据。

  5. 第五步：开放后做小规模灰度

    一旦有公开版本，先用非关键业务灰度，重点观察边界样例和失败模式，比如标签定义模糊时概率是否仍然可靠、抽取字段缺失时返回什么。确认稳定后再逐步替换高成本的通用模型调用。

常见问题

ScaleDown 约束解码模型现在可以下载或试用吗？

目前还不行。发布方只展示了简短的预告视频和公告，没有公开版本、下载链接或官方页面。所有性能与价格信息都来自发布方自述，尚无第三方验证。建议关注 ScaleDown 官方站点的后续消息，确认是否开放 API 或试用入口。

CDM 和普通大模型最本质的区别是什么？

普通大模型是逐 token 生成文本，延迟和成本随输出长度增长；CDM 只读一次输入就直接给出结构化结果，跳过生成循环。它一次只做一件事，输出空间被刻意收窄，因此更快更便宜，但也失去了开放式写作和灵活对话的能力。

输入每百万 token 0.05 美元、输出免费，这个价格可信吗？

这是发布方公布的价格，逻辑上成立的前提是模型不生成长文本，所以输出可以免费。但该价格尚未经过实际验证，也没有公开的计费细则。真正上线后是否区分模型、是否有最低消费或速率限制，都需要以官方页面为准。

三类 CDM 里哪一个最适合我的业务？

看你的输出形状：需要给内容打标签或做请求路由，选分类；需要从网页或文档里抽字段并保留出处，选抽取；需要把长文、图片或 PDF 压成短摘要，选摘要。如果输出无法提前写死，说明这个场景仍应交给通用大模型。

发布方宣称的快 200 倍、便宜 467 倍应该怎么理解？

这两个数字是 ScaleDown 自己给出的对比，对象是前沿大模型 API，而不是同类小模型，且没有第三方复现。DecisionBench 上的 77.2% 也来自发布方选定的评测集。落地前应在自己的数据上做小规模对照测试，重点看准确率与延迟分布。