介绍 Clef：开源决策模型与新的 RL 微调平台
Cloudflare 开源了一组小到能跑在边缘的决策模型：不像 LLM 那样自由生成文字，而是对给定问题输出有界的结构化判断（概率、选项、评分），又快又便宜且可重复。文章对比了它与 Jev 的差异，并介绍了新的 RL 微调服务。
中文
复制
过去几周，围绕决策模型的讨论不少，比如 Typesafe AI 的 Jev System One 模型。分类器模型早已有之，而 Jev 为 AI 世界带来了一种新的决策模型概念——这类模型能以低成本、快速且一致地生成有界结构化输出，在需要做决策时接入工作流。它们的泛化能力足够强，无需反复重新训练来纳入新的分类类别，就能处理任意输入集合。这与大语言模型（LLM）形成对照：LLM 基本是非确定性的，但足够开放，可以推理、生成文本和工具调用，胜任 agentic 工作负载。今天我们发布两个由 Cloudflare 训练的决策模型 Clef 和 Clef-flash，托管在 Workers AI 上。在 Jev Decision Index 的评测中，Clef 目前排名第一，完整结果可以在实时基准演示站点查看。这两个模型更聪明、更快，并且完全兼容 Jev API，你可以轻松试用这些托管模型。我们还在 Hugging Face 上以 Apache 2.0 许可证完全开源这些模型，供你在本地运行和自行实验。
最后，我们很高兴推出新的强化学习（RL）产品，客户可以用它微调 Clef，以适配自己的用例。
什么是决策模型？
决策模型基于一定的概率做出分类，帮助 agent 决定如何行动。例如，你可以传入一条客服消息（输入），询问它是否紧急、该由哪个团队处理。决策模型会返回带概率的类型化答案（输出），你的代码可以据此转派工单、触发升级，或转交人工。这意味着 agentic 决策不再一定需要人在环路中——agent 可以以编程方式收集上下文、做出决策并对任务采取行动，必要时再转交人工。
具体到 Cloudflare，我们一直在让 Threat Intelligence 团队试用新的 Clef 模型，帮助分类网站域名。把一个域名交给 Clef（配合 Browser Run），它就能快速判断该域名属于哪些类别——比如，它可能以 95% 的概率判定某域名是时尚网站、85% 是电商、<1% 是钓鱼网站，等等。这次分类中，Clef 模型抓取、渲染并分类网站共耗时 2.2s。相比之下，我们最快的通用 LLM gpt-oss-120b 在同一流程中耗时 4.7s，而且只返回了两个分类结果。作为用户，你可以想象延迟和结果都减半，能怎样帮助我们改进威胁情报工作流，更快识别恶意或合法域名。把这个结论推广到任何需要快速做出程序化决策的场景，你就能解锁强大的 agentic 工作流，让它们自主决策、推理并执行。
在乐理中，clef（谱号）是置于乐谱开头的一个符号，为五线谱上的线和间指定具体的音高名称。决策模型类似于谱号，因为它有助于界定上下文的范畴，以及随后出现的音符（动作）。我们把这一系列决策模型命名为 Clef，正是因为它发挥着类似的作用，而 CF 则呼应 Cloudflare。
Clef 与其他决策模型有何不同？
尽管决策模型市场日益饱和，Clef 仍有一些独特之处，让我们很期待将它公开发布。首先，它带有视觉编码器，因此能够接收图像并对视觉内容进行分类。这一点与 Jev 不同，后者目前只做文本分类。其次，我们的模型有 64k 上下文窗口（Jev 为 32k），用户可以塞入更多输入状态供模型分类。
第三，我们的模型准确且强大，在多项质量基准上与其他市面上的决策模型相比得分不相上下。下面列出了几项对决策至关重要的评估，依据的是 Jev Decision Index 的定义，我们为市面上一些更流行的模型打了分。基准测试见下表，或在我们实时决策指数演示站点查看分数：
| Benchmark | Clef | Clef-flash | Jev | DiffusionGemma Jev | Kev 9B | Laya |
|---|---|---|---|---|---|---|
| BFCL · case exact | 98.47 | 98.76 | 95.75 | 96.52 | 94.51 | 38.13 |
| ToolRet · nDCG@10 | 69.19 | 66.43 | 65.28 | 61.21 | 64.26 | 12.69 |
| API-Bank · accuracy | 91.93 | 93.11 | 88.19 | 83.66 | 56.30 | 11.41 |
| Home appliances · case exact | 82.95 | 97.73 | 52.27 | 42.05 | 25.00 | 0.00 |
| When2Call · accuracy | 72.37 | 65.58 | 80.97 | 75.44 | 49.62 | 11.94 |
| BANKING77 · macro-F1 | 94.20 | 90.93 | 79.74 | 74.28 | 84.83 | 14.29 |
| CLINC150+OOS · macro-F1 | 97.43 | 66.77 | 89.27 | 83.49 | 79.03 | 3.19 |
| BRIGHT · nDCG@10 | 45.91 | 39.26 | 47.52 | 42.94 | 38.53 | 19.90 |
| Amazon ESCI · macro-F1 | 57.48 | 57.39 | 55.21 | 53.37 | 49.22 | 24.40 |
| PhishNChips · accuracy | 79.60 | 75.05 | 62.55 | 85.35 | 50.75 | 50.15 |
我们还在 Typesafe 自家的评测套件上跑了一轮 benchmark，Clef 系列表现不俗，在 4 个领域里赢了 Jev 3 个。值得一提的是，Clef-flash 的速度快得多，成绩却依然相当能打。
| Workflow | Clef | Clef-flash | Jev |
|---|---|---|---|
| Invoice processing | 64.7 | 57.1 | 61.8 |
| Customer service | 76.3 | 77 | 76.0 |
| Security incidents | 62.9 | 61.7 | 61.7 |
| Agent trace observability | 68.5 | 69.8 | 71.6 |
在我们跑过的 43 个评测 benchmark 里，Clef 系列在延迟上都优于这些决策模型（Laya 除外，它非常快，但在上面的 benchmark 里牺牲了质量）：
| Benchmark | Clef | Clef-flash | Jev | DiffusionGemma Jev | Kev-9B | Laya |
|---|---|---|---|---|---|---|
| Median latency · ms | 209.3 | 38.8 | 524.1 | 84.4 | 51.4 | 5.8 |
| p95 latency · ms | 238.6 | 122.4 | 536.0 | 211.2 | 187.9 | 222.5 |
除了模型本身带来的延迟优势，Clef 系列还托管在 Workers AI 上。因为跑在 Cloudflare 的基础设施上，我们可以用上边缘节点的 GPU，网络延迟低，决策也更快。这意味着你可以把 Clef 放进 agent 的关键路径上做决策，再配合 Workers AI 上的某个 LLM 来执行动作。
curl https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/run/@cf/cloudflare/clef \
-X POST \
-H "Authorization: Bearer $CLOUDFLARE_AUTH_TOKEN" \
-d '{
"model": "clef",
"state": "Checkout has been failing for every customer for the last hour.",
"questions": {
"urgent": { "type": "noul", "instructions": "Is this support request urgent?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this request?",
"criteria": {
"billing": "Payments, invoices, and refunds",
"technical": "Outages, errors, and configuration",
"sales": "Plans and upgrades"
}
},
"severity": {
"type": "score",
"instructions": "How severe is the customer impact?",
"criteria": ["No impact", "Minor", "Major", "Critical"]
}
}
}'Clef 同样能生成类似 Jev 的严格类型化输出，并且完全兼容 API，因此替换起来极其简单。较大的 Clef 模型精度更高、能力更强，而 Clef-Flash 模型则非常适合对延迟敏感的判断场景。这些模型已为企业级使用做好准备，我们保证不会读取、存储你的请求或响应，也不会用它们训练模型（除非你想使用我们的微调产品，详见下文）。你现在就可以开始使用 Clef 模型，先看我们的开发者文档，或者直接上手 Hugging Face 仓库中的开源模型。
如果你需要针对特定工作负载调优 Clef，我们也提供微调服务——首先是由我们的前沿部署工程师（FDE）团队作为动手协作的伙伴，之后会推出自助微调平台，让客户自行训练模型并重新部署到 Cloudflare。
我们如何训练 Clef
Jev 发布的同一周，我们发布了一些实验，用的是我们自己开发的决策模型。演示中介绍了我们如何改造 DiffusionGemma 模型，通过暴露大语言模型生成的 logprobs 来输出确定性的概率。我们最初的做法建立在 Matt Mastracci 的独立研究之上，他一直在机器学习（ML）社区活跃，分享新想法，并向 vLLM 推理引擎提交 pull request，让 DiffusionGemma 支持更强。
Clef 基于这一概念，但使用不同的基础模型作为骨干。我们目前用 Qwen 作为基础模型，并对其做后训练，以适配决策模型的使用场景。推理时，Clef 用 Qwen 做一次仅 prefill 的前向计算，然后并行地为各个合法 schema 选项打分。决策步骤是非自回归的，因此没有中间文本需要逐 token 生成，这让 Clef 比自回归 LLM 快得多。Clef 和 Clef-flash 不是先生成中间文本再得出结构化答案，而是直接从骨干网络的内部表示中推导出 schema 选择。这种做法依赖一套专门的两阶段注意力路由流程：每个合法选项都会提取与 prompt 相关的上下文，让各个字段参数能够与其他字段交叉注意力，并在打分前回看原始 payload。借助词汇先验，模型在各选项之间保留了语义意图。最终，这套架构把选项特定的证据路由、跨字段联合注意力和受 schema 约束的打分统一在一起。
通过冻结用于 Clef 的 Qwen3.8-27B 和用于 Clef-flash 的 Qwen3.5-9B，我们将路由头与 rank-256 低秩适配器一起联合优化。在后训练阶段，我们对有效的 schema 输出使用标签平滑交叉熵，并配合 Brier 损失来改进概率校准。训练使用的是我们内部的合成数据集，这些数据集对字段顺序、提示词和 schema 结构做了排列组合。我们还开发了用于校准决策的强化学习（RLCD），作为第二优化目标：对相邻的序数选择给予部分分数，对完全精确的记录输出给予奖励，并施加参考惩罚以防止分布偏移，从而获得更好的准确率和泛化能力。
这意味着我们借助 Clef 实现了几项新的成果：提升了模型在分类任务上的准确率，将其约束为只输出概率而非生成文本，并让它比 Jev 和基础 Qwen 模型更快。
微调如何扩展 Clef 的能力
我们听到很多内部用例，都需要对 Clef 模型进行微调，以便将其集成到 Cloudflare 的 agentic 工作流中。例如，内部团队希望有一个分类器模型能够评估 Trust & Safety 提交内容，帮助我们分诊 Cloudflare Support 请求，甚至内置到我们的 Bot 产品中，判断某个爬虫是 good bot 还是 bad bot。
这些用例非常具体，而我们多年来积累了大量带标签的决策数据，可以用来训练专门的分类器。微调模型时，你可能会牺牲一部分通用性能，换取在特定领域更高的准确率。由于 Cloudflare 拥有超过 15 年、覆盖不同领域的网络数据，我们可以微调模型来适配这些具体用例，使其比通用的 Clef 模型更准确、更快。我们已经在与内部团队合作，研究如何对 Clef 进行后训练，打造强大的 ML 模型，以提升我们的影响力并改进 Cloudflare 内部的工作流。这些内部团队和用例，正是我们新成立的 FDE 微调团队接下来的职责范围，也是我们强化学习（RL）产品的基础。
我们全新的 RL 服务
我们正在推出一项服务，由我们的 FDE 团队亲自协助客户微调 Clef，使其适配自身的工作负载。在此基础上，我们会把实战经验用于构建一个自助平台，让客户可以在 Cloudflare 上完成数据采集、微调和模型重新部署。
这件事其实酝酿已久——我们一直在构建 AI 平台，就是为了把基础组件准备好，从而有能力打造一个定制的 RL 产品。Jev 引发的关注说明，市场需要一个快速、轻量、专用的分类器模型，我们选择以此为切入点，开始试验 RL 环境。
为此，我们复用了 Cloudflare 平台上已有的基础组件：
- Cloudflare AI Gateway – 让所有 AI 流量经过 AI Gateway，自动为你的用例生成请求数据集
- Cloudflare Workers AI – 基于 Clef 基础模型生成 rollout
- Cloudflare Containers – 用于给 agent 动作打分和回放的 RL 沙箱
- [NEW] Trainer – 更新微调后 Clef 模型的权重
- Cloudflare Workers AI + BYO Model – 在 Workers AI 上重新部署微调后的模型
这整合了 AI 平台中几个仍在开发中的部分，包括：AI Gateway 能捕获你的 AI 流量，让你可以利用自己的请求/响应数据；Containers 用于 RL 沙箱；以及自我们收购 Replicate 以来持续推进的 Workers AI Bring Your Own Model（Cog）工作。
今天就可以试用
我们很高兴推出 Workers AI 团队首个由 Cloudflare 训练的 ML 模型。我们仍处于早期阶段，后续还有大量改进，但这是 AI 平台团队长期努力的一次精彩首秀。我们相信 Clef 有能力改变我们使用 agent 的方式，这与 Cloudflare 成为 agent cloud 的使命天然契合。
如果你有具体的用例，并且已经是这些产品的客户——我们很乐意与你交流，在这一领域探索的过程中成为设计伙伴。
试用托管在 Workers AI 上的 Clef 模型；如果你想自己探索，可以下载 Hugging Face 上的权重；如果你有希望我们协助的微调用例，也欢迎联系我们。
我们的 ML 团队影响力一直在扩大，从模型优化到模型训练研究。如果你有兴趣加入我们的使命，看看我们的开放职位。