大模型

更多 大模型

首页

AI大模型

Alex L. Zhang | Language Model 的题图

语言模型

语言模型形态是否该反过来适配 harness,而非只让 harness 迁就自回归 Transformer,Jev 用输出约束到 [0,1] 的 prefill-only 采样给出了一个可能。

AI大模型

示意图:用 Gumbel 噪声在水印采样中选词——三行分别是模型概率(table 18%、mat 57%、chair 25%)、Gumbel 噪声、以及两者相加后的分数,mat 以 −0.71 胜出;下方是 20000 次重复后统计出的频率与目标概率对比

vLLM中的水印技术

文本水印要在输出分布、鲁棒性与检测成本之间权衡。vLLM 这篇讲了红绿列表、Gumbel 噪声采样等几类方案,以及它们各自在什么条件下会被破坏。

AI推理大模型

散点图:横轴是时间(0–35 秒),纵轴是耗时(0–700 毫秒)。橙色点稳定在 550–600 毫秒,青色点稳定在 150–200 毫秒——工具调用版每次决策约 600 毫秒,System One 版每 190 毫秒做六到七次批量决策

用 System One 模型编程的两种技巧

作者把 Qwen3-8B 接成 System One 分类器后试出两招:分层目标(每十秒定战略、每五秒定战术、每 200 毫秒执行)与锦标赛采样(一次喂一百个链接分两轮选),后者在 Wikiracing 里找到了理想的三链接路径。

开发工具前端大模型

Hugging Face 博客题图:Workflow1111 工作流画布的宣传图,标题写着 Rebuilding AUTOMATIC1111 with Gradio Workflow

用 Gradio Workflow 重建 AUTOMATIC1111

Hugging Face 把 AUTOMATIC1111 的大部分功能重建成了同一张 Gradio 工作流画布:11 条媒体流水线、73 个节点,覆盖文生图、高清修复、图生图、提示词矩阵、VLM 反推、检测转遮罩、标注器、PNG Info 与图转视频;每个输出节点还自动变成 REST 端点与 MCP 工具。