Qwopus3.5 — 用 Reasoning SFT 释放 27B 模型的推理潜力

你不需要 H100 集群，也不需要每月 $200 的 API 账单。一台 16GB 显存的笔记本，就能跑一个推理能力显著超越同级别开源模型的本地模型。

这个模型是什么？

Qwopus3.5 是开发者 Jackrong (JIRONG) 发布的开源大语言模型系列。名称取自 Qwen + Opus — 基座是阿里的 Qwen3.5-27B，训练目标是借鉴 Claude Opus 的推理风格来提升小模型的推理质量。

它不是简单的知识蒸馏，而是通过 Reasoning SFT（推理监督微调）让 27B 参数的模型学会了结构化推理。所有训练和测试均由作者自费在 Google Colab 上完成 — 这意味着你也可以复现整个流程。

当前最新版本为 v3.5，相比 v3 使用了约 2 倍的 SFT 训练数据，在泛化能力和 agentic 编程任务上进一步提升。

为什么值得关注？

在本地模型的世界里，27B 是一个关键的参数量级 — 大到足以产生高质量推理，小到能在消费级硬件上流畅运行。Qwopus 在这个量级上做到了三件事：

1. 推理能力越级：通过 Reasoning SFT，27B 模型展现出超越同参数量级模型的多步推理能力
2. 创意不打折：前端/UI 生成、游戏开发等创意任务上，社区实测表现亮眼
3. 零门槛部署：GGUF、MLX 格式齐全，LM Studio 一键加载，无需折腾环境

模型版本一览

官方发布

社区衍生

社区还提供了 GPTQ、AWQ、i1-GGUF、abliterated 等多种量化和变体版本，可在 Hugging Face 搜索 Qwopus 查看。

技术深度：Reasoning SFT 到底做了什么？

这是理解 Qwopus 的关键。如果你只记住一件事，记住这个：Reasoning SFT 不是让模型学新知识，而是教它如何使用已有的知识去推理。

基座与微调

• 基座模型：unsloth/Qwen3.5-27B（Qwen3.5 的 unsloth 优化版）
• 微调工具：Unsloth，支持在 Google Colab 上完成全流程训练
• 许可证：Apache-2.0

Reasoning SFT vs 知识蒸馏

很多人看到"Opus"就以为是从 Claude 蒸馏知识。实际上，Qwopus 的训练方法完全不同：

相关论文 Rethinking Generalization in Reasoning SFT（arXiv:2604.06628）指出：

推理 SFT 的泛化能力是动态的、有条件的 — 取决于优化程度、数据质量和模型本身的能力。短期训练可能低估泛化效果，域外性能常呈现"先降后升"的恢复模式。

换句话说：训练初期模型可能在某些任务上变差，但随着训练深入，推理能力会"涌现"并迁移到新领域。

Act-then-refine — 先行动，再优化

Qwopus 的推理模式不是简单地"想完再说"，而是 Act-then-refine：

1. 模型先生成初步回答（Act）
2. 通过 <think>...</think> 标签进行结构化思考（Refine）
3. 输出经过验证和修正的最终结果

这种方式比简单的长 CoT 模仿更有效，尤其适合编程和多步骤任务。v3 版本放弃了 v2 的浅层 CoT，转向结构化可验证推理链，内部逻辑更严谨。

v3 → v3.5：不换架构，只加数据

v3.5 没有引入新架构、RL 阶段或模板重设计，纯粹通过扩大 SFT 数据量（约 2 倍）来增强泛化能力。这本身就是一个有趣的实验结论 — 在 Reasoning SFT 框架下，数据量的扩展能直接转化为泛化能力的提升。

训练数据覆盖：数学、编程、谜题、多语言对话、指令遵循、多轮交互和 STEM 任务。

评测表现

v3 vs v3.5 对比

MMLU-Pro 子集（280 题）：

注：由于算力限制，v3.5 仅在 v3 使用的同一 280 题子集上评测（完整 MMLU-Pro 约 12000 题），结果仅供版本间纵向对比，不可与其他模型的完整评测直接比较。

作者自建 Agentic 编程测试（44 题）：

注：这是作者自建的 44 题测试集，非标准 SWE-bench（500+ 题）。由于样本量小且非标准化，通过率不可与其他模型在 SWE-bench 上的成绩直接比较。

v3.5 的关键提升在于多步骤 agentic 编程：能通过工具调用读取源码、诊断 timezone 解析 bug 并提出修复方案，而 v3 未能定位根因。

官方指出推理 SFT 存在能力权衡：多步推理能力显著提升，但在部分对齐敏感的基准上可能出现轻微回退。

与基座模型的对比

Qwopus 目前缺乏在标准完整 benchmark 上的评测数据，因此无法与其他模型进行严格的横向对比。以下仅展示 Qwopus 相对于其基座模型 Qwen3.5-27B 的提升：

• MMLU-Pro（280 题子集）：从基座的表现提升至 ~90.4%，表明 Reasoning SFT 对推理类题目有正向效果
• Agentic 编程（44 题自建集）：v3.5 达到 97.7% 通过率，优于 v3 的 95.5%
• MATH500、HumanEval、GSM8K：官方仅给出定性描述"优秀"，未公布精确分数

待作者在完整标准 benchmark 上发布评测结果后，才能与 Gemma 4、Llama 4 Scout 等同级别模型进行公平比较。

已观察到的特点：

• 推理深度：Qwopus 通过 Reasoning SFT 在多步推理上有明显提升，在复杂编程任务上表现突出
• 创意与前端生成：社区实测显示 Qwopus 在 UI/前端代码生成中的创意多样性和完成度优于 Gemma 4
• 对齐权衡：推理 SFT 的代价是在部分对齐敏感基准上可能出现 1-2% 的轻微回退
• 部署门槛：Qwopus 27B Q4 量化仅需 ~16GB 显存，与 Gemma 4 27B 相当

实测一：前端创意生成 — Qwopus v3 vs Gemma 4

光看 benchmark 数字不够直观。以下是社区用户使用完全相同的提示词（生成一个关于 "Divine Scalar Field Hypothesis" 的学术预印本网站），在本地环境下的公平对比。

Qwopus v3 — 三次生成，三种截然不同的风格

三次生成，三种完全不同的设计语言。这说明模型在创意生成上有较强的多样性。

Gemma 4 — 同一提示词

• 布局基本正确，但创意平平，动画较少，更像"基础 Qwen 的升级版"
• LaTeX 数学渲染出错（Qwopus 每次都完美）
• 无法通过工具调用直接写文件（需手动复制）

其他社区反馈

• 用 Pac-Man 游戏提示测试：Qwopus v3 一次生成完整可玩游戏，基础 Qwen 3.5 27B 只搭了框架且角色移动有问题
• 社区评价："The sauce is baked into the weights!"（精华已深度融入权重）

结论：在前端/UI 设计、创意生成、动画交互等需要审美 + 细节 + 多样性的场景中，Qwopus v3 在社区实测中表现优于 Gemma 4。这不是全面 benchmark，但对本地前端开发、原型设计场景来说值得一试。

实测二：逻辑推理 — 一道"简单"的洗车题

测试环境：Qwopus3.5 v3.5 Q6_K 量化，Apple M3 Pro 36GB

以下测试展示了 Reasoning SFT 在日常逻辑推理中的实际效果。

测试题

我想洗车，我家距离洗车店只有 50 米，请问你推荐我走路还是开车去呢？

看似简单，实则包含一个隐含前提陷阱 — 大多数人（和模型）会被"50 米"的短距离误导，直觉回答"走路"。

Qwopus 的推理过程

模型展现了完整的多层推理：

1. 识别核心矛盾：目标是"洗车"而非"去洗车店"，因此车必须物理到达洗车店
2. 逐项排除：走路去 → 人到了但车没到 → 无法完成洗车目的
3. 考虑边缘情况：上门服务、拖车服务等替代方案，并合理排除
4. 识别幽默陷阱：意识到 50 米的距离让"开车"显得荒谬，但逻辑上是唯一正确选择
5. 给出实用建议：开慢点避免沾灰、确认是否有上门服务等

最终结论正确：必须开车去，因为这是让车到达洗车店的唯一合理方式。

为什么这道题能说明问题？

这道题测试的不是知识量，而是推理质量：

• 抓住隐含前提：车需要到店，不是人需要到店
• 抵抗直觉偏差：距离短 ≠ 应该走路
• 多角度验证：不是给出第一反应，而是反复检验结论

这正是 Act-then-refine 推理模式的典型体现：先分析问题结构，再逐步验证，最终输出经过多轮检验的答案。不少同级别模型会直接回答"走路"，因为它们更倾向于模式匹配而非深入推理。

适用场景

快速上手：10 分钟本地部署

方式一：LM Studio（推荐，最简单）

1. 下载安装 LM Studio
2. 搜索 Qwopus3.5-27B-v3.5-GGUF（或 v3）
3. 选择合适的量化版本（推荐 Q5_K_M，平衡质量与速度）
4. 加载模型并启动本地服务器
5. API 地址：http://localhost:1234/v1，兼容 OpenAI 格式

方式二：Ollama（一行命令）

ollama pull gag0/qwen35-opus-distil:27b
ollama serve

方式三：其他 GGUF 运行时

任何支持 GGUF 格式的推理引擎均可加载：llama.cpp、koboldcpp、text-generation-webui 等。

硬件需求：你的设备能跑吗？

选择建议：

• 16GB 内存/显存 → Q4_K_M，够用且流畅
• 24-36GB → Q5_K_M 是甜点，Q6_K 也可以但长对话会紧张
• 48GB+ → Q8_0，接近无损精度
• Apple Silicon 用户：27B 目前暂无官方 MLX 版本，可用 GGUF 格式配合 LM Studio 运行；9B 有 MLX 6bit 版本可用

已知局限（诚实比营销重要）

• 推理在边缘场景下可能不稳定
• 数据扩展超过最优范围时可能出现过拟合
• 工具调用性能取决于运行环境的集成方式（LM Studio 的 Agent 模式支持较好）
• 并非所有能力都已完整评测
• 推理 SFT 提升推理能力的同时，可能在对齐敏感基准上出现轻微回退 — 这是已知的能力权衡，不是 bug

相关链接

• Jackrong 的 Hugging Face 主页
• Qwopus3.5 v3.5/v3 模型合集
• 论文：Rethinking Generalization in Reasoning SFT
• 完整微调指南（PDF + 代码）
• LM Studio
• Qwen 官方
• Unsloth 微调框架