
最近我在找一件事的答案:
能不能用一个本地可部署的开源 9B 模型,尽量复刻出 Claude Mythos / Fable 那种“先认真想一圈再回答”的感觉?
以前我的答案是:基本不可能。
直到我遇到 Qwythos-9B——看完配置、跑完几轮,我的感觉只有四个字:有点离谱。
它到底是什么东西?
用人话讲,Qwythos-9B 就是:
-
底座:Qwen3.5-9B
-
喂料:超过 5 亿条 Claude Mythos / Fable 的推理轨迹
-
行为:习惯先输出一大段
<think>...</think>推理链,再给最终答案
也就是说,它不只是“变聪明一点的 Qwen 微调”,而是刻意在学:
Claude 那种“真正先推理,再作答”的解题方式。
所以我更愿意把它叫作:Claude 思维方式的开源小号。
它哪里像 Mythos / Fable?
1. 先认真想,再给答案
和一般聊天模型不一样,Qwythos-9B 输出时几乎都会:
-
先给一个
<think>块:-
拆解问题
-
尝试不同思路
-
否定一些错误路径
-
-
然后再给出一个相对干净的结论
你能明显感觉到:
它不是在“边说边编”,而是先在脑子里走了一遍推理图,再把结果讲给你听。
2. 真正会“承认不确定”,然后去查
更关键的是,它在设计上就是为了配合工具使用的:
-
原生支持 Qwen3.5 风格函数调用
-
能自动决定什么时候:
-
用 Python 直接算
-
用 Web 搜索查
-
-
对那种容易闭卷翻车的问题(CVE、hashcat 模式、生化位点、药理细节),它倾向于先查清楚再回答
这一点特别像 Mythos / Fable:
不是死撑,而是会主动用工具来给自己兜底。
指标也不丢人:9B 干出 MMLU +34 分
如果只讲“感觉”不讲数据,总有点心虚。
在同等评测条件下,对比原始 Qwen3.5-9B,Qwythos-9B 在几个关键任务上大概是这个档位:
-
GSM8K 精确匹配(strict):从 0.51 → 0.81
-
GSM8K 精确匹配(flex):从 0.67 → 0.86
-
MMLU 平均:从 0.232 → 0.575(直接拉高 30 多分)
简单粗暴地讲:
同样 9B,换了这套 “Claude 思维链饲料” 之后,推理能力确实是实打实地跳档了。
最杀的点:1,048,576 token 上下文
如果你做 RAG / 文档 / 代码库分析,这个数字应该会戳中你。
Qwythos-9B 默认启用了 YaRN rope 扩展,把上下文窗口拉到了 约 100 万 tokens:
-
原生架构是 262k
-
现在直接 4×,写死在配置里,加载即用
这直接解锁了几件原来很麻烦的事:
-
整仓代码丢进去做推理
-
十几篇论文 + 笔记 + 草稿一次性塞进 prompt
-
Agent 多轮工具调用的长轨迹,持续保留上下文不失忆
配合它的推理风格,你可以尝试一件以前比较难玩的事:
把重度 RAG 缩一半,把更多精力交给“超长上下文 + 工具自纠错”。
它更适合作什么?
站在开发者视角,我觉得它特别适合做这三类项目的“推理引擎”:
-
带工具的 RAG Agent / 知识库助手
-
代码库级别分析 / 重构建议 / bug 定位
-
生物医药 / 网络安全 / 高专业度技术顾问(前提是有工具和人类复核)
一句话概括它的定位:
它不像一个“会聊天的大模型”,更像一个“挂在你显卡上的思考型顾问”。
要注意的现实点
最后讲几句不那么标题党的提醒:
-
它是推理模型:
<think>会很长,接口层最好做解析和截断 -
不适合贪婪/超低温采样:容易在长链推理里转圈
-
是高度不审查的:做 C 端一定要加自己的安全层
-
精确标识符(CVE、剂量、位点等)请让它配合检索或工具,而不是当成真理本体
总结一句话
如果你只想找一个“会聊天”的大模型,那它不是最优解。
但如果你在做:
-
RAG / Agent / 工具链
-
代码库 / 多文档 / 长上下文推理
-
想在本地体验尽可能接近 Claude Mythos / Fable 的“思维链体验”
那我会非常建议你认真试试 Qwythos-9B——
这是目前少数真的有“Claude 味道”的开源 9B 推理模型之一。
如果你觉得这篇文章对你有帮助,也欢迎给我一个三连击:点赞、转发和在看;如果可以,再帮我点一个⭐️。谢谢你看到这里,我们下篇再见。
597

被折叠的 条评论
为什么被折叠?



