“9B 小模型,干出 Claude Mythos 味道?我被这个开源怪物惊到了

AI 时代程序员必备技能

Codex、Claude Code、Cursor、Hermes Agent、OpenClaw等工程化实战专栏 ,讲透 AI 如何接管脏活累活

最近我在找一件事的答案:

能不能用一个本地可部署的开源 9B 模型,尽量复刻出 Claude Mythos / Fable 那种“先认真想一圈再回答”的感觉?

以前我的答案是:基本不可能。
直到我遇到 Qwythos-9B——看完配置、跑完几轮,我的感觉只有四个字:有点离谱


它到底是什么东西?

用人话讲,Qwythos-9B 就是:

  • 底座:Qwen3.5-9B

  • 喂料:超过 5 亿条 Claude Mythos / Fable 的推理轨迹

  • 行为:习惯先输出一大段 <think>...</think> 推理链,再给最终答案

也就是说,它不只是“变聪明一点的 Qwen 微调”,而是刻意在学:

Claude 那种“真正先推理,再作答”的解题方式。

所以我更愿意把它叫作:Claude 思维方式的开源小号


它哪里像 Mythos / Fable?

1. 先认真想,再给答案

和一般聊天模型不一样,Qwythos-9B 输出时几乎都会:

  1. 先给一个 <think> 块:

    • 拆解问题

    • 尝试不同思路

    • 否定一些错误路径

  2. 然后再给出一个相对干净的结论

你能明显感觉到:
它不是在“边说边编”,而是先在脑子里走了一遍推理图,再把结果讲给你听。


2. 真正会“承认不确定”,然后去查

更关键的是,它在设计上就是为了配合工具使用的:

  • 原生支持 Qwen3.5 风格函数调用

  • 能自动决定什么时候:

    • 用 Python 直接算

    • 用 Web 搜索查

  • 对那种容易闭卷翻车的问题(CVE、hashcat 模式、生化位点、药理细节),它倾向于先查清楚再回答

这一点特别像 Mythos / Fable:
不是死撑,而是会主动用工具来给自己兜底。


指标也不丢人:9B 干出 MMLU +34 分

如果只讲“感觉”不讲数据,总有点心虚。
在同等评测条件下,对比原始 Qwen3.5-9B,Qwythos-9B 在几个关键任务上大概是这个档位:

  • GSM8K 精确匹配(strict):从 0.51 → 0.81

  • GSM8K 精确匹配(flex):从 0.67 → 0.86

  • MMLU 平均:从 0.232 → 0.575(直接拉高 30 多分)

简单粗暴地讲:

同样 9B,换了这套 “Claude 思维链饲料” 之后,推理能力确实是实打实地跳档了。


最杀的点:1,048,576 token 上下文

如果你做 RAG / 文档 / 代码库分析,这个数字应该会戳中你。

Qwythos-9B 默认启用了 YaRN rope 扩展,把上下文窗口拉到了 约 100 万 tokens

  • 原生架构是 262k

  • 现在直接 4×,写死在配置里,加载即用

这直接解锁了几件原来很麻烦的事:

  • 整仓代码丢进去做推理

  • 十几篇论文 + 笔记 + 草稿一次性塞进 prompt

  • Agent 多轮工具调用的长轨迹,持续保留上下文不失忆

配合它的推理风格,你可以尝试一件以前比较难玩的事:

把重度 RAG 缩一半,把更多精力交给“超长上下文 + 工具自纠错”。


它更适合作什么?

站在开发者视角,我觉得它特别适合做这三类项目的“推理引擎”:

  • 带工具的 RAG Agent / 知识库助手

  • 代码库级别分析 / 重构建议 / bug 定位

  • 生物医药 / 网络安全 / 高专业度技术顾问(前提是有工具和人类复核)

一句话概括它的定位:

它不像一个“会聊天的大模型”,更像一个“挂在你显卡上的思考型顾问”。


要注意的现实点

最后讲几句不那么标题党的提醒:

  • 它是推理模型<think> 会很长,接口层最好做解析和截断

  • 不适合贪婪/超低温采样:容易在长链推理里转圈

  • 高度不审查的:做 C 端一定要加自己的安全层

  • 精确标识符(CVE、剂量、位点等)请让它配合检索或工具,而不是当成真理本体


总结一句话

如果你只想找一个“会聊天”的大模型,那它不是最优解。
但如果你在做:

  • RAG / Agent / 工具链

  • 代码库 / 多文档 / 长上下文推理

  • 想在本地体验尽可能接近 Claude Mythos / Fable 的“思维链体验”

那我会非常建议你认真试试 Qwythos-9B——
这是目前少数真的有“Claude 味道”的开源 9B 推理模型之一。

如果你觉得这篇文章对你有帮助,也欢迎给我一个三连击:点赞、转发和在看;如果可以,再帮我点一个⭐️。谢谢你看到这里,我们下篇再见。

AI 时代程序员必备技能

Codex、Claude Code、Cursor、Hermes Agent、OpenClaw等工程化实战专栏 ,讲透 AI 如何接管脏活累活

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

X.AI666

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值