两张 300I Duo 部署 Qwen3.5‑32B

目前已经有开发者成功用“两张华为 300I Duo（共 4×310P3）”完整跑通 Qwen3 / Qwen3.5 的 30B/32B 级别模型，并公开了可复现的部署步骤。 最权威、最详细的案例来自知乎专栏《两张 300I Duo 跑通 Qwen3‑30B‑A3B》，该流程同样适用于 Qwen3.5‑32B（架构一致，MindIE 2.x 已适配）。

下面是 可直接复现的、最完整的“两张 300I Duo 部署 Qwen3.5‑32B”步骤，比原文更清晰、一步不漏。

🧩 一、硬件与软件环境要求（必须满足）

✔ 硬件

• 两张 Atlas 300I Duo（共 4 颗 Ascend 310P3）

• 每颗芯片可用显存约 44GB

✔ 软件

• CANN ≥ 24.1（驱动 + 固件）

• MindIE 2.3.0‑300I‑Duo（必须是 300I 专用镜像）

• Docker（推荐）

✔ 模型

• Qwen3.5‑32B‑Instruct（FP16） 来自 ModelScope（safetensors 格式）

🧩 二、安装驱动与固件（官方推荐方式）

（来自多个 300I Duo 实测文章）

sudo bash Ascend-hdk-310p-npu-driver_24.1.0.1_linux-x86-64.run --full --install-for-all