零基础玩转ATK-DLRK3588：用DeepSeek-1.5B搭建个人AI助手指南（含避坑清单）

零基础玩转ATK-DLRK3588：用DeepSeek-1.5B搭建个人AI助手指南（含避坑清单）

最近身边不少创客朋友和嵌入式爱好者都在讨论一个话题：能不能在几百块钱的开发板上跑起来一个真正能用的AI大模型？不是那种玩具级别的语音识别，而是能写诗、能解题、能聊天的智能助手。我刚开始也觉得这想法有点天方夜谭，毕竟大模型动辄几十GB的内存需求，怎么想都和嵌入式设备不搭边。

但当我拿到正点原子的ATK-DLRK3588开发板，并成功在上面部署了DeepSeek-R1-1.5B模型后，这个想法彻底改变了。整个过程虽然踩了不少坑，但最终的效果确实让人惊喜——一个巴掌大的板子，插上电就能和你进行有逻辑的对话，还能帮你解决一些实际问题。更重要的是，整个过程完全离线，数据隐私有保障，功耗也只有十几瓦，这才是真正的“边缘智能”。

如果你也是嵌入式AI的入门者，或者想给自己的智能家居、教育机器人项目增加一个“大脑”，那么这篇文章就是为你准备的。我会从最基础的准备工作开始，一步步带你完成整个部署流程，更重要的是，我会把过程中遇到的所有坑都列出来，让你少走弯路。不用担心自己是零基础，只要你会基本的Linux命令行操作，跟着做就能成功。

1. 环境准备：从零搭建你的AI工作站

在开始部署之前，我们需要先准备好两个环境：一个是用于模型转换的PC端环境，另一个是开发板本身的运行环境。很多人一开始就卡在了环境配置上，其实只要理清思路，这部分并不复杂。

1.1 PC端环境搭建：避开conda的版本陷阱

模型转换需要在x86架构的PC上进行，推荐使用Ubuntu 20.04或22.04系统。这里第一个坑就来了：Python版本的选择。RKLLM-Toolkit目前对Python 3.8的支持最稳定，但很多新手会直接安装最新版的Python 3.10或3.11，结果在后续步骤中遇到各种奇怪的兼容性问题。

我建议使用Miniconda来管理Python环境，这样可以为不同的项目创建独立的环境，避免依赖冲突。下面是具体的安装步骤：

# 下载Miniconda安装脚本
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh

# 添加执行权限并安装
chmod +x Miniconda3-latest-Linux-x86_64.sh
./Miniconda3-latest-Linux-x86_64.sh

# 安装过程中按照提示操作，建议安装在用户目录下
# 安装完成后重启终端或执行以下命令激活conda
source ~/.bashrc

安装完成后，创建一个专门用于模型转换的conda环境：

# 创建名为RKLLM-Toolkit的环境，指定Python 3.8
conda create -n RKLLM-Toolkit python=3.8

# 激活环境
conda activate RKLLM-Toolkit

注意：有些教程会推荐使用Anaconda，但对于这个项目来说，Miniconda更加轻量，安装速度也更快。如果你已经安装了Anaconda，也可以直接使用，但要注意Python版本必须是3.8。

环境激活后，你应该能在命令行提示符前看到(RKLLM-Toolkit)的字样，这表示你已经进入了正确的环境。接下来需要安装一些基础工具：

# 更新pip并安装必要工具
pip install --upgrade pip
pip install wheel setuptools

1.2 开发板系统准备：选择正确的镜像版本

ATK-DLRK3588开发板支持多种系统镜像，但为了确保DeepSeek模型能够正常运行，必须使用R8版本的Buildroot系统。这是很多人在第一步就失败的原因——用了错误的系统镜像。

你可以从正点原子的资料盘中找到这个镜像文件，路径通常是：

开发板光盘A盘/基础资料/01、系统镜像/01、出厂系统镜像/atk-dlrk3588_r8_20250120.img

烧录镜像到SD卡或eMMC的步骤：

1. 准备工具：下载balenaEtcher或Rufus等镜像烧录工具
2. 插入存储设备：准备一张至少16GB的TF卡或使用开发板的eMMC
3. 选择镜像文件：在工具中选择刚才找到的.img文件
4. 选择目标设备：确保选择了正确的存储设备
5. 开始烧录：这个过程可能需要10-20分钟，取决于你的存储设备速度

烧录完成后，将存储设备插入开发板，连接电源、显示器、键盘鼠标，启动系统。第一次启动可能会比较慢，系统需要完成初始化配置。

1.3 网络与远程连接配置

为了方便后续的文件传输和远程操作，我强烈建议配置开发板的网络连接和SSH服务。开发板启动后，通过HDMI连接显示器，进入系统后：

# 查看网络接口
ip addr show

# 如果有线网络自动获取IP失败，可以尝试手动配置
sudo vi /etc/network/interfaces

在文件中添加（根据你的网络环境调整）：

auto eth0
iface eth0 inet static
address 192.168.1.100
netmask 255.255.255.0
gateway 192.168.1.1
dns-nameservers 8.8.8.8

保存后重启网络服务：

sudo systemctl restart networking

接下来启用SSH服务，这样我们就可以从PC端远程登录开发板了：

# 安装openssh-server（如果尚未安装）
sudo apt update
sudo apt install openssh-server -y

# 启动SSH服务
sudo systemctl start ssh
sudo systemctl enable ssh

# 检查服务状态
sudo systemctl status ssh

现在你可以从PC端使用SSH连接到开发板了：

ssh root@192.168.1.100

默认密码通常是root或123456，具体请参考开发板手册。

2. 模型获取与转换：从HuggingFace到RKLLM格式

这是整个流程中最关键也最容易出错的环节。DeepSeek-R1模型需要从HuggingFace下载，然后转换成RK3588专用的RKLLM格式。国内用户在这一步经常会遇到网络问题，我会提供多种解决方案。

2.1 模型下载：绕过网络限制的实用技巧

DeepSeek-R1有两个版本可供选择：1.5B参数版本和7B参数版本。对于ATK-DLRK3588开发板，我建议从1.5B版本开始，因为它在4GB内存的版本上就能流畅运行。7B版本需要8GB或更高内存，并且需要创建交换分区。

方案一：使用HuggingFace官方工具（需要科学上网环境）

如果你有稳定的国际网络访问，这是最直接的方法：

# 确保在之前创建的conda环境中
conda activate RKLLM-Toolkit

# 安装huggingface-cli
pip install huggingface-hub

# 创建模型保存目录
mkdir -p ~/models/deepseek-r1-1.5b
cd ~/models/deepseek-r1-1.5b

# 下载模型（注意：需要约3GB磁盘空间）
huggingface-cli download deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B --local-dir . --local-dir-use-symlinks False

方案二：使用国内镜像源（推荐给大多数用户）

对于国内用户，直接访问HuggingFace往往速度很慢甚至无法连接。这时候可以使用国内镜像：

# 设置环境变量使用国内镜像
export HF_ENDPOINT=https://hf-mirror.com

# 然后执行下载命令
huggingface-cli download deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B --local-dir . --local-dir-use-symlinks False

方案三：手动下载（最稳妥的方法）

如果上述方法都失败，你可以直接在浏览器中访问HuggingFace的DeepSeek模型页面，手动下载所有文件。需要下载的文件包括：

• config.json
• generation_config.json
• model.safetensors.index.json
• model-00001-of-00002.safetensors
• model-00002-of-00002.safetensors
• tokenizer.json
• tokenizer_config.json

下载完成后，将这些文件放到同一个目录中，比如~/models/deepseek-r1-1.5b/。

避坑提示：下载过程中如果中断，可以使用--resume-download参数继续下载。另外，确保磁盘空间充足，1.5B模型需要约3GB，7B模型需要约14GB（转换前）。

2.2 RKLLM-Toolkit安装：注意依赖项兼容性

RKLLM-Toolkit是瑞芯微提供的模型转换工具，它能够将HuggingFace格式的模型转换成RK3588 NPU能够识别的RKLLM格式。安装过程有几个细节需要注意。

首先，你需要从正点原子的资料盘中获取RKLLM-Toolkit的安装包，路径通常是：

开发板光盘C盘/大模型资料/2、工具软件/rknn-llm-release-v1.1.4.zip

将压缩包解压到合适的位置，我建议放在用户目录下：

# 创建软件目录
mkdir -p ~/software/rkllm
cd ~/software/rkllm

# 解压工具包（假设压缩包已复制到当前目录）
unzip rknn-llm-release-v1.1.4.zip

# 进入工具目录
cd rknn-llm-release-v1.1.4/rkllm-toolkit/packages

现在安装RKLLM-Toolkit的Python包：

# 确保在正确的conda环境中
conda activate RKLLM-Toolkit

# 安装whl包
pip install rkllm_toolkit-1.1.4-cp38-cp38-linux_x86_64.whl

安装完成后，验证是否安装成功：

python -c "import rkllm; print('RKLLM Toolkit version:', rkllm.__