小龙虾 (OpenClaw) 联合 Ollama 本地离线部署完整教程(含踩坑解决)

AI 时代程序员必备技能

Codex、Claude Code、Cursor、Hermes Agent、OpenClaw等工程化实战专栏 ,讲透 AI 如何接管脏活累活

小龙虾 (OpenClaw) 联合 Ollama 本地离线部署完整教程(含踩坑解决)

部署环境说明

1. 系统环境

  • 操作系统:Ubuntu 24.04.4 LTS
  • 内核版本:6.17.0-23-generic
  • 系统架构:x86_64

2. 硬件配置

  • CPU:Intel Core i7-10700 @ 2.90GHz(8核16线程)
  • 内存:31Gi
  • 交换分区:8.0Gi
  • 显卡:双路 NVIDIA RTX 3090 24G
  • NVIDIA 驱动版本:580.126.09
  • 支持 CUDA 版本:13.0

3. 部署模式

  • 网络环境:内网离线部署,全程无需公网
  • 模型依赖:基于本地 Ollama 运行大模型,为 OpenClaw 提供离线 LLM 推理能力

一、初始部署(仅第一次联网做一次)

1. 系统依赖

sudo apt update && sudo apt install -y curl git build-essential lsof

2. Node.js + pnpm

curl -fsSL https://deb.nodesource.com/setup_22.x | sudo bash -
sudo apt install -y nodejs
sudo npm install -g pnpm

3. CUDA 12.8(必须 12.8,3090 专用)

wget https://developer.download.nvidia.com/compute/cuda/12.8.0/local_installers/cuda_12.8.0_570.86.10_linux.run
sudo sh cuda_12.8.0_570.86.10_linux.run --toolkit --silent --override
sudo ln -sf /usr/local/cuda-12.8 /usr/local/cuda
sudo ldconfig

4. Ollama 安装 + 拉取 Qwen3-Coder:30b

curl -fsSL https://ollama.com/install.sh | sh
ollama pull qwen3-coder:30b

5. OpenClaw-CN 部署

cd ~
git clone https://github.com/openclaw/openclaw-cn.git
cd openclaw-cn/openclaw-cn/openclaw-cn
pnpm install
pnpm build

6. 核心配置文件

mkdir -p ~/.openclaw
cat > ~/.openclaw/openclaw.json << 'EOF'
{
  "meta": {
    "lastTouchedVersion": "2026.2.23-cn",
    "lastTouchedAt": "2026-04-06T08:03:44.222Z"
  },
  "models": {
    "providers": {
      "ollama": {
        "baseUrl": "http://127.0.0.1:11434",
        "apiKey": "not-needed",
        "models": [
          {
            "id": "qwen3-coder:30b",
            "name": "Qwen3-Coder 30B"
          }
        ]
      }
    }
  },
  "agents": {
    "defaults": {
      "model": "ollama/qwen3-coder:30b"
    }
  },
  "commands": {
    "native": "auto",
    "nativeSkills": "auto",
    "restart": true,
    "ownerDisplay": "raw"
  },
  "gateway": {
    "port": 18789,
    "mode": "local",
    "bind": "lan",
    "controlUi": {
      "dangerouslyAllowHostHeaderOriginFallback": true
    },
    "auth": {
      "mode": "token",
      "token": "ds123456"
    }
  }
}
EOF

二、关机重启后 固定开机 4 步(每次都一样)

第一步:进入目录(必须)

cd ~/openclaw-cn/openclaw-cn/openclaw-cn

第二步:开启离线模式

export OPENCLAW_OFFLINE=true

第三步:启动网关(保持此终端开着)

pnpm openclaw gateway --force

看到:Gateway started on ws://127.0.0.1:18789 即成功

第四步:新开终端 → 启动 TUI 界面

cd ~/openclaw-cn/openclaw-cn/openclaw-cn
export OPENCLAW_OFFLINE=true
pnpm openclaw tui

✅ 完成!可直接对话


三、环境关键信息

  • 模型:ollama/qwen3-coder:30b
  • 路径:~/openclaw-cn/openclaw-cn/openclaw-cn
  • 画图:ComfyUI + flux_workflow0.json
  • 端口:OpenClaw 18789,ComfyUI 8188
  • 启动:必须 export OPENCLAW_OFFLINE=true
  • PPT 生成:自动调用本地图片,不联网

四、常见问题及解决方法

现象解决方法
Ollama 只检测到 CPU,找不到 GPU1. 卸载 CUDA 13,安装 CUDA 12.8(只装 Toolkit)
2. sudo ln -sf /usr/local/cuda-12.8 /usr/local/cuda
3. export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
Gateway start blocked: set gateway.mode=local~/.openclaw/openclaw.jsongateway 部分添加:"mode": "local"
WebSocket 连接报 token_mismatch设置 "auth": { "mode": "none" } 或使用 token:OPENCLAW_GATEWAY_TOKEN=xxx pnpm openclaw tui
TUI 提示 No API key for provider "anthropic"配置默认模型:"agents": { "defaults": { "model": "ollama/qwen3-coder:30b" } }
端口 18789 被占用pkill -f openclawsystemctl --user stop openclaw-gateway.servicesudo lsof -i :18789
网关不断重启 (Failed with result ‘signal’)查看日志:journalctl --user -u openclaw-gateway.service -n 50;检查 JSON 语法;删除 ~/.openclaw/agents
ollama run 正常但 TUI 显示 disconnected检查网关状态和认证配置;改用 Web 控制台 http://127.0.0.1:18789
内网其他设备无法访问SSH 隧道:ssh -L 18789:localhost:18789 用户名@服务器IP,然后本地浏览器访问 http://localhost:18789
模型生成图片报错Qwen 2.5 是纯文本模型,需另部署图像生成模型(如 Stable Diffusion 或 Qwen-Image-2.0)

AI 时代程序员必备技能

Codex、Claude Code、Cursor、Hermes Agent、OpenClaw等工程化实战专栏 ,讲透 AI 如何接管脏活累活

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值