DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

最新推荐文章于 2025-03-23 19:47:29 发布

转载最新推荐文章于 2025-03-23 19:47:29 发布 · 121 阅读

本内容遵循CC 4.0 BY-SA版权协议

原文链接：https://mp.weixin.qq.com/s?__biz=MzUzMTA2NTU2Ng==&mid=2247607174&idx=2&sn=f05c971f90c8791181f0d0097e3c7d2f&chksm=fb8fc6199da9ad76fac7dbce0f69978de57c2f0029b4e0c33045f69620ac4b3e9ace9dacd22d&scene=126&sessionid=0

GEO检测

👉 这是一个或许对你有用的社群

🐱 一对一交流/面试小册/简历优化/求职解惑，欢迎加入「芋道快速开发平台」知识星球。下面是星球提供的部分资料：

《项目实战（视频）》：从书中学，往事上“练”
《互联网高频面试题》：面朝简历学习，春暖花开
《架构 x 系统设计》：摧枯拉朽，掌控面试高频场景题
《精进 Java 学习指南》：系统学习，互联网主流技术栈
《必读 Java 源码专栏》：知其然，知其所以然

👉这是一个或许对你有用的开源项目

国产 Star 破 10w+ 的开源项目，前端包括管理后台 + 微信小程序，后端支持单体和微服务架构。

功能涵盖 RBAC 权限、SaaS 多租户、数据权限、商城、支付、工作流、大屏报表、微信公众号、ERP、CRM、AI 大模型等等功能：

Boot 多模块架构：https://gitee.com/zhijiantianya/ruoyi-vue-pro
Cloud 微服务架构：https://gitee.com/zhijiantianya/yudao-cloud
视频教程：https://doc.iocoder.cn

【国内首批】支持 JDK 17/21 + SpringBoot 3.3、JDK 8/11 + Spring Boot 2.7 双版本

来源：blog.csdn.net/weixin_50776420

一、Ollama

下载 Ollama

https://ollama.com/

Ollama 是一个用于管理和部署机器学习模型的工具。
目前 Ollama 支持 macOS、Linux、Windows，选择相应的系统下载即可。

安装后运行软件，在任务栏确认在右上角出现这只小羊驼🦙 图标

选择模型

点击Search models 搜索框，第一条就是 deepseek-r1 模型。

这里我们发现了多个不同大小的模型，文件大小适配不同的设备

DeepSeek R1提供多个版本，参数量越大，模型通常越强大，但也需要更多的计算资源。

比如1.5B代表有15亿个参数。

借助网上大佬们整理的表格供大家参考，来确认你的电脑可以运行哪个模型：

运行模型

运行模型很简单：确定模型后，复制这条指令到终端里

当进度条跑满时，恭喜，你的电脑已经拥有了顶级的推理能力

使用 && 测试

这里我已经提前下好了，使用 ollama 提供的终端指令 ollama list 可以看我们电脑上已经部署了哪些模型，然后使用 ollama run 对应的模型就可以了

输入 /bye即可退出

ollama 命令查看

admin@admindeMacBook-Pro ~ % ollama
Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

Use "ollama [command] --help" for more information about a command.

虽然这里终端已经可以使用了，但是还是不太方便。

这里就有人要问博主了，你推荐的模型确实挺不错的，但是还是太吃操作了，有没有更加方便的使用方式呢？
有的兄弟有的，像更方便的使用方式那么就是 Chatbox

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序，支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

项目地址：https://github.com/YunaiV/ruoyi-vue-pro
视频教程：https://doc.iocoder.cn/video/

二、Chatbox

浏览器搜索 Chatbox 并下载客户端或者网页版都可以

1.设置语言为中文并保存

2.点击设置选择模型为 OLLAMA API

为了确保可以连接到本地服务，大家按照提供的教程设置一下，不同的操作系统设置不太一样，然后选择 R1模型并保存

3.连接到本地服务教程跳转

现在你就可以在浏览器/客户端上流畅的使用 R1 了。

创建你的专属 GPTs

点击我的搭档，创建搭档，给ai角色设定人格，你也可以选择现有的搭档，一个资深的行业专家就出现了。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序，支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

项目地址：https://github.com/YunaiV/yudao-cloud
视频教程：https://doc.iocoder.cn/video/

三、共勉

以上就是我对 DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具的理解，觉得这篇博客对你有帮助的，可以点赞收藏关注支持一波~

欢迎加入我的知识星球，全面提升技术能力。

👉 加入方式，“长按”或“扫描”下方二维码噢：

星球的内容包括：项目实战、面试招聘、源码解析、学习路线。

文章有帮助的话，在看，转发吧。
谢谢支持哟 (*^__^*）