【实践篇】ChatGLM3-6B AI大模型的部署、微调训练智能客服

视频介绍更加详细，包含数据集、微调命令的下载。

从0到1一步步学会ChatGLM3-6B的部署和微调：

ChatGLM3-6B的安装部署、微调、训练智能客服_哔哩哔哩_bilibili

1 下载安装

1.1 下载推理代码（运行AI大模型使用）

GitHub地址：https://github.com/THUDM/ChatGLM3

git clone https://github.com/THUDM/ChatGLM3.git

1.2 下载模型文件

魔塔地址：https://modelscope.cn/models/ZhipuAI/chatglm3-6b/summary

git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git

1.3 下载微调代码LLaMaFactory（微调AI大模型使用）

https://github.com/hiyouga/LLaMA-Factory

​git clone https://github.com/hiyouga/LLaMA-Factory.git

1.4 下载API运行方式的向量模型

git clone https://www.modelscope.cn/xrunda/m3e-base.git

2 配置

2.1 修改ChatGLM的AI大模型地址

修改/mnt/workspace/apps/ChatGLM3/basic_demo/cli_demo.py，将默认的THUDM/chatglm3-6b修改为你的模型地址，比如我的是/mnt/workspace/models/chatglm3-6b