本文详细介绍了如何在特定硬件和软件环境下下载、安装和运行ChatGLM3模型，包括从GitHub克隆源码、安装依赖、下载模型（Huggingface、ModelScope、SwanHub）、以及提供命令行和网页对话示例，以及使用CodeInterpreter进行复杂任务的代码解释器聊天示例。
文章目录
1、环境要求
1.1、硬件环境
- 最低要求：
内存：>= 8GB
显存: >= 5GB（1060 6GB,2060 6GB）
- 流畅运行FP16版本的，最低的配置要求：
内存：>= 16GB
显存：>= 13GB（4080 16GB）
1.2、软件环境
Python环境
python 版本推荐3.10 - 3.11
transformers 库版本推荐为 4.36.2
torch 推荐使用 2.0 及以上的版本，以获得最佳的推理性能
2、下载模型运行源码
2.1、从 github 下载源码
cd /mnt/d/project/python
git clone https://github.com/THUDM/ChatGLM3.git
2.2、安装依赖
cd /mnt/d/project/python/ChatGLM3
pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/
3、下载模型
可以从Huggingface, Modelsope, SwanHub三个平台下载模型。
- 若使用 Huggingface 下载模型
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
