在当今数据驱动的时代,快速部署和管理大模型成为企业的关键需求。
阿里云系统运维管理的公共扩展功能为您提供了一键部署OpenWebUI+Ollama的便捷方案,让您轻松实现本地大模型的运行和管理。当然,如果不想本地部署,您也可以连接阿里云百炼的各种在线模型,本文也将提供详细的解决方案!
部署OpenWebUI+Ollama
前提条件
- 您的ECS操作系统版本为以下之一:
- Ubuntu(20.04、22.04、24.04)
- CentOS(7.7、7.8、7.9)
- Alibaba Cloud Linux (2.1903 LTS、3.2104 LTS)
- Debian(12.5、12.6)
- OpenSUSE 15
- Fedora(38、39、40)
- Anolis OS(8.8、8.9)
- AlmaLinux(9.3、9.4、9.5)
- ECS实例必须处于运行中状态
- ECS实例必须要有公网
- 安全组入方向必须开启3000端口
安装步骤
- 阿里云系统运维管理控制台中找到OpenWebUI扩展 点击安装扩展程序
- 请选择想要安装到的ECS实例,并点击创建。
- 等待执行几分钟,安装完成后。点击输出->扩展信息。您可以在配置输出里面找到已安装好的OpenWebUI的Url(格式为 http://{ECS的公网ip}:3000)。
- 点击url链接,根据提示创建账号并登录即可。
注意
- 您需要确认安全组入方向3000端口已经开放,详情见附录1。
- 第一次登陆会比较慢,请在登陆后按照附录2说明,更改配置。下次登陆就会变快。
在Open WebUI部署本地大模型
当您登陆进入管理界面,您可以直接在对话界面搜索,想要本地部署的模型。本文以deepseek-r1:1.5b模型为例。点击从ollama官网拉取,等待模型下载部署完成后,就可以直接使用啦!您可以在ollama官网查看可供下载的大模型。
下载完成后,您可以选择模型并开始对话
更多信息可以参考OpenWebUI官方文档。
在Open WebUI连接阿里云百炼在线模型
如果说您的ECS性能无法满足本地运行要求,您也可以配置连接阿里云百炼的在线模型。
点击进入管理员面板:
添加阿里云百炼的连接
模型名称、URL、API KEY等信息,都可以在阿里云百炼的控制台找到。
保存好后,回到对话页面,您就可以找到刚才配置的模型,并开始对话了。
附录
1. 开启安全组3000端口的方法(详细说明请看官方文档):
进入实例详情页,点击安全组选项,并点击安全组名称
点击快速添加,新增需要开放的端口。这里请开放3000端口。
2. Open WebUI访问慢的问题
点击进入管理员面板,关闭OpenAI的连接(或者您可按需换成如阿里云百炼这种访问速度较快的外部API):