Ollama服务配置

SmallThinker-3B-Preview

SmallThinker-3B-preview,这是一个从 Qwen2.5-3b-Instruct 模型微调而来的新模型。

一:支持远程访问

sudo gedit /etc/systemd/system/ollama.service

添加 

Environment="OLLAMA_HOST=0.0.0.0:11434" //0.0.0.0的设置将允许远程访问

Environment="OLLAMA_ORIGINS=*" //允许所有来源的请求

然后输入:

sudo systemctl daemon-reload

sudo systemctl restart ollama

注:

这两个参数请根据自己的实际情况修改,

Environment="OLLAMA_HOST=0.0.0.0"

Environment="OLLAMA_ORIGINS=*"

如果你希望 Ollama 服务仅限于本机访问,可以设置如下:

Environment="OLLAMA_HOST=127.0.0.1"

Environment="OLLAMA_ORIGINS=http://localhost"

如果你希望 Ollama 服务只能被特定 IP 地址访问,可以设置如下

Environment="OLLAMA_HOST=192.168.1.100"

Environment="OLLAMA_ORIGINS=http://192.168.1.100"

如果你希望 Ollama 服务支持多个来源的请求,可以设置如下:

Environment="OLLAMA_HOST=0.0.0.0"

Environment="OLLAMA_ORIGINS=http://example.com,http://another-domain.com"

二:验证 

在其他电脑的浏览器上输入对应的ip:端口,正常运行的话,就会显示如下:

您可能感兴趣的与本文相关的镜像

SmallThinker-3B-Preview

SmallThinker-3B-Preview

文本生成
Ollama
Qwen

SmallThinker-3B-preview,这是一个从 Qwen2.5-3b-Instruct 模型微调而来的新模型。

适用人群所有大模型的研究人员、开发人员、项目管理者、公司决策者、技术前沿发烧友课程概述【Ollama是什么?】       这是一个功能丰富且强大的开源大型语言模型服务,旨在为用户提供类似 OpenAI 的 API 接口和聊天界面,以便更轻松地部署和使用最新版本的 GPT 模型。开发者能够在各种场景中轻松集成和使用大模型。 还支持热加载模型文件,轻松切换不同的模型,以满足不同的应用场景和需求。       Ollama开源大型语言模型服务为开发者提供了一个功能强大、易于使用且高度可定制的平台,有助于加速人工智能在各个领域中的应用和创新。【课程内容】:1、大型模型技术,包括语通义千问qwen、智谱清言chatglm-6b等。2、实践导向:课程注重实践,通过大量的实例和项目案例,帮助学习者将理论知识转化为实际应用能力。您将有机会参与到真实的项目中,动手构建和训练私有化大型模型,从而深入理解其原理和应用。3、灵活的学习方式:课程采用在线学习模式,学习者可以根据自己的时间和节奏进行学习,无需受到地点和时间的限制。这种灵活的学习方式使您可以充分利用碎片化的时间,随时随地都能够进行学习。4、专业团队支持:课程由一支资深的人工智能专家团队开发和指导,拥有丰富的实践经验和教学经验,能够为学习者提供专业的指导和支持,确保学习效果。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值