初学VSCode里添加Continue - AI code agent 通过Ollama使用开源模型

SmallThinker-3B-Preview

SmallThinker-3B-preview,这是一个从 Qwen2.5-3b-Instruct 模型微调而来的新模型。

前言

2025年程序开发感觉有翻天覆地的变化,各种AI和IDE工具都在集成。以前只能通过web的chat方式来让AI写代码,现在可以直接在IDE里进行了。

IDE开发环境

我平时维护代码多,维护各种工具软件。习惯了使用vs2022,他带了一个Github Copilot聊天,但是感觉用起来优点不趁手。

VS2022

在这里插入图片描述

VSCode

装了VSCode,发现可以登录github或者openai使用更好的模型,并且可以直接分析项目和ai自动修改代码。

在这里插入图片描述
github配合很快就用光了。
Codex的不知道什么时候用光。

就很好奇是否可以架设开源模型来使用vscode呢?
当然开源模型是比不上商业模型的,但是至少应急可以使用。

Ollama介绍和安装

Ollama​ 是一个开源的本地大模型部署与运行工具,主打 “一键启动、开箱即用”。它允许用户在个人电脑(支持 macOS、Linux 和 Windows)上,轻松下载和运行多种开源大型语言模型,而无需复杂的配置或依赖云端服务。
在这里插入图片描述
安装好后就可以直接使用了,可以作为服务端。
在这里插入图片描述
设置这里应该要打开network允许。
当然这个软件如果跑模型会很吃显卡和内存的。

想安装那个模型就可以直接选择一个模型发送一个随便的消息,他会自己下载的。

这样Ollama就安装好了。

Continue

安装

我们来到vscode,在扩展程序里搜索continue并安装。
在这里插入图片描述

设置

安装好了后我们进行config配置:

在这里插入图片描述

name: Local Config
version: 1.0.0
schema: v1
models:
  - name: Remote Ollama
    provider: ollama
    model: AUTODETECT
    apiBase: http://192.168.3.28:11434
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use

  - name: GPT_Cloud
    provider: openai  
    model: gpt-4.1-mini
    apiKey: sk-proj-jH3K5Kxxxx- xxxx
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use

context:
  - provider: file
  - provider: code
  - provider: currentFile
  - provider: search
  - provider: diff
  - provider: terminal
  - provider: repo-map

ollama的配置部分,我们如果是远程的可以添加一个apiBase来指向就可以,删除就会自动从本地找。

另外Continue还可以加入其他商业的apiKey来使用。

测试使用

在这里插入图片描述
果然这模型真不行,C#代码都翻译成py了。哈哈
在这里插入图片描述
在这里插入图片描述

性能

这样就可以使用了,我们可以来到Ollama看下占用情况:
在这里插入图片描述
能看到qwen-coder:30b大概占用了19G显存,AI真是吃显存大户。

很多东西还不智能,不会直接修改代码等,可能Agent下工具调用不稳定,也可能是配置问题。后面再慢慢研究吧。

本文重点是Continue连接Ollama使用基本完成。

您可能感兴趣的与本文相关的镜像

SmallThinker-3B-Preview

SmallThinker-3B-Preview

文本生成
Ollama
Qwen

SmallThinker-3B-preview,这是一个从 Qwen2.5-3b-Instruct 模型微调而来的新模型。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Thinbug

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值