Intel集显（Core Ultra 7 258V）启用GPU加速跑大模型

#Deepseek #Ollama #Miniforge3 #LLM

省略了Ollama，Miniforge3或Anaconda3的安装
安装之后设置系统PATH环境变量：

E:\ANACONDA
E:\ANACONDA\Scripts
E:\ANACONDA\Library\mingw-w64\bin
E:\ANACONDA\Library\bin

第一：

conda config --show

#改变envs地址：C:\Users\your_name\.condarc，增加：

envs_dirs:
  - E:\AI\Miniforge3_25\envs
  - E://AI//Miniforge3_25//envs

第二：

conda create -n llm python=3.12 libuv
conda info --envs #查看conda环境
conda activate llm
pip install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/xpu

第三：

pip install --pre --upgrade ipex-llm[xpu_lnl] --extra-index-url https://pytorch-extension.intel.com/release-whl/stable/lnl/cn/
pip install --pre --upgrade ipex-llm[cpp]  

#这一步可能会出错，不过不要紧，官方下载【ollama-0.5.4-ipex-llm-2.2.0b20250220-win】
#官方地址：https://github.com/intel/ipex-llm?tab=readme-ov-file，下载点链接Ollama Portable Zip进去即可下载

btw：验证加速

import torch
print(torch.xpu.is_available())

第四部：
运行

ollama-serve.bat