Windows10 WSL2实战：Dify 1.9与Ollama离线模型部署及高版本推理问题调优

1. 为什么要在Windows10上折腾Dify和Ollama？

如果你和我一样，是个喜欢在本地“捣鼓”AI模型的开发者或爱好者，那么这套组合拳对你来说可能是个宝藏。在云端调用API固然方便，但成本、隐私和网络延迟总是让人心里不踏实。把一切都部署在自己的电脑上，那种“一切尽在掌握”的感觉，是云服务给不了的。

Dify，你可以把它想象成一个“AI应用乐高工厂”。它提供了一个可视化的界面，让你不用写太多代码，就能通过拖拽组件的方式，快速搭建出基于大语言模型的应用，比如智能客服、文档分析助手或者创意写作工具。它帮你处理了背后复杂的流程编排、知识库管理（RAG）和模型调度，你只需要关心业务逻辑就行。

Ollama，则是你的“本地模型管家”。它让在本地运行各种开源大模型（比如通义千问、Llama、Qwen等）变得像安装一个软件一样简单。一条命令就能拉取模型，再一条命令就能启动一个API服务，完美避开了复杂的Python环境配置和CUDA版本地狱。

而Windows10 WSL2，就是我们这次的主战场。它本质上是在Windows里跑了一个完整的Linux子系统，让你既能享受Windows的便利桌面环境，又能获得Linux下强大的命令行和开发工具链，尤其是对Docker的原生支持。这相当于在Windows上开辟了一块“Linux实验田”，完美解决了在纯Windows环境下部署这类开源项目时可能遇到的各种路径、权限和依赖问题。

所以，这套方案的核心价值就是：在你最熟悉的Windows系统里，用最低的成本和门槛，搭建一个完全私有、可控、功能强大的AI应用开发与运行平台。 接下来，我就带你一步步走通这条路，并重点解决两个最可能让你“卡壳”的深水区问题。

2. 搭建舞台：WSL2与Docker环境准备

工欲善其事，必先利其器。在开始部署Dify之前，我们需要确保舞台是稳固的。这一步看似基础，但却是后续所有操作顺利进行的基石。

2.1 启用并配置WSL2

首先，确认你的Windows10版本。你需要Windows 10版本 2004 及更高版本（内部版本 19041 及以上）。在PowerShell（以管理员身份运行）中，执行以下命令来启用WSL和虚拟机平台功能：

# 启用适用于 Linux 的 Windows 子系统
dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart

# 启用虚拟机平台
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart

执行完成后，重启你的电脑。这个重启是必须的，否则后续步骤可能会失败。

重启后，再次打开PowerShell（管理员），将WSL的默认版本设置为2：

wsl --set-default-version 2

接下来，我们需要安装一个Linux发行版。微软商店里有很多选择，对于我们的AI部署场景，我强烈推荐Ubuntu 22.04 LTS。它社区支持好，软件包丰富，和Dify的官方文档兼容性也最佳。打开微软商店，搜索“Ubuntu 22.04 LTS”并安装。

安装完成后，从开始菜单启动Ubuntu。第一次启动会需要几分钟来初始化，并让你设置一个用户名和密码。这个密码在后续使用sudo命令时会经常用到，请务必记住。这里设置的用户名，我建议用简单易记的英文，比如你的名字拼音，避免特殊字符。

安装好Ubuntu后，我们可以在PowerShell里查看一下WSL的状态：

wsl -l -v

你应该能看到类似下面的输出，确认你的Ubuntu发行版正在使用WSL2：

  NAME            STATE           VERSION
* Ubuntu-22.04    Running         2

2.2 在WSL2中安装Docker

Dify是使用Docker Compose来部署的，所以我们需要在WSL2的Ubuntu系统里安装Docker引擎。别担心，过程比在纯Windows上安装Docker Desktop要清爽得多。

打开你的Ubuntu终端，依次执行以下命令：

# 1. 更新软件包索引
sudo apt update

# 2. 安装必要的依赖包，以便让apt可以通过HTTPS使用仓库
sudo apt install -y ca-certificates curl gnupg lsb-release

# 3. 添加Docker的官方GPG密钥
sudo mkdir -p /etc/apt/keyrings
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg

# 4. 设置Docker的稳定版仓库
echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

# 5. 再次更新软件包索引（这次会包含Docker仓库）
sudo apt update

# 6. 安装Docker引擎、命令行工具、containerd和Docker Compose插件
sudo apt install -y docker-ce docker-ce-cli containerd.io docker-compose-plugin

# 7. 验证Docker Compose插件是否安装成功
docker compose version

如果最后一条命令输出了Docker Compose的版本号（比如 v2.24.0），说明安装成功。

接下来还有一个关键操作：将你的当前用户添加到docker用户组，这样以后运行Docker命令就不需要每次都加sudo了，能省去很多麻烦。

# 将当前用户加入docker组
sudo usermod -aG