避坑指南：Dify+Docker+Ollama离线部署实战与疑难解析

原创

于 2026-03-10 00:41:34 发布 · 429 阅读

1. 为什么要在国产化系统上离线部署AI全家桶？

最近有好几个朋友跑来问我，说公司项目要求在内网环境，甚至是国产化操作系统上，搭建一套能跑大模型的AI应用开发平台。他们一开始觉得，不就是装个Docker，拉几个镜像嘛，能有多难？结果一上手，各种报错扑面而来，什么“没有Release文件”、“GPG密钥错误”，直接卡在第一步，连Docker都装不上，更别提后面的Dify和Ollama了。

这其实就是我们今天要聊的核心场景：在一个没有外网连接，或者网络管控极其严格的内部环境里，如何在像银河麒麟V10这样的国产操作系统上，从零开始，把Dify（低代码AI应用开发平台）、Docker（容器引擎）和Ollama（本地大模型运行框架）这一整套东西给跑起来。这不仅仅是个安装教程，更像是一次“排雷”行动。因为离线环境意味着你没法随时apt-get update或者docker pull，所有依赖、所有镜像、所有配置，都得提前准备好，一步错可能就得从头再来。

我花了差不多一周时间，在几台不同配置的麒麟V10机器上反复折腾，把能踩的坑几乎都踩了一遍。这篇文章，我就把我实战下来的完整流程、遇到的典型报错以及最有效的解决方案，毫无保留地分享给你。目标很明确：让你照着做，就能在自己的内网机器上，成功搭建起一个功能完整的AI应用开发栈，避开我当初那些令人头疼的弯路。

2. 战前准备：理清依赖与备齐弹药

打仗之前，得先清点粮草。离线部署最大的特点就是“自给自足”，所有需要从互联网获取的东西，都必须提前下载到本地。千万别等到执行命令报错了，才发现少了个包，那时候再找U盘拷贝就麻烦了。

首先，你需要一台安装好银河麒麟V10 SP1（或其他版本，本文以SP1为例）的物理机或虚拟机。确保你有sudo权限。我们的部署逻辑链条是这样的：

基础层：Docker。这是所有服务的容器运行环境，必须先搞定。
中间层：Ollama。负责在本地拉取和运行开源大模型，为Dify提供AI能力。
应用层：Dify。基于Docker Compose运行，提供一个Web界面，让你能通过拖拽等方式，快速构建基于大模型的AI应用。

那么，我们需要提前下载哪些“弹药”呢？我列了个清单：

Docker 安装包与镜像：虽然麒麟V10的软件源里可能有老版本的Docker，但我们通常需要更新、更稳定的版本。因此需要准备Docker官方提供的.deb安装包（docker-ce, docker-ce-cli, containerd.io, docker-compose-plugin等），或者更推荐的方式——准备一个包含了所有必需镜像的离线包。
Dify 离线安装包：这是核心。你需要从Dify的GitHub Releases页面，找到对应版本的离线安装包（通常是一个.tar.gz压缩包，里面包含了Dify的所有Docker镜像和部署脚本）。由于原始资料中提到了网盘链接，这里强调：请务必从Dify官方GitHub仓库或可信渠道获取最新版本的离线包，以确保安全性和兼容性。
Ollama 二进制文件：Ollama提供了Linux版本的静态链接二进制文件，可以直接下载备用。
大模型文件：这是“弹药”里的“炮弹”。比如你想用deepseek-r1:32b、qwen2.5:7b或llama3.2等模型，需要提前从能联网的机器上，通过Ollama拉取（ollama pull），然后将其模型文件（通常位于~/.ollama/models目录）完整地拷贝到离线机器上。