Ollama局域网共享大模型实战:从单机到多设备的配置全攻略
在AI应用开发领域,本地部署的大模型正成为团队协作的重要工具。Ollama作为轻量级的大模型运行框架,默认仅支持本机访问,这给团队协作带来了不便。本文将深入探讨如何安全高效地在局域网内共享Ollama服务,实现多设备协同开发。
1. 理解Ollama的网络访问机制
Ollama默认监听127.0.0.1:11434端口,这种设计确保了基础安全性,但也限制了多设备协作的可能性。要突破这一限制,我们需要理解几个关键概念:
- 绑定地址:服务监听的网络接口
- 跨域访问:浏览器安全策略对API调用的限制
- 环境变量:系统级别的配置参数
典型问题现象:
# 本机访问正常
curl http://127.0.0.1:11434/api/tags
# 局域网访问失败
curl http://192.168.1.100:11434/api/tags
> Server connection failed
2. 跨平台环境变量配置
不同操作系统对环境变量的管理方式各异,下面分别介绍三大平台的配置方法。
2.1 macOS系统配置
永久生效配置(推荐):
# 编辑shell配置文件
vim ~/.zshrc
# 添加以下内容
export OLLAMA_HOST="0.0.0.0"
export OLLAMA_ORIGINS="*"
# 使配置生效
source ~/.zshrc
临时配置(调试用):
launchctl setenv OLLAMA_HOST "0.0.0.0"
l


9990

被折叠的 条评论
为什么被折叠?



