最近deepseek火得一塌糊涂,官网访问总是提示:服务器繁忙,所以就考虑在本地服务器上部署一个版本玩玩。为便于以后复盘参考,在此总结成一篇部署实操文档。
首先查看确认我服务器的操作系统版本
[root@localhost ollama]# cat /etc/centos-release
CentOS Linux release 7.9.2009 (Core)
一、下载并安装ollama
1、国内高速下载ollama
curl -L https://test999.xzc888.top/ollama/ollama/releases/download/v0.5.11/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
最新稳定版的ollama是v0.5.11,大概1.5G左右,官网下载速度贼慢,这个国内镜像速度还可以。
2、安装ollama到/home/ollama目录下
[root@localhost ollama]# sudo tar -C /home/ollama -xzf ollama-linux-amd64.tgz
3、启动ollama
[root@localhost ollama]# ollama serve
4、查看ollama版本
[root@localhost ollama]# ollama -v
ollama version is 0.5.11
二、设置ollama为后台服务运行模式
1、为 Ollama 创建用户和组
[root@localhost ollama]# sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
[root@localhost ollama]# sudo usermod -a -G ollama $(whoami)
2、创建服务文件 :
[root@localhost ollama]# vi /etc/systemd/system/ollama.service
3、打开vi编辑器,并粘贴如下内容:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/home/ollama/bin/ollama serve #修改路径为ollama安装目录
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=default.target
4、重启ollama服务
[root@localhost ollama]# sudo systemctl daemon-reload
[root@localhost ollama]# sudo syst


1万+

被折叠的 条评论
为什么被折叠?



