【大模型部署】小白教学,离线本地部署AI： chatglm3+one-api+fastGPT----Linux环境部署CPU运行---带资源包

小白教学,离线本地部署AI： chatglm3+one-api+fastGPT----Linux环境部署CPU运行
在所有操作之前需在在线机器上按在线部署步骤部署一遍导出离线部署所需文件,在这里我为大家已经准备好了所需文件所以免去此步骤!

(由于部分文件过于庞大这里还是不放了,本文只提供了部分关键文件)

• linux离线安装docker

• 从官方下载Docker安装包并上传至虚拟机Index of linux/static/stable/x86_64/https://download.docker.com/linux/static/stable/x86_64/

•  解压安装包

sudo tar -xvf docker-25.0.3.tgz

• 将解压出来的docker文件内容移动到 /usr/bin/ 目录下

#移动命令 复制命令请用cp
sudo  mv docker/* /usr/bin/ 

• 将docker注册为service服务

sudo vi /etc/systemd/system/docker.service

• 在打开的docker.service 文件中写入以下代码:

[Unit] 
# 服务的描述信息 
Description=Docker Application Container Engine 
# 服务的文档链接 
Documentation=https://docs.docker.com 
# 服务启动顺序，确保在网络和防火墙服务