Ubuntu 22.04 环境下安装 DeepseekR1-7B、Ollama 和 Dify

Ubuntu 22.04 环境下安装 Deepseek、Ollama 和 Dify

基础环境

• 系统: Ubuntu 22.04
• 环境: 阿里云 (Alicloud)
• 显卡: NVIDIA T4
• CPU: 8 核 (8C)
• 内存: 32GB
• CUDA 版本: cuda_12.4.r12.4
• 镜像: ubuntu22.04with CUDA (可在公共镜像库搜索)

1. 安装 Docker

卸载旧版本

sudo apt-get remove docker docker-engine docker.io containerd runc

更新软件包

sudo apt-get update
sudo apt-get upgrade

安装 Docker 依赖

sudo apt-get install ca-certificates curl<