Ollama + DeepSeek + Dify私有化部署自己的AI Agent

AI 时代程序员必备技能

Codex、Claude Code、Cursor、Hermes Agent、OpenClaw等工程化实战专栏 ,讲透 AI 如何接管脏活累活

01、提示:如果想要私有化部署的,首先要保证自己的电脑或服务器的硬件资源跟得上,具体配置推荐可以参考一下表格

模型版本

CPU

内存

GPU

显卡推荐

1.5B

4核+

8GB+

非必需

4GB+

RTX1650

RTX2060

7B、8B

8核+

16GB+

8GB+

RTX3070

RTX4060

14B

12核+

32GB+

16GB+

RTX4090

RTX5080

32B

16核+

64GB+

24GB+

A100 40GB

70B

32核+

128GB+

多卡

2×A100 80GB

671B

64核+

512GB+

多卡

8×A100/H100

声明:以上配置仅供参考

02、安装Ollama

(1)下载Ollama

进入https://ollama.com/,选择Download

图片

目前支持三种系统,macos、Linux、Windows,根据自己的需求来下载,因为我是Windows系统,所以下载的就是Windows,如果你想部署到Lin

AI 时代程序员必备技能

Codex、Claude Code、Cursor、Hermes Agent、OpenClaw等工程化实战专栏 ,讲透 AI 如何接管脏活累活

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值