Docker+vllm-openai

这么讲docker中安装vllm的问题。以下内容不存在打广告。。。

尝试了几个开源的镜像,最终选择了轩辕镜像,地址:https://docker.xuanyuan.me/

有免费的,有收费的,

让我比较满意的,一是它上面docker下的镜像很多,几乎你需要的都有;二是它有一键式安装docker的功能,比我之前的文章写的简单多了;三是给米后的服务很到位,拉取20+G的镜像,速度很快。

具体安装及下载步骤,请去该网自行查看,我就不再赘述了。因为网站里讲的比较全面了。

提醒下,如果你是消费用户,在版本下载中,选择“免认证的pull命令”,哦,前提是你要生成自己的命名空间。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值