这么讲docker中安装vllm的问题。以下内容不存在打广告。。。
尝试了几个开源的镜像,最终选择了轩辕镜像,地址:https://docker.xuanyuan.me/
有免费的,有收费的,
让我比较满意的,一是它上面docker下的镜像很多,几乎你需要的都有;二是它有一键式安装docker的功能,比我之前的文章写的简单多了;三是给米后的服务很到位,拉取20+G的镜像,速度很快。
具体安装及下载步骤,请去该网自行查看,我就不再赘述了。因为网站里讲的比较全面了。
提醒下,如果你是消费用户,在版本下载中,选择“免认证的pull命令”,哦,前提是你要生成自己的命名空间。
1万+

被折叠的 条评论
为什么被折叠?



