078、私有化部署方案:企业内网环境下的 CodeX 配置与优化
上周五晚上十一点,运维老张在群里甩了个截图——CodeX 在内网环境里启动后,前端页面一直转圈,控制台报“WebSocket 连接失败”。我盯着屏幕看了五分钟,突然意识到这不是 CodeX 的问题,是内网那台破 Nginx 反向代理把 WebSocket 升级请求给吞了。这种坑,踩过一次就忘不掉。
环境准备:别让网络成为第一道坎
企业内网部署 CodeX,最头疼的不是 CodeX 本身,而是它依赖的那些模型下载源。Hugging Face 的模型动辄几个 G,内网机器连外网要走代理,代理带宽又小得可怜。
我的做法是:提前在外网机器上把模型拉下来,打成 tar 包,用 U 盘或者内部文件服务器传进去。别指望 pip install 的时候自动下载,内网 pip 源通常只同步了基础包,CodeX 依赖的 transformers、torch 这些大块头,版本稍微不对就报错。
# 在外网机器上执行,这里踩过坑:一定要指定版本号,否则内网环境版本不一致
pip download codex==1.2
订阅专栏 解锁全文

2102

被折叠的 条评论
为什么被折叠?



