下面整理一份适合你保存到本地的 《Claude Code Router(CCR)价值与部署说明》。我按照你现在公司的场景(Linux服务器、vLLM、本地模型、Claude Code/OpenCode/Codex、多模型管理)来写。
CCR 官方资料:
Claude Code Router(CCR)综合说明文档
1. CCR 是什么?
CCR 全称:
Claude Code Router
它是一个 LLM Gateway(大模型网关)+ Router(智能路由器)。
核心作用:
让 Claude Code、OpenCode、Codex 等 AI 编程工具,通过一个统一入口,访问不同的大模型。
架构:
Claude Code
OpenCode
Codex
其他Agent
|
|
↓
Claude Code Router
CCR
|
|
----------------------
| | |
vLLM DeepSeek Claude
Qwen MiniMax OpenAI
简单理解:
CCR 就是 AI 世界里的 Nginx。
以前:
应用
|
|
模型API
现在:
应用
↓
CCR网关
↓
多个模型
2. 为什么需要 CCR?
没有 CCR 的情况
例如公司:
模型:
Qwen3.5-35B
DeepSeek-V4
Claude Sonnet
GPT
工具:
Claude Code
OpenCode
Codex
每个工具自己配置:
Claude Code
↓
Qwen
OpenCode
↓
DeepSeek
Codex
↓
Claude
问题:
① 配置分散
每个工具:
-
API地址不同
-
Key不同
-
模型名不同
② 换模型麻烦
例如:
今天:
Qwen
明天:
DeepSeek-V4
需要修改:
-
Claude Code配置
-
OpenCode配置
-
Codex配置
③ 无法统一管理
不知道:
-
谁调用了什么模型
-
花了多少钱
-
哪个模型效果最好
3. CCR解决什么问题?
价值1:统一AI入口 ⭐⭐⭐⭐⭐
没有CCR:
Claude Code
|
|
Qwen
OpenCode
|
|
DeepSeek
有CCR:
Claude Code
OpenCode
Codex
|
↓
CCR
|
↓
企业模型池
所有工具只需要知道:
http://ccr.company.com
后面模型随便换。
4. 价值2:多模型统一管理 ⭐⭐⭐⭐⭐
例如:
CCR里面注册:
Provider:
local-vllm
地址:
http://10.1.170.83:31000/v1
模型:
qwen36-35b
deepseek-v4-flash
minimax-m27
再注册:
Provider:
DeepSeek官方API
再注册:
Provider:
Claude API
形成:
CCR
|
-------------------------
| | |
本地模型 国内API 海外API
vLLM DeepSeek Claude
Qwen MiniMax GPT
5. 价值3:智能路由 ⭐⭐⭐⭐⭐
这是 Router 的核心。
例如:
简单任务
用户:
解释一下Python报错
CCR:
判断:
低复杂度
选择:
Qwen3.5
中等任务
用户:
修改一个模块
选择:
DeepSeek-V4
高难度任务
用户:
重新设计企业AI Agent架构
选择:
Claude/GPT
流程:
用户
↓
CCR
↓
任务判断
↓
选择最佳模型
6. 价值4:降低成本 ⭐⭐⭐⭐⭐
企业场景:
100人使用AI。
没有CCR:
全部:
Claude
费用高。
有CCR:
策略:
80%
本地vLLM
15%
DeepSeek
5%
Claude
效果:
-
日常任务免费
-
复杂任务用高级模型
7. 价值5:故障自动切换 ⭐⭐⭐⭐
例如:
本地:
vLLM服务器异常
CCR:
自动:
失败
↓
DeepSeek API
↓
继续服务
类似:
数据库:
主库挂
↓
备用库
8. 价值6:统一审计和统计 ⭐⭐⭐⭐
企业以后可以统计:
用户:
张三
时间:
10:30
模型:
deepseek-v4
Token:
50000
耗时:
20秒
费用:
0.01美元
支持:
-
成本分析
-
使用统计
-
安全审计
9. CCR 与 OpenAI Compatible 的关系
CCR通常连接:
OpenAI Compatible API
意思:
模型服务提供:
/v1/chat/completions
例如:
vLLM:
http://10.1.170.83:31000/v1
CCR:
调用:
OpenAI格式
但是后面实际:
Qwen
DeepSeek
Llama
都可以。
10. CCR部署架构(企业推荐)
你的环境:
服务器83
vLLM
模型:
Qwen
DeepSeek
MiniMax
↓
服务器84
CCR
3456端口
↓
Claude Code
OpenCode
Codex
推荐:
用户
|
AI开发工具
|
CCR
|
-----------------
| | |
vLLM DeepSeek Claude
Linux安装方式
1. 安装Node.js
检查:
node -v
npm -v
推荐:
Node.js >=22
2. 安装CCR
npm install -g @musistudio/claude-code-router
官方npm说明也是采用全局安装方式。(npm)
检查:
ccr --version
3. 启动
ccr start
默认:
Gateway:
http://127.0.0.1:3456
管理页面:
http://127.0.0.1:3458
(npm)
4. Linux服务器作为服务运行
创建:
/etc/systemd/system/ccr.service
内容:
[Unit]
Description=Claude Code Router
After=network.target
[Service]
User=aiuser
ExecStart=/usr/local/bin/ccr start
Restart=always
[Install]
WantedBy=multi-user.target
启动:
systemctl daemon-reload
systemctl enable ccr
systemctl start ccr
查看:
systemctl status ccr
Windows安装方式
方法1:npm安装(推荐)
安装Node.js:
官网:
PowerShell:
npm install -g @musistudio/claude-code-router
检查:
ccr --version
启动:
ccr start
方法2:WSL(更推荐开发者)
Windows:
安装:
wsl --install
进入Ubuntu:
npm install -g @musistudio/claude-code-router
然后:
ccr start
这种体验接近Linux。
11. 对你公司的推荐定位
你的环境:
83:
vLLM模型服务器
84:
CCR
AI开发环境
建议最终:
企业AI Gateway
CCR
|
---------------------------------
| | |
本地模型 国内API 海外API
vLLM DeepSeek Claude
Qwen MiniMax GPT
以后:
新增:
-
Kimi K3
-
Qwen4
-
DeepSeek新版本
-
GPT新模型
只需要:
CCR增加Provider。
一句话总结
CCR就是企业内部的大模型统一入口,把 Claude Code、OpenCode、Codex 等各种AI工具,与后端各种模型(本地vLLM、DeepSeek、Claude、GPT)解耦,实现统一管理、智能路由、成本控制和模型快速切换。
对于个人开发者,它是“方便工具”。
对于你现在搭建企业AI平台,它更像是 AI基础设施层的重要组件。
---
---
---
下面是之前的回答,上面是总结的:
你上面说的 CCR,全称是:
Claude Code Router(CCR)
它不是 Claude Code 官方组件,而是社区开源项目,核心作者是 musistudio,npm 包一般叫:
@musistudio/claude-code-router
它本质上是一个:
LLM API 网关(Gateway) + 智能路由器(Router)
位置类似:
Claude Code
|
| ANTHROPIC_BASE_URL
↓
Claude Code Router (CCR)
|
|----------------|
| |
↓ ↓
本地 vLLM 云端API
DeepSeek Anthropic
Qwen OpenAI
MiniMax 阿里云
Kimi DeepSeek官方
你现在 84 上看到的:
provider-local83
baseurl:
http://10.1.170.83:31000/v1
models:
qwen36-27b
qwen36-35b-a3b
minimax-m27
qwen3-vl-30b-a3b-thinking
deepseek-v4-flash-0731
就是 CCR 注册了一个 OpenAI Compatible Provider。
意思是:
Claude Code 以为自己在调用 Anthropic:
Claude API
实际上经过 CCR 转发到了:
10.1.170.83 vLLM
一、如果不用 CCR,现在你的方式是什么?
比如:
Claude Code:
Claude Code
|
|
ANTHROPIC_BASE_URL
|
↓
你的API地址
或者:
OpenCode:
opencode.json
{
"model": "openai/qwen36-35b-a3b",
"baseURL":"http://xxx/v1"
}
Codex:
OPENAI_BASE_URL=http://xxx/v1
每个工具自己配置。
例如:
Claude Code:
export ANTHROPIC_BASE_URL=http://10.1.170.83:31000
OpenCode:
opencode.json
{
model:"qwen36"
}
Codex:
config.toml
model=qwen36
base_url=xxx
这种方式:
Claude Code
|
↓
vLLM
OpenCode
|
↓
vLLM
Codex
|
↓
vLLM
每个客户端自己管理。
二、有 CCR 后是什么架构?
变成:
Claude Code
|
OpenCode
|
Codex
|
↓
Claude Code Router
CCR
(统一AI网关层)
|
--------------------------------
| | |
↓ ↓ ↓
vLLM本地 DeepSeek API OpenAI API
Qwen DeepSeek-V4 GPT-5
MiniMax Flash Claude
也就是说:
所有Coding Agent只需要认识CCR。
后面模型随便换。
三、CCR最大的价值是什么?
我认为对于你的场景(公司内部AI基础设施),价值非常大。
因为你现在已经不是个人开发者。
你的环境:
-
83/84服务器
-
vLLM
-
多模型
-
Claude Code
-
OpenCode
-
Codex
-
内网模型
-
外部API
已经进入:
企业级 AI Gateway 场景
1. 统一模型入口 ⭐⭐⭐⭐⭐
这是最大价值。
没有 CCR:
Claude Code:
ANTHROPIC_BASE_URL=A
OpenCode:
baseURL=B
Codex:
baseURL=C
以后:
模型换:
qwen36
↓
deepseek-v4
↓
kimi-k3
↓
minimax
三个地方都改。
有 CCR:
所有工具:
http://ccr.company.com
模型变化:
只改 CCR。
类似:
数据库连接池
以前:
每个程序连接数据库
现在:
统一DB Proxy
2. 模型智能路由 ⭐⭐⭐⭐⭐
这是 CCR 最核心。
例如:
你配置:
provider:
local-qwen
local-deepseek
openai
anthropic
aliyun
然后规则:
简单任务:
代码补全
小修改
解释错误
→ qwen36-27b
复杂任务:
架构设计
大型重构
Debug
→ DeepSeek-V4-thinking
最高质量:
复杂系统设计
→ Claude
类似:
请求
CCR判断
|
-----------------------
| | |
简单 中等 高难
Qwen DeepSeek Claude
3. 成本控制 ⭐⭐⭐⭐⭐
例如:
员工100人用Claude Code。
如果全部:
Claude:
$15/M tokens
一天可能几百美元。
CCR:
普通:
90%
走公司vLLM
复杂:
10%
走Claude
成本可能下降:
80%-90%。
4. 故障切换 ⭐⭐⭐⭐
比如:
本地:
vLLM挂了
CCR:
自动:
失败
↓
DeepSeek API
↓
继续工作
类似:
Nginx upstream
5. 统一日志和审计 ⭐⭐⭐⭐
企业非常重要。
CCR可以记录:
用户:
zhangsan
时间:
10:32
模型:
deepseek-v4
token:
50000
耗时:
30s
费用:
0.02$
以后:
AI使用分析:
哪个部门用了多少AI
哪个模型最常用
成本多少
非常有价值。
四、CCR和自己写一个Gateway有什么区别?
其实你完全可以自己写。
比如:
Python FastAPI:
/v1/chat/completions
收到请求
判断模型
转发
记录日志
这就是一个简单CCR。
但是 CCR 已经帮你解决:
| 能力 | 自己写 | CCR |
|---|---|---|
| OpenAI协议 | 需要开发 | 已有 |
| Claude协议兼容 | 需要开发 | 已有 |
| Provider管理 | 自己做 | 已有 |
| 模型路由 | 自己做 | 已有 |
| CLI集成 | 自己做 | 已有 |
| 社区维护 | 无 | 有 |
| 日志 | 自己做 | 部分支持 |
五、对于你公司,我觉得 CCR 的定位应该是什么?
结合你现在:
83:
vLLM模型服务器
84:
应用服务器
Claude Code
OpenCode
Codex
内部AI开发
我会设计:
企业AI Gateway
CCR
|
--------------------------------
| | |
本地模型 国内API 海外API
vLLM DeepSeek Claude
Qwen MiniMax OpenAI
然后:
所有:
-
Claude Code
-
OpenCode
-
Codex
-
内部Agent
全部:
→ CCR
以后你新增:
Kimi K3
Qwen4
GPT-6
Claude 5
只改CCR。
六、CCR和 LiteLLM 对比
其实你未来也应该关注:
LiteLLM
它和 CCR 是同类思想。
简单比较:
| CCR | LiteLLM | |
|---|---|---|
| 定位 | Claude Code专用路由 | 企业级LLM Gateway |
| OpenAI兼容 | ✅ | ✅ |
| Claude Code | 非常好 | 需要配置 |
| 多模型 | ✅ | ⭐⭐⭐⭐⭐ |
| 权限 | 一般 | 强 |
| 计费 | 一般 | 强 |
| 企业部署 | 一般 | 强 |
| 未来扩展 | 中 | 高 |
如果你以后做:
企业AI平台底座
我更倾向:
LiteLLM Gateway
+
CCR
或者:
LiteLLM作为总网关
CCR作为Claude Code专用入口
七、针对你现在的环境,我建议
你现在不要把 CCR 当成“小工具”。
你的架构已经接近:
企业LLM Gateway
↓
AI应用层
↓
模型基础设施
建议:
83:
vLLM
模型服务
84:
CCR
统一入口
+
OpenWebUI
+
RAG
+
Agent
最终:
开发者
Claude Code
OpenCode
Codex
↓
CCR
↓
模型池
这个方向非常符合你现在在公司搭 AI 平台的路线。你现在看到 84 上那个 provider 配置,其实已经是一个“小型企业模型网关”的雏形了。
我另外咨询过的几个问题:
# 1、CCR是开源的吗?我未来可以自己定义且内部的规则,智能路由走某个大模型的token流量吗?还有,ccr可以对接,我自己开发的一些比如 AIppt,AI文献猎手这样的AI应用吗?
1. CCR 是开源的吗?
是。
Claude Code Router(CCR)是开源项目,源码在 GitHub:
许可证:
MIT License
意味着:
-
✅ 可以企业内部使用
-
✅ 可以二次开发
-
✅ 可以修改源码
-
✅ 可以自己部署
-
✅ 可以封装成公司的 AI Gateway
CCR 本身就是由几个模块组成:
ccr CLI
|
CCR Server
|
Provider管理
|
Router规则
|
Web UI
源码结构也是这种模块化设计。(GitHub)
2. 我未来可以自己定义路由规则吗?
答案:
可以,而且这是 CCR 最核心的价值之一。
例如你可以定义:
规则1:按照任务复杂度
简单:
代码解释
简单bug
格式转换
↓
Qwen3.5-27B
复杂:
架构设计
大型重构
算法设计
↓
DeepSeek-V4-thinking
极复杂:
企业架构
科研方案
复杂推理
↓
Claude / GPT
逻辑:
请求
|
CCR
|
判断
|
选择模型
规则2:按照用户
例如公司:
研发部门:
研发人员
↓
DeepSeek + Qwen
管理层:
战略分析
↓
Claude/GPT
规则3:按照应用
例如:
你的:
AI PPT
规则:
AI PPT
↓
视觉理解模型
↓
Qwen-VL
GPT-5
Claude
AI文献猎手
规则:
文献总结
↓
DeepSeek长上下文
或者
Qwen长上下文
代码助手
规则:
Claude Code
↓
代码专用模型
Qwen-Coder
DeepSeek-Coder
Claude
规则4:按照成本
例如:
每天:
8:00-18:00:
优先本地模型
晚上:
允许调用国外API
或者:
预算:
超过100美元
自动切换国产模型
3. CCR能控制 token 流量吗?
可以。
例如:
你可以定义:
Qwen:
每天100万token
DeepSeek:
每天500万token
Claude:
每天20万token
达到限制:
自动:
Qwen额度用完
↓
DeepSeek
类似:
流量调度
4. CCR可以接你的 AI PPT、AI文献猎手吗?
答案:
完全可以。
而且这其实比 Claude Code 更符合 CCR 的定位。
因为 CCR 本质是:
LLM Gateway
不是只给 Claude Code 用。
你的未来架构可以是:
企业AI应用层
AI PPT AI文献猎手
| |
| |
↓ ↓
CCR
AI模型网关
|
--------------------------------
| | |
vLLM DeepSeek API GPT/Claude
Qwen MiniMax OpenAI
具体例子:AI PPT
你的 AI PPT 后端:
Python:
client.chat.completions.create(
model="ppt-model",
messages=[
{
"role":"user",
"content":"生成一份医药行业PPT"
}
]
)
它不直接连接:
DeepSeek
而是:
AI PPT
↓
CCR
↓
选择模型
↓
DeepSeek/Qwen/GPT
AI文献猎手
比如:
用户:
分析这50篇Nature论文
CCR判断:
需要:
-
长上下文
-
总结能力
-
推理能力
选择:
DeepSeek-V4 1M上下文
或者:
Claude
5. 对你公司的意义
结合你现在:
-
内网 vLLM
-
AI PPT
-
AI文献猎手
-
企业知识库
-
AIDD应用
-
Claude Code/OpenCode/Codex
未来不要让每个应用:
AI PPT
|
DeepSeek API
文献猎手
|
Qwen API
Chatbot
|
vLLM
这样会越来越乱。
推荐:
企业AI Gateway
CCR
|
------------------------------------------------
| | | |
AI PPT 文献猎手 企业Chatbot Coding Agent
|
模型池
Qwen DeepSeek Claude GPT MiniMax
6. 我对你场景的判断
你现在其实已经进入:
企业级 AI 基础设施建设阶段
CCR 可以作为第一代:
LLM Gateway
后面如果规模扩大:
可以演进:
CCR
↓
LiteLLM Gateway
↓
企业AI Platform
所以:
-
个人玩 Claude Code:CCR 是方便工具
-
你公司现在:CCR 是 AI 平台入口层的雏形
对于你现在做的 AI PPT、AI文献猎手、内部知识库,我认为 CCR 的价值会比单纯给 Claude Code 换模型更大。
352

被折叠的 条评论
为什么被折叠?



