
VS Code 支持 BYOK 本地模型开发,但内联建议仍受限,需第三方工具补足
微软大力推动将 Visual Studio Code 打造成使用其 AI 服务的主要途径,大多以 GitHub Copilot 形式呈现。GitHub Copilot 与 VS Code 深度集成带来内联自动补全功能等便利,但对于想用其他模型或本地部署大语言模型(LLM)的用户来说,有些令人沮丧。
Visual Studio Code 1.122 引入“无需 GitHub 登录即可使用 BYOK(自带密钥)”新功能,允许在气隙或受限环境中使用聊天、工具和 MCP 服务器,还支持用像 Ollama 这样的本地模型实现完全离线工作流程。不过,目前无法用本地 LLM 提供内联和下一次编辑建议,至少在无额外工具时做不到。
为 BYOK 模式选择模型
若想在 VS Code 自带模型系统用本地 LLM,需先部署模型。VS Code 自身无模型部署机制,未来可能有 VS Code 扩展提供类似功能。部署模型复杂,需专门应用程序。
一种简单部署方式是通过像 LM Studio 这样的产品,它是方便的图形用户界面(GUI),可在自己硬件上启动、服务和管理 LLM。模型部署系统不一定和运行 VS Code 的系统相同,也可以是自己控制的服务器或云实例。
选择模型也很重要。很多模型功能强大,但体积大,在普通硬件上运行效果不佳。实用经验法则是选能适配现有显存,又能满足较大令牌上下文(越大越好)所需内存的模型,且该模型要适合编码和开发工作。以下是能轻松适配 8GB 显存的此类模型:
- Gemma4(有效 20 亿参数版本)
- Qwen3.5 9B
- Codestral 22B v.0.1(专有许可证)
在 VS Code 中设置 BYOK 模式
模型部署并运行后,可将其与 Visual Studio Code 集成。若之前禁用了 VS Code 的 AI 功能,需重新启用,确保“chat.disableAIFeatures”设置为关闭状态,可在“设置 | 聊天 | 其他”中找到该设置。
第三方语言模型通过 Visual Studio Code 的语言模型列表管理。按下 Ctrl + Shift + P 并输入“Manage Language Models”,可打开现有语言模型列表。默认情况下可用的模型仅为作为外部 API 提供的模型,而非本地运行的模型。
添加新模型
首先会看到内置模型列表,这些模型均为外部部署。要添加新模型,点击右上角“Add Models”并选择“Custom Endpoint”,随后会有一系列提示:
- 组名:默认是“Custom Endpoint”,可选择任何想要的名称,该名称仅用于组织模型列表,不影响模型识别或连接等功能。
- API 密钥:若已将 LM Studio 配置为使用 API 密钥来提供模型服务,需在此处提供该密钥;若在本地部署模型且未明确设置 API 密钥,则可留空。
- API 类型:选项包括“Chat Completions”“Responses”和“Messages”,大多数情况下希望使用“Responses”,因为它是最通用的。
完成上述信息填写后,会进入用于编辑 JSON 文件的模态编辑器,该文件包含正在配置的端点的详细信息。
还需在标记字段中输入一些详细信息:
- id:用于唯一标识此条目的文本字段,ID 选择基本任意;若只使用一个模型,ID 可以是模型名称。
- name:模型在模型服务器上的标识名称,在 LM Studio 中,可通过点击主界面中的“My Models”,然后选择相关模型的三点图标并点击“Copy Default Identifier”来获取该名称。例如,对于 Qwen 2.5,名称可能类似于“qwen2.5-coder-7b-instruct”。
- url:服务器端点的 URL,在 LM Studio 中,默认类似“http://127.0.0.1:1234/v1”,末尾的“/v1”很重要,因为该端点用于自动发现模型及其功能。
其他字段通常无需编辑。大多数模型都具备工具调用功能。若确定所使用的模型不支持视觉功能,可将“vision”设置为“false”。
填写完这些字段后,关闭模态编辑器以保存更改。重新加载“Manage Language Models”页面,将看到新的端点。
现在应该能够启动聊天窗口,并使用已定义的模型进行对话和使用相关工具。
目前,Visual Studio Code 的 BYOK 功能存在重大限制,仅适用于聊天和工具任务,不允许用本地模型进行内联建议或代码补全。要在 VS Code 中利用本地模型实现更多功能,唯一办法是使用像 Continue 这样的第三方工具。目前尚不清楚微软最终是否会解除这一限制。GitHub Copilot 与 VS Code 的集成是 Copilot 服务触达目标用户的重要方式。就目前而言,肯定可以在 VS Code 的 AI 辅助开发工作中大量使用第三方和本地模型,并通过额外工具来缩小功能差距。
相关领域:开发工具、软件开发、人工智能、生成式 AI

599

被折叠的 条评论
为什么被折叠?



