VS Code 支持 BYOK 本地模型开发,内联建议仍需第三方工具补足

VS Code 支持 BYOK 本地模型开发,但内联建议仍受限,需第三方工具补足

微软大力推动将 Visual Studio Code 打造成使用其 AI 服务的主要途径,大多以 GitHub Copilot 形式呈现。GitHub Copilot 与 VS Code 深度集成带来内联自动补全功能等便利,但对于想用其他模型或本地部署大语言模型(LLM)的用户来说,有些令人沮丧。

Visual Studio Code 1.122 引入“无需 GitHub 登录即可使用 BYOK(自带密钥)”新功能,允许在气隙或受限环境中使用聊天、工具和 MCP 服务器,还支持用像 Ollama 这样的本地模型实现完全离线工作流程。不过,目前无法用本地 LLM 提供内联和下一次编辑建议,至少在无额外工具时做不到。

为 BYOK 模式选择模型

若想在 VS Code 自带模型系统用本地 LLM,需先部署模型。VS Code 自身无模型部署机制,未来可能有 VS Code 扩展提供类似功能。部署模型复杂,需专门应用程序。

一种简单部署方式是通过像 LM Studio 这样的产品,它是方便的图形用户界面(GUI),可在自己硬件上启动、服务和管理 LLM。模型部署系统不一定和运行 VS Code 的系统相同,也可以是自己控制的服务器或云实例。

选择模型也很重要。很多模型功能强大,但体积大,在普通硬件上运行效果不佳。实用经验法则是选能适配现有显存,又能满足较大令牌上下文(越大越好)所需内存的模型,且该模型要适合编码和开发工作。以下是能轻松适配 8GB 显存的此类模型:

  • Gemma4(有效 20 亿参数版本)
  • Qwen3.5 9B
  • Codestral 22B v.0.1(专有许可证)

在 VS Code 中设置 BYOK 模式

模型部署并运行后,可将其与 Visual Studio Code 集成。若之前禁用了 VS Code 的 AI 功能,需重新启用,确保“chat.disableAIFeatures”设置为关闭状态,可在“设置 | 聊天 | 其他”中找到该设置。

第三方语言模型通过 Visual Studio Code 的语言模型列表管理。按下 Ctrl + Shift + P 并输入“Manage Language Models”,可打开现有语言模型列表。默认情况下可用的模型仅为作为外部 API 提供的模型,而非本地运行的模型。

添加新模型

首先会看到内置模型列表,这些模型均为外部部署。要添加新模型,点击右上角“Add Models”并选择“Custom Endpoint”,随后会有一系列提示:

  • 组名:默认是“Custom Endpoint”,可选择任何想要的名称,该名称仅用于组织模型列表,不影响模型识别或连接等功能。
  • API 密钥:若已将 LM Studio 配置为使用 API 密钥来提供模型服务,需在此处提供该密钥;若在本地部署模型且未明确设置 API 密钥,则可留空。
  • API 类型:选项包括“Chat Completions”“Responses”和“Messages”,大多数情况下希望使用“Responses”,因为它是最通用的。

完成上述信息填写后,会进入用于编辑 JSON 文件的模态编辑器,该文件包含正在配置的端点的详细信息。

还需在标记字段中输入一些详细信息:

  • id:用于唯一标识此条目的文本字段,ID 选择基本任意;若只使用一个模型,ID 可以是模型名称。
  • name:模型在模型服务器上的标识名称,在 LM Studio 中,可通过点击主界面中的“My Models”,然后选择相关模型的三点图标并点击“Copy Default Identifier”来获取该名称。例如,对于 Qwen 2.5,名称可能类似于“qwen2.5-coder-7b-instruct”。
  • url:服务器端点的 URL,在 LM Studio 中,默认类似“http://127.0.0.1:1234/v1”,末尾的“/v1”很重要,因为该端点用于自动发现模型及其功能。

其他字段通常无需编辑。大多数模型都具备工具调用功能。若确定所使用的模型不支持视觉功能,可将“vision”设置为“false”。

填写完这些字段后,关闭模态编辑器以保存更改。重新加载“Manage Language Models”页面,将看到新的端点。

现在应该能够启动聊天窗口,并使用已定义的模型进行对话和使用相关工具。

目前,Visual Studio Code 的 BYOK 功能存在重大限制,仅适用于聊天和工具任务,不允许用本地模型进行内联建议或代码补全。要在 VS Code 中利用本地模型实现更多功能,唯一办法是使用像 Continue 这样的第三方工具。目前尚不清楚微软最终是否会解除这一限制。GitHub Copilot 与 VS Code 的集成是 Copilot 服务触达目标用户的重要方式。就目前而言,肯定可以在 VS Code 的 AI 辅助开发工作中大量使用第三方和本地模型,并通过额外工具来缩小功能差距。

相关领域:开发工具、软件开发、人工智能、生成式 AI

内容概要:本文档系统性地介绍了2024年最新提出的两种智能优化算法——青蒿素优化算法与霜冰优化算法(RIME)的原理、实现方法及其性能对比分析,并提供了完整的Matlab代码实现。文档不仅聚焦于核心算法的仿真与验证,还整合了大量前沿科研资源,涵盖微电网优化、风电功率预测、无人机三维路径规划、电动汽车调度、图像融合、负荷预测、通信信号处理、电力系统故障恢复等多个高价值应用场景。所有案例均基于Matlab/Simulink平台进行建模与仿真,强调算法在复杂工程系统中的实际应用能力,旨在为科研人员提供一套从理论到代码再到应用的完整复现体系。; 适合人群:具备一定编程基础和科研背景的研究生、高校教师及工程技术人员,尤其适合从事智能优化算法研究、新能源系统优化、自动化控制、电力系统调度、无人机导航与路径规划等相关领域的研究人员。; 使用场景及目标:①用于高水平学术论文的复现与创新性研究,提升科研效率与成果产出;②应用于复杂工程系统的建模仿真与智能优化设计,如多能互补系统调度、无人机避障路径规划、微电网能量管理等;③作为智能优化算法的教学与学习资料,深入理解现代元启发式算法的设计思想与实现机制。; 阅读建议建议读者结合文档中提供的Matlab代码与Simulink仿真模型,按照目录结构循序渐进地学习与实践,优先选择与自身研究方向契合的案例进行代码复现,重点关注算法参数设置、收敛曲线分析与多算法对比实验部分,以全面提升算法应用与科研创新能力。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值