Error raised by inference API HTTP code: 404, {“error“:“model \“quentinz/bge-large-zh-v1.5\“ not fou

▼最近直播超级多，预约保你有收获—1—为什么要对 GraphRAG 本地部署？微软开源 GraphRAG 后，热度越来越高，目前 GraphRAG 只支持 OpenAI 的闭源大模型，导致部署后使用范围大大受限，本文通过 GraphRAG 源码的修改，来支持更广泛的 Embedding 模型和开源大模型，从而使得 GraphRAG 的更容易上手使用。如果对 GrapRAG 还不太熟悉的同学，可以看...

ElasticSearch中使用bge-large-zh-v1.5进行向量检索

使用langchain框架，基于ollama+deepseek+bge-large-zh组合开发本地知识库

比较吃硬件性能，我的机器 CPU 是i9-13900K 的型号，结果针对小说前五章构建图谱和索引的过程竟然要半个小时才结束，是不能接受的。我看网上有人用 openai 的接口将小说跑完花了 10 美金，真的是成本太高了，我估计这也是微软将这个技术开源出来的原因，希望社区的力量来优化性能。从使用便捷性来说确实很方便，如果使用 openai 的接口其实只需要安装 graphrag 的库即可，我们操作麻烦是因为想通过 Ollama 调用本地的大模型和向量模型，从而要改配置和源代码。

使用Ollama+bge-large-zh搭建嵌入模型，fastapi搭建http服务，接受上传的pdf文件，解析pdf文件内容写入milvus向量库，给出写入和查询示例

LightRAG发展和更新很快，还有很多地方需要完善，当前模型中很多参数都是基于其自带的模型参数进行配置的，若是用到其它模型，则需要修改参数的地方没有明确给出，所以跑起来就会出现这样那样的问题，本质上都是模型参数设置的问题。官方的ollama demo写的很不错，但是如果不用其默认的LLM和embeding模型，也还是跑不起来的，下面将给出一个适配自己模型的ollama跑通教程，供来者参考。复制网页的内容，保存为本地的一个book.txt，将其和下面的程序放在一个路径下。

本文介绍了基于星图GPU平台自动化部署bge-large-zh-v1.5镜像的完整配置方案，重点解析在LightRAG框架中实现中文语义检索的关键参数调优。通过正确设置embedding_dim为1024和上下文长度为512，可高效支持模型微调与AI应用开发，显著提升中文知识图谱构建的准确性与稳定性。

基于langchain+ollama+deepseek+bge-large-zh+Milvus+FastAPI组合开发在线可维护知识库系统

本文介绍了基于星图GPU平台自动化部署bge-large-zh-v1.5镜像的实践方法，结合sglang与LightRAG框架，实现高效中文语义向量化。该镜像适用于中短文本的模型微调与AI应用开发，尤其在知识库问答、文档检索等场景中表现优异，助力开发者快速构建高性能中文RAG系统。

使用 LangChain-ChatChat+Ollama+DeepSeek 构建RAG本地知识库

在当今信息化时代，自然语言处理（NLP）技术的应用日益广泛，而文本嵌入模型作为NLP领域的重要工具，其性能和稳定性至关重要。BAAI/bge-large-zh-v1.5模型作为一款先进的文本嵌入模型，虽然在多语言处理、长文本处理等方面表现出色，但在使用过程中也可能遇到一些常见错误。本文旨在帮助用户识别和解决这些错误，确保模型能够高效稳定地运行。 ## 引言 错误排查是确保模型正常运行的关键步骤...

最近RAG热度不减，微软开源了GraphRAG，很是火爆呀，本着学习的态度，我也部署使用了一下，无奈没有梯子，不能用openAI，于是想着能不能使用本机的模型，替换openAI的 llm和embedding模型，说干就干，整个过程真是曲折，踩坑不少，但最终 结果还是好的，终于完美部署到本机使用了，哈哈，下面来给大家分享一下，自己也记录一下，以免后边再使用时重复进坑。本人也搞了一个RAG项目，非常适合学习，自用，二次开发，欢迎stargraphRAG的安装还是很简单的，直接pip。

你是否正在寻找既能处理百万级中文文本向量，又能控制服务器成本的部署方案？当业务从实验阶段迈向生产环境时，模型性能与硬件开销的平衡往往成为技术团队的首要挑战。本文将系统拆解bge-large-zh-v1.5模型的生产级部署流程，通过12个优化维度和8组实测数据，帮助你在GPU加速与CPU资源利用之间找到最优解。 读完本文你将获得： - 3套经过验证的部署架构（单卡GPU/多卡分布式/纯CPU集群）...

本文介绍了如何在星图GPU平台上自动化部署bge-large-zh-v1.5镜像，快速搭建中文文本向量化服务。该服务能将中文文本转换为高维语义向量，典型应用场景包括构建智能文档检索系统，实现基于语义而非关键词的精准内容匹配。

BGE-Large-zh-v1.5是由北京人工智能研究院（BAAI）开发的高效中文语义理解模型，专为文本检索与相似度计算场景优化。本文将带你从零开始部署并掌握这个强大工具，通过实战案例和优化技巧，让你在文本处理任务中如虎添翼???? ## 环境配置指南：零基础部署方案 ### 系统兼容性检查 BGE-Large-zh-v1.5模型对系统环境要求友好，支持Linux、Windows和macOS三大...

embding模型：quentinz/bge-large-zh-v1.5:latest。中途碰到输入命令没有反应的情况，可以试试关掉断开服务器，重连一下，再执行命令。这个问题是因为txt文件的编码格式不对，编码格式改成utf-8就可以了。local 查询没有问题，但是global查询模型说自己不知道。：检查日志发现，问题出现在读取txt文件的时候。里也写了一些可能出现的问题。1、离线下ollama。

解决Python报错：HTTPError: '404' Error

提前上传了一个文档，在知识库有文档之后，就不能够修改嵌入模型了。删除文档之后，就可以加载嵌入模型。

原因为连接不上https://huggingface.co。或者直接访问镜像源下载。下载完后，复制到路径中。