书生大模型实战营L1G4000 - InternLM + LlamaIndex RAG 实践

原创 已于 2025-01-13 02:42:46 修改 · 2.3k 阅读 · 42 ·
本内容遵循CC 4.0 BY-SA版权协议
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
GEO检测
于 2024-12-31 04:11:12 首次发布

1. LlamaIndex+InternLM RAG 实践

1.1 前置知识

正式介绍检索增强生成（Retrieval Augmented Generation，RAG）技术以前，大家不妨想想为什么会出现这样一个技术。 给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重，另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重。 第一种方式，改变了模型的权重即进行模型训练，这是一件代价比较大的事情，大语言模型具体的训练过程，可以参考InternLM2技术报告。 第二种方式，并不改变模型的权重，只是给模型引入格外的信息。类比人类编程的过程，第一种方式相当于你记住了某个函数的用法，第二种方式相当于你阅读函数文档然后短暂的记住了某个函数的用法。

对比两种注入知识方式，第二种更容易实现。RAG 正是这种方式。它能够让基础模型实现非参数知识更新，无需训练就可以掌握新领域的知识。本次课程选用了 LlamaIndex 框架。LlamaIndex 是一个上下文增强的 LLM 框架，旨在通过将其与特定上下文数据集集成，增强大型语言模型（LLMs）的能力。它允许您构建应用程序，既利用 LLMs 的优势，又融入您的私有或领域特定信息。

RAG 效果比对

如图所示，由于xtuner是一款比较新的框架， InternLM2-Chat-1.8B 训练数据库中并没有收录到它的相关信息。左图中问答均未给出准确的答案。右图未对 InternLM2-Chat-1.8B 进行任何增训的情况下，通过 RAG 技术实现的新增知识问答。

1.2 浦语 API+LlamaIndex 实践

创建开发机部署基础环境，点击 选择镜像 使用 Cuda12.0-conda 镜像，然后在资源配置中，使用 30% A100 * 1 的选项，然后立即创建开发机器

进入开发机后，创建新的conda环境，命名为 llamaindex，在命令行模式下运行：

conda create -n llamaindex python=3.10

复制完成后，在本地查看环境。

conda env list

结果如下所示。

# conda environments:
#
base                  *  /root/.conda
llamaindex               /root/.conda/envs/llamaindex

运行 conda 命令，激活 llamaindex 然后安装相关基础依赖 python 虚拟环境:

conda activate llamaindex

安装python 依赖包

pip install einops==0.7.0 protobuf==5.26.1

安装 Llamaindex和相关的包

conda activate llamaindex
pip install llama-index==0.11.20
pip install llama-index-llms-replicate==0.3.0
pip install llama-index-llms-openai-like==0.2.0
pip install llama-index-embeddings-huggingface==0.3.1
pip install llama-index-embeddings-instructor==0.2.1
pip install torch==2.5.0 torchvision==0.20.0 torchaudio==2.5.0 --index-url https://download.pytorch.org/whl/cu121

下载sentence transformer模型

源词向量模型 Sentence Transformer:（我们也可以选用别的开源词向量模型来进行 Embedding，目前选用这个模型是相对轻量、支持中文且效果较好的，同学们可以自由尝试别的开源词向量模型） 运行以下指令，新建一个python文件

cd ~
mkdir llamaindex_demo
mkdir model
cd ~/llamaindex_demo
touch download_hf.py

打开download_hf.py 贴入以下代码

import os

# 设置环境变量
os.environ['HF_ENDPOINT'] = 'https://hf-mirror.com'

# 下载模型
os.system('huggingface-cli download --resume-download sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 --local-dir /root/model/sentence-transformer')

然后，在 /root/llamaindex_demo 目录下执行该脚本即可自动开始下载：

cd /root/llamaindex_demo
conda activate llamaindex
python download_hf.py

更多关于镜像使用可以移步至 HF Mirror 查看。

推荐用户从modelscope下载

魔搭社区

git lfs install

cd /root/model/

git clone https://www.modelscope.cn/Ceceliachenen/paraphrase-multilingual-MiniLM-L12-v2.git

mv paraphrase-multilingual-MiniLM-L12-v2 sentence-transformer

我们在使用开源词向量模型构建开源词向量的时候，需要用到第三方库 nltk 的一些资源。正常情况下，其会自动从互联网上下载，但可能由于网络原因会导致下载中断，此处我们可以从国内仓库镜像地址下载相关资源，保存到服务器上。 我们用以下命令下载 nltk 资源并解压到服务器上：

cd /root
git clone https://gitee.com/yzy0612/nltk_data.git  --branch gh-pages
cd nltk_data
mv packages/*  ./
cd tokenizers
unzip punkt.zip
cd ../taggers
unzip averaged_perceptron_tagger.zip

1.2.1 不使用 LlamaIndex RAG（仅API）

浦语官网和硅基流动都提供了InternLM的类OpenAI接口格式的免费的 API，可以访问以下两个了解两个 API 的使用方法和 Key。

浦语官方 API：书生·浦语
硅基流动：硅基流动统一登录

运行以下指令，新建一个python文件

cd ~/llamaindex_demo
touch test_internlm.py

打开test_internlm.py 贴入以下代码

from openai import OpenAI

base_url = "https://internlm-chat.intern-ai.org.cn/puyu/api/v1/"
api_key = "sk-请填写准确的 token！"
model="internlm2.5-latest"

# base_url = "https://api.siliconflow.cn/v1"
# api_key = "sk-请填写准确的 token！"
# model="internlm/internlm2_5-7b-chat"

client = OpenAI(
    api_key=api_key , 
    base_url=base_url,
)

chat_rsp = client.chat.completions.create(
    model=model,
    messages=[{"role": "user", "content": "xtuner是什么？"}],
)

for choice in chat_rsp.choices:
    print(choice.message.content)

之后运行

conda activate llamaindex
cd ~/llamaindex_demo/
python test_internlm.py

结果为：

1.2.2 使用 API+LlamaIndex

conda activate llamaindex

运行以下命令，获取知识库

cd ~/llamaindex_demo
mkdir data
cd data
git clone https://github.com/InternLM/xtuner.git
mv xtuner/README_zh-CN.md ./

运行以下指令，新建一个python文件

cd ~/llamaindex_demo
touch llamaindex_RAG.py

打开llamaindex_RAG.py贴入以下代码

import os 
os.environ['NLTK_DATA'] = '/root/nltk_data'

from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
from llama_index.core.settings import Settings
from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.legacy.callbacks import CallbackManager
from llama_index.llms.openai_like import OpenAILike


# Create an instance of CallbackManager
callback_manager = CallbackManager()

api_base_url =  "https://internlm-chat.intern-ai.org.cn/puyu/api/v1/"
model = "internlm2.5-latest"
api_key = "请填写 API Key"

# api_base_url =  "https://api.siliconflow.cn/v1"
# model = "internlm/internlm2_5-7b-chat"
# api_key = "请填写 API Key"



llm =OpenAILike(model=model, api_base=api_base_url, api_key=api_key, is_chat_model=True,callback_manager=callback_manager)


#初始化一个HuggingFaceEmbedding对象，用于将文本转换为向量表示
embed_model = HuggingFaceEmbedding(
#指定了一个预训练的sentence-transformer模型的路径
    model_name="/root/model/sentence-transformer"
)
#将创建的嵌入模型赋值给全局设置的embed_model属性，
#这样在后续的索引构建过程中就会使用这个模型。
Settings.embed_model = embed_model

#初始化llm
Settings.llm = llm

#从指定目录读取所有文档，并加载数据到内存中
documents = SimpleDirectoryReader("/root/llamaindex_demo/data").load_data()
#创建一个VectorStoreIndex，并使用之前加载的文档来构建索引。
# 此索引将文档转换为向量，并存储这些向量以便于快速检索。
index = VectorStoreIndex.from_documents(documents)
# 创建一个查询引擎，这个引擎可以接收查询并返回相关文档的响应。
query_engine = index.as_query_engine()
response = query_engine.query("xtuner是什么?")

print(response)

之后运行

conda activate llamaindex
cd ~/llamaindex_demo/
python llamaindex_RAG.py

结果为

通过对比可以看出，在只使用API的情况下，模型的输出并不清楚XTuner是什么，但是在提供API+RAG的情况下，其通过知识库能够清楚输出XTuner是什么和其特性。

2. LlamaIndex 部署 InternLM2 1.8B并测试

2.1 LlamaIndex HuggingFaceLLM

安装 Llamaindex 和相关的包：

conda activate llamaindex
pip install llama-index==0.10.38 llama-index-llms-huggingface==0.2.0 "transformers[torch]==4.41.1" "huggingface_hub[inference]==0.23.1" huggingface_hub==0.23.1 sentence-transformers==2.7.0 sentencepiece==0.2.0

安装 LlamaIndex 词嵌入向量依赖：

conda activate llamaindex
pip install llama-index-embeddings-huggingface==0.2.0 llama-index-embeddings-instructor==0.1.3
在这一步请确定llama-index-embeddings-huggingface安装成功
如果存在not found错误，请重新安装
# pip install llama-index-embeddings-huggingface==0.2.0
确保 huggingface_hub==0.23.1

最后再安装 Pytorch：

conda install pytorch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 pytorch-cuda=11.7 -c pytorch -c nvidia

安装完成后，验证 Pytorch 是否正确安装并使用了指定的 CUDA 版本：

import torch
print(torch.__version__)        # 应输出类似 '2.0.1'
print(torch.version.cuda)       # 应输出 '11.7'
print(torch.cuda.is_available())# 应输出 True

2.1.1 下载 Sentence Transformer 模型

源词向量模型 Sentence Transformer:（我们也可以选用别的开源词向量模型来进行 Embedding，目前选用这个模型是相对轻量、支持中文且效果较好的，同学们可以自由尝试别的开源词向量模型） 运行以下指令，新建一个 python 文件

cd ~
mkdir llamaindex_demo
mkdir model
cd ~/llamaindex_demo
touch download_hf.py

打开download_hf.py 贴入以下代码

import os

# 设置环境变量
os.environ['HF_ENDPOINT'] = 'https://hf-mirror.com'

# 下载模型
os.system('huggingface-cli download --resume-download sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 --local-dir /root/model/sentence-transformer')

然后，在 /root/llamaindex_demo 目录下执行该脚本即可自动开始下载：

cd /root/llamaindex_demo
conda activate llamaindex
python download_hf.py

更多关于镜像使用可以移步至 HF Mirror 查看。

2.1.2 下载 NLTK 相关资源

我们在使用开源词向量模型构建开源词向量的时候，需要用到第三方库 nltk 的一些资源。正常情况下，其会自动从互联网上下载，但可能由于网络原因会导致下载中断，此处我们可以从国内仓库镜像地址下载相关资源，保存到服务器上。 我们用以下命令下载 nltk 资源并解压到服务器上：

cd /root
git clone https://gitee.com/yzy0612/nltk_data.git  --branch gh-pages
cd nltk_data
mv packages/*  ./
cd tokenizers
unzip punkt.zip
cd ../taggers
unzip averaged_perceptron_tagger.zip

之后使用时服务器即会自动使用已有资源，无需再次下载

运行以下指令，把 InternLM2 1.8B 软连接出来

cd ~/model
ln -s /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b/ ./

运行以下指令，新建一个 python 文件

cd ~/llamaindex_demo
touch llamaindex_internlm.py

打开 llamaindex_internlm.py 贴入以下代码

from llama_index.llms.huggingface import HuggingFaceLLM
from llama_index.core.llms import ChatMessage
llm = HuggingFaceLLM(
    model_name="/root/model/internlm2-chat-1_8b",
    tokenizer_name="/root/model/internlm2-chat-1_8b",
    model_kwargs={"trust_remote_code":True},
    tokenizer_kwargs={"trust_remote_code":True}
)

rsp = llm.chat(messages=[ChatMessage(content="xtuner是什么？")])
print(rsp)

之后运行

conda activate llamaindex
cd ~/llamaindex_demo/
python llamaindex_internlm.py

结果为： 

回答的效果并不好，并不是我们希望得到的xtuner的回答。

 2.2 LlamaIndex RAG

运行以下命令，获取知识库

cd ~/llamaindex_demo
mkdir data
cd data
git clone https://github.com/InternLM/xtuner.git
mv xtuner/README_zh-CN.md ./

运行以下指令，新建一个 python 文件

cd ~/llamaindex_demo
touch llamaindex_RAG.py

打开llamaindex_RAG.py贴入以下代码

from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings

from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.llms.huggingface import HuggingFaceLLM

#初始化一个HuggingFaceEmbedding对象，用于将文本转换为向量表示
embed_model = HuggingFaceEmbedding(
#指定了一个预训练的sentence-transformer模型的路径
    model_name="/root/model/sentence-transformer"
)
#将创建的嵌入模型赋值给全局设置的embed_model属性，
#这样在后续的索引构建过程中就会使用这个模型。
Settings.embed_model = embed_model

llm = HuggingFaceLLM(
    model_name="/root/model/internlm2-chat-1_8b",
    tokenizer_name="/root/model/internlm2-chat-1_8b",
    model_kwargs={"trust_remote_code":True},
    tokenizer_kwargs={"trust_remote_code":True}
)
#设置全局的llm属性，这样在索引查询时会使用这个模型。
Settings.llm = llm

#从指定目录读取所有文档，并加载数据到内存中
documents = SimpleDirectoryReader("/root/llamaindex_demo/data").load_data()
#创建一个VectorStoreIndex，并使用之前加载的文档来构建索引。
# 此索引将文档转换为向量，并存储这些向量以便于快速检索。
index = VectorStoreIndex.from_documents(documents)
# 创建一个查询引擎，这个引擎可以接收查询并返回相关文档的响应。
query_engine = index.as_query_engine()
response = query_engine.query("xtuner是什么?")

print(response)

之后运行

conda activate llamaindex
cd ~/llamaindex_demo/
python llamaindex_RAG.py

结果为：

由图可见加上RAG之后，InternLM2 1.8B模型能够对于回答问题有着不错的效果。

3. 模型应用部署

为了能够部署模型应用，本文部署选择是modelscope平台的创空间

由于部署本次应用Llamaindex RAG + Puyu API其启动用的是Streamlit，于是选择SDK接口为Streamlit的选项，进行空间创建，并随后在开发机终端上传文件

成功上线部署

进行对话后，可见能够成功进行沟通和回复

标签
#人工智能 #机器学习 #深度学习
Ameliorating
关注
llamaindex结合本地模型构建RAG
weixin_72100405的博客
03-19 7432
总结一下对llamaindex的使用心得，第一部分是构建知识库并持久化，第二部分是使用本地llm模型和本地embed模型，第三部分是对qurey engine和chat engine的使用（自定义prompt）。知识库格式:一个全是txt文档的文件夹。
llamaIndex 基于GPU加载本地embedding模型
leichangqing的博客
03-17 2526
【代码】llamaIndex 基于GPU加载本地embedding模型。
llamaindex是什么？有什么用？
weixin_63931282的博客
07-15 1790
LlamaIndex的设计目标是通过在指定的数据上操作，利用OpenAI的大型语言模型能力，以便在回答问题或执行其他任务时获取所需的信息。数据连接负责将数据读取进来，索引构建用于构建可以查询的索引，而查询接口则提供与不同的大模型进行对话和自定义Prompt的功能。按照我的理解来说其主要中的作用就是用来连接外部数据（就自己文件夹中的数据）并将这些外部数据进行切片，创建索引方便在后面根据提的问题找到相关性最强的索引，将这个索引的上下文以及提的问题一起传给大数据模型（如gpt3.5等）进行处理，然后生成回答。
模仿学习与强化学习结合（IL+RL）有没有代表性论文？未来发展趋势如何？
最新发布
CyberSoma的博客
10-19 2212
IL与RL的结合正成为AI研究热点，尤其在机器人控制、复杂博弈等需要边学边练的场景。经典方法如Dagger（2010）和GAIL（2016）开创了先用模仿学习预热、再用强化学习微调的模式。近期工作如IN-RIL（2024）提出交替训练策略，显著提升样本效率。开源项目RoboSchool和StableBaselines3为相关研究提供支持。未来趋势包括：1）混合式智能体结合人类经验与自主探索；2）突破小样本学习、自然语言交互等方向；3）提升安全性、样本效率和可解释性。
使用 HuggingFace 和 LlamaIndex 实现本地嵌入模型
ppoojjj的博客
08-04 2000
在当今的自然语言处理（NLP）任务中，嵌入模型（Embedding Models）扮演着至关重要的角色。它们能够将文本转化为高维向量，从而方便后续的机器学习任务。本文将介绍如何使用 HuggingFace 和 LlamaIndex 实现本地嵌入模型，并通过实例代码演示具体操作。我们将使用中专API地址（http://api.wlai.vip）来调用大模型。
书生大模型实战营第四期L1G4000（InternLM + LlamaIndex RAG 实践）
stinkypudding的博客
11-09 1145
检索原理：向量数据库。
书生大模型实战营 L1G4000 InternLM + LlamaIndex RAG 实践
qq_42803347的博客
11-29 1483
基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 浦语 API 不会回答，借助 LlamaIndex 后 浦语 API 具备回答 A 的能力配置环境，安装所需依赖，下载模型后。
书生大模型实战营第四期 L1G4000 InternLM + LlamaIndex RAG 实践
qq_30731313的博客
11-07 1010
Llamaindex RAG 实践
书生大模型实战营第4期（L1G4000-InternLM + LlamaIndex RAG 实践）
猿牧码的博客
11-07 1958
编辑download_hf.py脚本文件，输入如下代码，注意下载模型命令中文件保存的路径，如果是使用实战营的开发机，可直接使用下面的命令，如果不是需要修改下载模型命令中目录到自己需要的位置。和1.6一样需要注意目录问题，若是使用实战营的开发机可直接使用以下命令，若不是需要将第一行命令中目录修改至需要位置，比如我修改后的是：cd /mnt/workspace。由于第一次尝试使用魔搭，没有集成conda，需要单独安装，但是运行到后面可能由于版本冲突，导致失败，重新使用实战营的开发机进行尝试，可以跳过此步骤。
【第四期书生大模型实战营基础岛】L1G4000——LlamaIndex+InternLM RAG 实践
weixin_46084134的博客
11-16 1371
（Retrieval Augmented Generation，RAG），就是通过引入的方式，给模型注入格外的上下文或者说外部信息，而不改变它的的权重（非fine-tuning方式）。如下图所示它能够让基础模型实现非参数知识更新，无需训练就可以掌握新领域的知识。本次课程选用了框架。LlamaIndex 是一个上下文增强的 LLM 框架，旨在通过将其与特定上下文数据集集成，增强大型语言模型（LLMs）的能力。它允许您构建应用程序，既利用 LLMs 的优势，又融入您的私有或领域特定信息。
【书生大模型实战营】L1G4000 InternLM + LlamaIndex RAG 实践
qq_43917368的博客
12-25 814
检索增强生成（Retrieval Augmented Generation，RAG）它能够让基础模型实现非参数知识更新，无需训练就可以掌握新领域的知识。补充给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重(模型训练)，另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重，只是给模型引入格外的信息。
书生大模型实战营第四期-闯关挑战L1G4000 InternLM + LlamaIndex RAG 实践 任务记录
qq_39297910的博客
11-27 955
（我们也可以选用别的开源词向量模型来进行 Embedding，目前选用这个模型是相对轻量、支持中文且效果较好的。，由于需要避免在项目中储存API KEY，这里在原有的基础上简单地加上了API KEY输入和检测。通过llamaindex使用RAG后，浦语API成功认识了xtuner。，点击vscode弹窗自动配置端口映射，打开后询问得到结果。因为开发机没有魔法，这边直接在本地把项目做好上传了。可见目前本地部署的大模型不认识xtuner。为了完成这次的任务，我们解锁了更强的算力。运行时长： 默认8小时。
（笔记+作业）书生大模型实战营春节卷王班---L1G4000 InternLM + LlamaIndex RAG 实践
haidizym的博客
02-01 1132
（笔记+作业）书生大模型实战营春节卷王班---L1G4000 InternLM + LlamaIndex RAG 实践
【阿尼亚探索大模型】书生大模型实战营-基础岛第4关（L1G4000）InternLM + LlamaIndex RAG 实践
qq_45943172的博客
12-07 1020
任务类型任务内容必做任务可选任务优秀学员任务。
使用 HuggingFace 库进行本地嵌入向量生成
qq_29929123的博客
06-19 6411
在当今的AI和机器学习应用中，嵌入向量（embeddings）已成为不可或缺的一部分。嵌入向量能够将文本等高维数据转换为低维稠密向量，从而便于计算和分析。在本文中，我们将介绍如何使用 HuggingFace 库在本地生成嵌入向量，并演示相关代码。
书生大模型实战营-基础关卡-4-llamaindex+Internlm2 RAG实践
微风❤水墨
08-08 435
修改问题，重新再提问：至少知道我是写博客的了。data下添加一个介绍我csdn的文档。先试试官方的示例：无RAG。先试试官方的示例：有RAG。
硅基流动：免费的AI大模型提供平台
热门推荐
2301_78511890的博客
11-10 6万+
siliconflow作为一家AI模型提供商，聚合了众多AI大模型。涵盖文生图，语音生成，视频生成等等方面。其中有重多知名的AI大模型供大家免费使用，在如今AI人工智能的背景下，确实十分受用。硅基流动统一登录 硅基流动用户系统，统一登录 SSO。
Llamaindex RAG实践
chasemydreamidea的博客
09-23 1743
一：概述一：概述它可以解决LLMs在处理知识密集型任务时可能遇到的挑战。提供更准确的回答、降低推理成本、实现外部记忆。生成幻觉(hallucination)、过时知识、缺乏透明和可追溯的推理过程。它的应用包括问答系统、文本生成、信息检索、图片描述。二：具体说明<1>RAG的原理将所要处理的文档或者网页即知识源分割成小块，编码成向量，并存储在向量数据库(Vector-DB)当中。
LLM之基于llama-index部署本地embedding与GLM-4模型并初步搭建RAG（其他大模型也可，附上ollma方式运行）
weixin_44598554的博客
08-20 3853
前言日常没空，留着以后写官网：https://docs.llamaindex.ai/en/stable/简介也没空，以后再写如果没有找到 llama_index.embeddings.huggingface那么：pip install llama_index-embeddings-huggingface还不行进入官网，输入huggingface进行搜索 加载本地LLM模型 还是那句话，如果以下代码不行，进官网搜索Custom LLM Model 欢迎大家点赞或收藏大家的点赞或收藏可以鼓
【LlamaIndex 教程】一文看懂LlamaIndex用法，为LLMs学习私有知识
qq_40491305的博客
05-27 3万+
默认情况，llamaIndex 使用，也可以用别的构建 Index基于使用的Index，llamaIndex 会使用默认的 prompt 模板进行构建 Index（插入 or 创建）, 也可以自定义link。对于自定义 embedding 的模型，也可以自定义 embeddinglink。
AutoSAR系列讲解（入门篇）2.4-Runnables可运行实体
雪云飞星的博客
07-20 3万+
讲解一下Runnable和其工程的实际映射
android-studio-2023.1.1.23-windows.part1.rar
Android Studio Hedgehog 2023.1.1 RC 1（android-studio-2023.1.1.23-windows.zip）适用于Windows系统，文件使用WinRAR分割成两个压缩包，必须一起下载使用:android-studio-2023.1.1.23-windows.part1.rarhttps://download.csdn.net/download/weixin_43800734/88481869android-studio-2023.1.1.23-windows.part2.rarhttps://download.csdn.net/download/weixin_43800734/88481859
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值