[轻松迁移：从ConversationalRetrievalChain到LCEL实现的指南]

关注

最新推荐文章于 2026-08-22 18:00:57 发布 · 963 阅读

原创 ·

本内容遵循 CC 4.0 BY-SA 版权协议

· GEO检测

【LangChain】对话式问答(Conversational Retrieval QA) 它首先将聊天记录（显式传入或从提供的内存中检索）和问题组合成一个独立的问题，然后从检索器中查找相关文档，最后将这些文档和问题传递到问答链以返回一个响应。这样会有一个非常大的好处：我们可以使用更便宜、更快的模型来完成问题的凝练工作，然后再使用昂贵的模型来回答问题。首先，它将当前问题和聊天历史凝练为一个独立的问题。声明性特性的部分强大之处在于，您可以轻松地为每个调用使用单独的语言模型。之后，它进行检索，然后使用单独模型的检索增强生成来回答问题。在下面的示例中，我们将从向量存储创建一个，该向量存储可以从。阅读详情

引言

在当今的AI与编程领域，结合聊天历史与检索增强生成的ConversationalRetrievalChain是一种强大的工具，能够让开发者实现与文档的“对话”。然而，随着技术的进步，迁移到LCEL实现具有许多优势，包括更清晰的内部结构、方便地返回源文档以及支持流式和异步操作。在本文中，我们将探讨如何从ConversationalRetrievalChain迁移到LCEL，并提供详细的代码示例和潜在挑战的解决方案。

主要内容

为什么迁移到LCEL？

更清晰的内部：ConversationalRetrievalChain隐藏了一个完整的问题重述步骤，而LCEL则提供了更透明的实现，使开发者能够更好地掌控流程。
更简便的源文档返回：LCEL允许更灵活的文档检索和处理。
支持流式和异步操作：LCEL支持更多种类的方法调用，提升了实现的多样性和效率。

LCEL的主要组件

历史感知检索器：能够智能地处理聊天历史，并根据需要重述问题。
检索链：负责从存储中获取相关的上下文文档。
文档组合链：用于将多个文档的内容组合成有意义的答案。

代码示例

以下是如何利用LCEL实现的一个完整示例。

%pip install --upgrade --quiet langchain-community langchain langchain-openai faiss-cpu

import os
from getpass import getpass

os.environ["OPENAI_API_KEY"] = getpass()

from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_community.document_loaders import WebBaseLoader
from langchain_community.vectorstores import FAISS
from langchain_openai.chat_models import ChatOpenAI
from langchain_openai.embeddings import OpenAIEmbeddings

# 加载文档
loader = WebBaseLoader("https://lilianweng.github.io/posts/2023-06-23-agent/")
data = loader.load()

# 文本拆分
text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=0)
all_splits = text_splitter.split_documents(data)

# 向量存储
vectorstore = FAISS.from_documents(documents=all_splits, embedding=OpenAIEmbeddings())

# 初始化LLM
llm = ChatOpenAI()

from langchain.chains import create_history_aware_retriever, create_retrieval_chain
from langchain.chains.combine_documents import create_stuff_documents_chain
from langchain_core.prompts import ChatPromptTemplate

# 设置问题重述模板
condense_question_system_template = (
    "Given a chat history and the latest user question "
    "which might reference context in the chat history, "
    "formulate a standalone question which can be understood "
    "without the chat history. Do NOT answer the question, "
    "just reformulate it if needed and otherwise return it as is."
)

condense_question_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", condense_question_system_template),
        ("placeholder", "{chat_history}"),
        ("human", "{input}"),
    ]
)

# 创建历史感知检索器
history_aware_retriever = create_history_aware_retriever(
    llm, vectorstore.as_retriever(), condense_question_prompt
)

# 设置系统提示
system_prompt = (
    "You are an assistant for question-answering tasks. "
    "Use the following pieces of retrieved context to answer "
    "the question. If you don't know the answer, say that you "
    "don't know. Use three sentences maximum and keep the "
    "answer concise."
    "\n\n"
    "{context}"
)

qa_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", system_prompt),
        ("placeholder", "{chat_history}"),
        ("human", "{input}"),
    ]
)

# 创建文件组合链
qa_chain = create_stuff_documents_chain(llm, qa_prompt)

# 创建检索链
convo_qa_chain = create_retrieval_chain(history_aware_retriever, qa_chain)

# 执行链
convo_qa_chain.invoke(
    {
        "input": "What are autonomous agents?",
        "chat_history": [],
    }
)