大模型进阶之路：构建支持工具调用与持久化的MCP Agent

最新推荐文章于 2026-07-02 09:36:53 发布

原创最新推荐文章于 2026-07-02 09:36:53 发布 · 647 阅读

15 ·

本内容遵循CC 4.0 BY-SA版权协议

GEO检测

AI 时代程序员必备技能

Claude Code 完整实战，MCP 与子代理工程化落地，让 AI 接管脏活累活

一键订阅

本文介绍了如何从零搭建一个完整的MCP Chat Agent系统，整合了MCP、LangGraph和Chainlit三大技术。系统架构包括Chainlit负责UI交互，LangGraph管理Agent执行流程，MCP处理工具协议，Ollama/OpenAI提供模型推理能力。教程详细展示了环境准备、MCP配置、核心Agent实现及Web UI集成，最终构建了一个支持多工具调用、流式输出、多轮对话与状态持久化的完整系统。

前言

随着大模型能力的提升，单纯的对话已经无法满足实际工程需求。越来越多的场景需要模型具备 调用外部工具、访问系统能力、执行复杂任务 的能力。

MCP（Model Context Protocol） 提供了一种统一、标准化的方式，让模型可以通过协议调用外部工具； LangGraph 则用于构建可控、可追踪的 Agent 推理流程； Chainlit 提供了一个轻量但功能完整的 Web Chat UI，非常适合 Agent 场景。

本文将介绍如何从零搭建一个：

支持 MCP 多工具调用
支持 Ollama / OpenAI 两种模型后端
支持流式输出
支持 Web UI（Chainlit）
支持多轮对话与状态持久化

的完整 MCP Chat Agent。

效果图

一、整体架构说明

系统整体架构如下：

Chainlit 负责 UI 与用户交互； LangGraph 负责 Agent 的执行流程与工具调度； MCP 负责工具协议与进程管理； Ollama / OpenAI 提供模型推理能力。

二、环境准备

1. 安装 Ollama 并拉取模型

ollama pull qwen2.5:7b

确认模型已加载：

ollama list

2. 安装 Python 依赖

pip install \  chainlit \  langchain-ollama \  langchain-openai \  langgraph \  langchain-mcp-adapters

三、MCP 配置说明（mcp.json）

示例 mcp.json：

{  "mcpServers": {    "my_tools": {      "command": "/usr/bin/python3",      "args": [        "/home/user/langchain-mcp-demo/pymcp.py"      ]    }  }}

说明：

MCP Server 通过 stdio 启动
LangChain 会自动拉起、管理子进程
不需要手动启动 MCP Server

四、核心 Agent 实现（LangGraph + MCP）

1. Agent State 定义

from typing import Annotated, TypedDictfrom langgraph.graph.message import add_messagesclass State(TypedDict):    messages: Annotated[list, add_messages]

该 State 用于在 LangGraph 中维护对话消息历史。

2. MCP Agent 实现

import asyncioimport jsonfrom langchain_ollama import ChatOllamafrom langchain_openai import ChatOpenAIfrom langchain_mcp_adapters.client import MultiServerMCPClientfrom langgraph.graph import StateGraph, STARTfrom langgraph.prebuilt import ToolNode, tools_conditionfrom langgraph.checkpoint.memory import MemorySaver
``````plaintext
class MCPAgent:    def __init__(self, backend: str = "ollama"):        if backend == "ollama":            self.llm = ChatOllama(                model="qwen2.5:7b",                temperature=0.7,                streaming=True,            )        else:            self.llm = ChatOpenAI(                model="qwen3-30b-a3b-instruct-2507",                temperature=0.7,                api_key="sk-xxxxx",                base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",                streaming=True,            )        with open("mcp.json", "r", encoding="utf-8") as f:            cfg = json.load(f)        client = MultiServerMCPClient({            name: {                "transport": "stdio",                "command": s["command"],                "args": s["args"]            }            for name, s in cfg["mcpServers"].items()        })        self.tools = asyncio.run(client.get_tools())        self.llm = self.llm.bind_tools(self.tools)        self.graph = self._build_graph()    def _agent(self, state: State):        return {"messages": [self.llm.invoke(state["messages"])]}    def _build_graph(self):        g = StateGraph(State)        g.add_node("agent", self._agent)        g.add_node("tools", ToolNode(self.tools))        g.add_edge(START, "agent")        g.add_conditional_edges("agent", tools_condition)        g.add_edge("tools", "agent")        return g.compile(checkpointer=MemorySaver())

说明：

MCP 工具通过 bind_tools 注入模型
LangGraph 使用 tools_condition 自动判断是否调用工具
MemorySaver 用于多轮对话状态保存

五、Chainlit Web UI 集成

1. 会话启动事件

import chainlit as cl@cl.on_chat_startasync def on_start():    cl.user_session.set("agent", MCPAgent("ollama"))    cl.user_session.set("thread_id", "default")    await cl.Message(        content="MCP Chat Agent 已启动"    ).send()

2. 消息处理（流式输出 + 工具提示）

@cl.on_messageasync def on_message(message: cl.Message):    agent = cl.user_session.get("agent")    thread_id = cl.user_session.get("thread_id")    msg = cl.Message(content="")    await msg.send()    async for event in agent.graph.astream_events(        {"messages": [("user", message.content)]},        config={"configurable": {"thread_id": thread_id}},        version="v2",    ):        etype = event["event"]        if etype == "on_chat_model_stream":            chunk = event["data"]["chunk"]            if chunk.content:                msg.content += chunk.content                await msg.update()        elif etype == "on_tool_start":            await cl.Message(                content=f"调用工具：{event['name']}",                author="tool"            ).send()        elif etype == "on_tool_end":            await cl.Message(                content="工具执行完成",                author="tool"            ).send()

3. 完整代码

import chainlit as climport asyncioimport jsonimport osfrom typing import Annotated, TypedDictfrom langchain_ollama import ChatOllamafrom langchain_openai import ChatOpenAIfrom langchain_mcp_adapters.client import MultiServerMCPClientfrom langgraph.graph import StateGraph, STARTfrom langgraph.prebuilt import ToolNode, tools_conditionfrom langgraph.checkpoint.memory import MemorySaverfrom langgraph.graph.message import add_messages# ================== 配置 ==================OPENAI_API_KEY = "sk-xxxxxxxxxxxxxxxxxxxxx"OPENAI_API_BASE = "https://dashscope.aliyuncs.com/compatible-mode/v1"MCP_JSON_PATH = "/home/langchain-mcp-demo/mcp.json"class State(TypedDict):    messages: Annotated[list, add_messages]class MCPAgent:    def __init__(self, backend: str = "ollama"):        # -------- 模型选择 --------        if backend == "ollama":            self.llm = ChatOllama(                model="qwen2.5:7b",                temperature=0.7,                streaming=True,            )        else:            self.llm = ChatOpenAI(                model="qwen3-30b-a3b-instruct-2507",                temperature=0.7,                api_key=OPENAI_API_KEY,                base_url=OPENAI_API_BASE,                streaming=True,            )        # -------- 加载 MCP --------        with open(MCP_JSON_PATH, "r", encoding="utf-8") as f:            mcp_config = json.load(f)        client_config = {            name: {                "transport": "stdio",                "command": s["command"],                "args": s["args"],            }            for name, s in mcp_config["mcpServers"].items()        }        client = MultiServerMCPClient(client_config)        self.tools = asyncio.run(client.get_tools())        self.llm = self.llm.bind_tools(self.tools)        self.graph = self._build_graph()    def _agent(self, state: State):        return {"messages": [self.llm.invoke(state["messages"])]}    def _build_graph(self):        g = StateGraph(State)        g.add_node("agent", self._agent)        g.add_node("tools", ToolNode(self.tools))        g.add_edge(START, "agent")        g.add_conditional_edges("agent", tools_condition)        g.add_edge("tools", "agent")        return g.compile(checkpointer=MemorySaver())# ================== Chainlit 生命周期 ==================@cl.on_chat_startasync def on_start():    # 默认用 Ollama，你也可以加 UI 选择    cl.user_session.set("agent", MCPAgent(backend="ollama"))    cl.user_session.set("thread_id", "default")    await cl.Message(        content="🤖 MCP Chat Agent 已启动（支持工具调用）"    ).send()@cl.on_messageasync def on_message(message: cl.Message):    agent: MCPAgent = cl.user_session.get("agent")    thread_id = cl.user_session.get("thread_id")    msg = cl.Message(content="")    await msg.send()    async for event in agent.graph.astream_events(        {"messages": [("user", message.content)]},        config={"configurable": {"thread_id": thread_id}},        version="v2",    ):        etype = event["event"]        if etype == "on_chat_model_stream":            chunk = event["data"]["chunk"]            if chunk.content:                msg.content += chunk.content                await msg.update()        elif etype == "on_tool_start":            await cl.Message(                content=f"🛠️ 正在调用工具：**{event['name']}**",                author="tool"            ).send()        elif etype == "on_tool_end":            await cl.Message(                content="✅ 工具执行完成",                author="tool"            ).send()

六、运行方式

chainlit run test.py

浏览器访问：

http://localhost:8000

支持功能：

流式模型输出
MCP 工具自动调用
工具调用过程可视化
多轮对话上下文保持

如何系统的学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

一直在更新，更多的大模型学习和面试资料已经上传带到CSDN的官方了，有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇

在这里插入图片描述