Spring AI 第 8 篇 ChatMemory 详解:如何让模型记住你的每一次对话

画板

聊天记忆 - 概念

🤒 大模型是无状态的,意味着不会保留前一次交互的信息。比如,第一次调用时告诉模型我喜欢吃土豆,第二次调用时问模型我喜欢吃什么,此时模型是不知道我喜欢吃土豆的。无状态有无状态的好处,但弊端就是有时候我们想要让它变成有状态。比如,我们想要跨多次交互维护上下文信息或者状态信息。【真的是既要又要,但是无状态与有状态本身就是对立的,不可兼得】

🚀 为了解决上述限制,Spring AI 提供了聊天记忆(Chat Memory)功能,允许我们存储/检索与模型多次交互中的信息ChatMemory接口,允许我们实现各种类型的记忆来支持不同的场景。其底层是靠ChatMemoryRepository来实现消息存储的,其负责消息的存储和检索。至于如何保留及何时删除记忆,取决于ChatMemory实现。比如有这样的策略:保留最后 N 条消息、按 TTL 来保留和删除、保留消息直到某个 token 限制等。

🕳️** 弄清两个概念:聊天记忆 vs 聊天历史**

  • 聊天记忆(Chat Memory):与模型对话过程中,记录和使用的上下文相关
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

甘蓝聊Java

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值