跳至内容
给AI Agent装上记忆:LangChain的记忆设计

给AI Agent装上记忆:LangChain的记忆设计

所属专题:本地大模型架构与推理框架详解

上周你让邮件助理把每周简报归档。今天又来一封,它该记得的是这封信、上回的决定,还是以后所有简报都该怎么处理?在 LangChain / LangGraph 这一类架构里,三个答案对应三种数据。先决定哪一项可以跨会话,再挑数据库。

线程先解决“刚才说到哪儿”

同一封信的讨论可以分好几轮:“那第二封呢?”指的是刚才展示过的邮件。用线程标识关联消息、附件引用和暂存的分类结果,在检查点恢复本次任务。换一个线程不等于换了一个人,同一个人开新话题也不意味着可以读取之前所有附件。先由应用验证身份、线程归属和访问范围,再取状态。

历史越来越长时,可以留最近几个完整来回,把已结束的部分压成带来源的摘要。消息条数和 token 预算不是一个单位;十条长邮件可能远超窗口。摘要只为续谈,不自动成为长期规则。

跨线程究竟记什么?

借用 CoALA 的分类,语义记忆回答“知道什么”,情景记忆回答“那一次发生了什么”,程序记忆回答“以后怎样做”。放回邮件收件箱,这三者的更新权不应相同。

类型邮件助理应记住什么不能从中推出什么
语义:偏好或事实用户确认“回复用简体中文,简洁直接”某封来信的措辞不是用户偏好
情景:经过确认的先例上次生产故障通知被标紧急;每周新闻简报被归档标题有“紧急”不代表情况相同
程序:以后照办的规则用户明确批准“每周简报默认归档,直接点名我的除外”过去一次归档不是永久授权

一份画像像张三的个人卡片:语言、表达风格放在一起,一次就能读完。重写整张卡可能把没变的字段抹掉。另一种做法是每条事实单存,附时间、来源、作用域和替代哪条旧事实;查找麻烦一点,却能只撤回“偏爱简短回复”而保留语言设置。给个性化产品做选择时,先问用户要怎样查看、更正或删除这段记忆。

在什么时候写进去?

当用户明确说“以后都用中文”,热路径可以当场展示将保存的偏好,确认后立即生效。它占用当前交互的时间,却给了人即时纠错的机会。相反,一周内三次把周报归档,适合由后台提出一条候选规则:不拖慢分信,但有延迟,也可能把临时行为看成习惯。建议与已生效的规则分开;冲突时列出旧值、建议、新证据和适用对象,让用户决定。

回到起点:用户只是想处理一封信。收件内容是待分类的材料,不是修改规则的渠道。分类、长期写入和实际发信分为不同权限;先给分类建议,不把相似先例当成授权。

实现附录:数据边界与后端选择

下面是数据流伪代码,不依赖 Python 包,不调用模型或邮箱。原示例没有锁定 langgraph、langchain-core、langmem 或后端适配器版本,因此不把其中的导入名、参数或发布日期当作可复跑说明。移植时先记录所用包及精确版本、检查点与存储适配器的兼容关系,再以虚构邮件做隔离测试。

主体 ← 已经认证的会话,不从邮件正文取
线程状态 ← 读取属于主体的当前线程
规则 ← 单独加载已审核、对该主体有效的规则版本
材料 ← 本封邮件 + 主体有权查看的已确认先例
分类建议 ← 以规则为约束,以材料为数据;只返回候选类别
用户纠正 → 记录这个先例;若建议改规则,另建待审版本

例如,只演示一张偏好画像和两条已确认的分信先例,可以不用任何 SDK。下面以 Python 3.11 语法为目标,依赖仅为内置类型;它不是邮箱服务,也没有持久化能力:

profile = {"language": "简体中文", "reply_style": "简洁直接"}
examples = [
    {"subject": "生产故障通知", "decision": "标紧急", "confirmed": True},
    {"subject": "每周新闻简报", "decision": "归档", "confirmed": True},
]
# 修订一个偏好,不重写另外一个字段,也不把上次分信变成规则。
updated_profile = {**profile, "reply_style": "先给结论,再列依据"}

线程恢复要能按线程读取最近检查点;跨线程则需要持久化文档的写入、取回和搜索。原型用内存字典即可讨论接口,不能靠它跨进程保存资料。字段规则稳定可用文档库按键查;相似先例很多才考虑向量检索,租户与用户过滤必须先于返回结果。Redis 等后端还须核对持久化、过期和删除语义。

验收时换另一账户请求同一线程,应看不到前一账户的数据;删除偏好后,画像和检索索引都不应再返回它;规则更新被拒时,下一封简报仍走旧版本。这些是验收条件,不是 SDK 或服务实测结果。

本文写作中使用了 AI 辅助。文字采用 CC BY-NC-SA 4.0 许可。

最后更新于