Agent开发完全实战指南(五)记忆系统

上一篇我们让 Agent 在一次会话里不会撑爆。但有个更扎心的问题没解决:关掉程序、重新开一个会话,它就把之前学到的一切忘得干干净净。

上周它辛辛苦苦排查出"某个报错是依赖版本冲突导致的",这周遇到一模一样的报错,它又从零开始摸索一遍。它是条金鱼,记忆只有七秒。

人是怎么变强的?靠积累经验。Agent 也一样。

记忆系统的一句话概括:把 Agent "这次学到的东西"持久化下来,让它"下次遇到相似问题时能取回来用"——这就是 Agent 从"金鱼记忆"进化到"越用越强"的关键。


一、两种记忆:短期与长期

先分清两个概念,别混为一谈:

类型 是什么 生命周期 我们做过吗
短期记忆 当前会话的对话历史(那个 messages 数组) 会话结束就没了 前几篇一直在用
长期记忆 跨会话持久化的知识和经验 永久保存,可反复取用 本篇要做的

短期记忆你已经很熟了。这一篇的主角是长期记忆——存在数据库或文件里,新会话能检索出来的那部分。


二、长期记忆的三种类型

长期记忆不是一坨,业界(借鉴认知科学)把它分成三类。理解这个分类,你才知道"什么该记、怎么用":

类型 存什么 类比 对 Agent 的用途
情景记忆(Episodic) 过去发生的具体案例 "上次那个 bug 是这么修的" 检索相似历史案例,做 few-shot 示范
语义记忆(Semantic) 事实与知识 "MySQL 死锁通常由并发事务导致" 沉淀领域知识,形成知识库
程序性记忆(Procedural) 学到的操作流程/规则 "遇到 X 类问题,按 A→B→C 排查" 固化成 SOP,甚至反哺进系统提示

关键洞察:对大多数 Agent 来说,性价比最高的是先做「情景记忆」——把每次成功解决的案例存下来,下次遇到相似问题时检索出来当例子。因为「给模型看一个相似的成功案例」,往往比「给它讲一堆抽象规则」更有效。


三、记忆的三个动作

一个记忆系统,无非要处理三件事:

flowchart LR
    A[写入 Write
什么值得记?] --> B[检索 Retrieve
何时取回?] B --> C[更新/遗忘 Update
过时了怎么办?] C --> A

四、经验飞轮:记忆为什么能让 Agent 越用越强

把三个动作串起来,就是 Agent 变强的核心引擎——经验飞轮:

flowchart TD
    T[解决一个新问题] --> W[把成功经验写入长期记忆]
    W --> Store[(记忆库
越来越丰富)] Store --> R[下次遇到相似问题
检索出历史经验] R --> Better[更快、更准地解决] Better --> T

没有这个飞轮,Agent 永远停在"出厂水平";有了它,Agent 处理的问题越多,就越聪明。 这是低质量 demo 和高质量产品的分水岭之一。


五、动手:给 Agent 装上记忆

我们做一个最简的情景记忆模块:存历史案例,按关键词相似度检索。本篇代码离线可跑,聚焦记忆逻辑本身。

5.1 记忆的数据结构

// MemoryItem 一条情景记忆:一个"问题 -> 解决方案"的案例
type MemoryItem struct {
	Signature string // 问题特征(用于检索,如报错关键词)
	Problem   string // 问题描述
	Solution  string // 解决方案(结论)
	Score     float64 // 质量分(只有高分记忆才值得存和用)
}

5.2 存储:只记高质量经验

type MemoryStore struct {
	items []MemoryItem
}

// Add 写入一条记忆。质量分过低的直接拒绝(垃圾进,垃圾出)
func (s *MemoryStore) Add(item MemoryItem) bool {
	if item.Score < 0.6 { // 质量门槛
		return false
	}
	s.items = append(s.items, item)
	return true
}

关键洞察:写入必须有质量门槛。只沉淀「被确认正确 / 高置信度」的经验。如果把错误的结论也存进去,下次检索出来当范例,反而会把 Agent 带偏——这就是「垃圾进,垃圾出」。

5.3 检索:找出最相似的历史案例

这一篇用最朴素的关键词重叠度来衡量相似度(够用来跑通闭环)。注意中文没有空格分不了词,这里用"字符二元组"做最简切分:

// toWordSet 把文本切成特征集合。
// 中文没空格,用「字符二元组 bigram」切分:"依赖超时" -> {依赖, 赖超, 超时}
func toWordSet(text string) map[string]bool {
	set := map[string]bool{}
	var cjk []rune
	for _, r := range text {
		if r >= 0x4e00 && r <= 0x9fff {
			cjk = append(cjk, r) // 收集中文字符
		}
	}
	for i := 0; i+1 < len(cjk); i++ {
		set[string(cjk[i:i+2])] = true // 相邻两字组成一个特征
	}
	return set // 完整版还会加入 ASCII 单词,见配套代码
}

// similarity 计算两段文本的关键词重叠度(0~1),最简相似度
func similarity(a, b string) float64 {
	setA := toWordSet(a)
	setB := toWordSet(b)
	if len(setA) == 0 || len(setB) == 0 {
		return 0
	}
	overlap := 0
	for w := range setA {
		if setB[w] {
			overlap++
		}
	}
	return float64(overlap) / float64(len(setA)) // 简化:交集占 A 的比例
}

// Search 检索与 query 最相似的 topK 条记忆
func (s *MemoryStore) Search(query string, topK int) []MemoryItem {
	type scored struct {
		item MemoryItem
		sim  float64
	}
	var ranked []scored
	for _, it := range s.items {
		sim := similarity(query, it.Signature+" "+it.Problem)
		if sim > 0 {
			ranked = append(ranked, scored{it, sim})
		}
	}
	sort.Slice(ranked, func(i, j int) bool { return ranked[i].sim > ranked[j].sim })

	var result []MemoryItem
	for i := 0; i < len(ranked) && i < topK; i++ {
		result = append(result, ranked[i].item)
	}
	return result
}

这种字符 bigram 匹配能对上"依赖超时"和"依赖下载超时",但仍认不出"内存溢出"和"OOM"、"付款失败"和"支付异常"是一回事(字面无重叠)。第 06 篇的向量检索才能解决这种语义匹配。

5.4 把记忆注入 Agent

记忆怎么用?在 Agent 开始处理新任务前,检索相似历史案例,作为 few-shot 示范塞进系统提示:

// buildSystemPromptWithMemory 检索相关记忆并拼进系统提示
func buildSystemPromptWithMemory(store *MemoryStore, task string) string {
	base := "你是一个运维诊断助手。"

	memories := store.Search(task, 2) // 检索最相似的 2 条
	if len(memories) == 0 {
		return base
	}

	var sb strings.Builder
	sb.WriteString(base)
	sb.WriteString("\n\n以下是过去解决过的相似案例,供你参考:\n")
	for i, m := range memories {
		sb.WriteString(fmt.Sprintf("案例%d:\n  问题:%s\n  解决:%s\n", i+1, m.Problem, m.Solution))
	}
	return sb.String()
}

于是流程变成:新任务 → 检索相似历史 → 把成功案例作为参考注入 → Agent 带着"前车之鉴"去解决 → 解决后把新经验写回记忆库。 飞轮转起来了。

完整可运行示例见 code/05-memory/:它预置几条历史案例,用一个新问题检索,并展示注入后的系统提示长什么样。


六、决策指南:要不要上记忆、上哪种

你的处境 建议
任务高度重复、有明显"套路" 强烈建议上情景记忆,收益最大
有稳定的领域知识/文档 上语义记忆(本质是 RAG,第 06 篇)
某类问题排查流程稳定 沉淀程序性记忆,甚至固化成工具或系统提示
一次性任务、不重复 可以先不上记忆,别过度设计
关键词检索不够准(同义词多) 升级到向量检索(第 06 篇)

七、常见坑速查

坑 后果 正确做法
什么都往记忆里塞 检索出一堆噪声 设质量门槛,只存被验证的经验
存了错误结论 下次被当范例带偏 只沉淀高置信/已确认的案例
检索不设相关性阈值 塞进不相关的"案例"干扰模型 相似度太低就不注入
记忆从不更新淘汰 过时经验误导 定期更新、淘汰低质量记忆
关键词检索硬扛语义匹配 认不出同义问题 上向量检索(第 06 篇)

八、小结与下一篇

这一篇的检索用的是简陋的关键词重叠,它有个致命缺陷:认不出"内存溢出"和"OOM"、"付款失败"和"支付异常"是一回事。真实世界的检索必须理解语义,而不是抠字面。

下一篇预告——《RAG 检索增强:给 Agent 接上外部知识》:我们会讲透 embedding(把文字变成向量)、向量检索、chunking 切分,把这一篇的关键词检索升级成真正的语义检索,让 Agent 能从海量文档/知识库里精准捞出相关内容。这是记忆和知识落地的技术底座。


参考资料

资料 来源
Memory in LangGraph(短期/长期、三类记忆) langchain-ai.github.io/langgraph/concepts/memory
MemGPT: Towards LLMs as Operating Systems(记忆分层) arxiv.org/abs/2310.08560
mem0(开源记忆层实现,可参考设计) github.com/mem0ai/mem0
Generative Agents(情景记忆 + 反思的经典论文) arxiv.org/abs/2304.03442