告别「碎片化」记忆：中科院开源轻量级内存原生Agent记忆系统Mandol

随着 LLM Agent 在智能客服、个人助理、社交陪伴和医疗辅助等场景中的应用拓展其交互模式正从单轮问答走向长周期、多任务的持续协作。在这一过程中Agent 的记忆模块不仅需要存储跨会话、多类型的信息如对话内容、用户意图、实体状态和事件脉络还需要在复杂查询中提供准确、可追溯且低延迟的证据支撑。然而当前主流记忆系统通常依赖向量数据库、图数据库和关系型存储的异构组合容易造成记忆表示碎片化、跨库查询开销高同时其检索机制多采用 RAG 式的被动相似度匹配容易引入噪声、遗漏关联线索且缺乏 Token 预算控制导致检索质量不稳定。针对这些挑战中国科学院软件研究所等机构的研究团队提出了 Mandol一种凝聚式内存原生分层记忆系统其核心思想是将碎片化的记忆表示与异构存储凝聚为统一的内存原生架构。论文标题Mandol: An Agglomerative Agent Memory System for Long-Term ConversationsarXiv 论文链接https://arxiv.org/pdf/2606.29778项目地址https://github.com/AgentCombo/MandolMandol 通过分层记忆模型、统一内存语义数据结构和智能量化检索机制三方面协同设计将碎片化的记忆表示与存储凝聚为统一架构为 Agent 提供兼顾表示能力、检索效率与上下文质量的记忆底座。在 LoCoMo 和 LongMemEval 两项公开长对话记忆评测基准上Mandol 在所比较的代表性开源记忆系统中取得最优总体准确率在以 GPT-4.1-mini 作为回答生成模型的设置下其整体准确率分别达到 92.21% 和 88.40%。在 10 QPS即每秒接收 10 个查询请求并发负载下Mandol 的平均检索延迟为 82.2 ms相比最快基线实现约 5.4 倍加速平均插入延迟为 39.7 ms相比最快基线实现约 4.8 倍加速。并且在消费级笔记本硬件上Mandol 的延迟仍低于现有系统展现出优异的端侧部署潜力。从「碎片化存储」到「被动检索」核心瓶颈在哪里实际应用中Agent 面临的记忆查询复杂且多样从简单的事实提取到需要多跳推理的复杂问题。尤其是以下三类查询对记忆系统带来了严重挑战强时序性检索如「去年暑假我去北欧旅行期间订了哪些酒店总花费多少」系统需精准回溯用户在不同城市的多次住宿记录、准确关联时间与花费信息并进行汇总。这要求系统具备对长周期内多个时序事件的精确提取与聚合能力。跨会话多跳推理如用户在一次会话中提及「我对海鲜过敏」几天后又在另一会话中描述「吃完晚饭后皮肤起了大片红疹」。系统需将过敏史与当前症状进行跨会话的逻辑拼接与推理得出可能的过敏反应结论而非孤立地检索关键词。动态状态更新与去噪如用户的购房偏好从「郊区大户型」变更为「市区学区房」。系统必须准确跟踪状态变化在回答「根据我的最新需求推荐几个楼盘」时仅依据最新约束条件自动覆盖陈旧偏好避免对当前决策的干扰。面对上述需求当前主流 Agent 记忆系统如 Mem0、Zep、MemOS 等在架构和检索机制上存在三个主要问题。第一记忆信息难以统一表示。向量嵌入支持语义相似性匹配却难以显式表达逻辑结构与时序关系知识图谱拥有结构化表达能力但其固定模式对动态语义和演化支持不足。二者缺乏统一表征框架导致记忆信息分散在不同结构中查询时难以获得完整视图。第二跨库查询开销大。复杂的混合查询需要在向量数据库、图数据库和其他存储之间进行跨库编排会产生高昂的序列化与 I/O 开销难以满足低延迟交互要求。第三查询精度与 Token 消耗难以兼顾。传统 RAG 式「被动相似度匹配」检索存在两个突出问题检索结果易引入噪声、冲突或遗漏多跳推理线索Token 消耗缺乏有效约束简单查询可能浪费上下文窗口复杂查询的关键证据链却常因截断而丢失。Mandol 的三项核心设计表示、存储与检索的一体化设计针对上述挑战Mandol 从记忆模型、存储架构和检索机制三个维度进行了系统性设计。设计一分层记忆模型 —— 以结构化语义图实现统一表征Mandol 将记忆组织为两个层次基础记忆层负责直接存储原始交互信息以记忆单元封装原始信息与语义向量、记忆空间提供多粒度逻辑隔离以及显式关系时序、引用、状态更新等和隐式语义关系构建统一的结构化语义图。高阶抽象记忆层则由大模型自动从基础记忆中提炼出情景记忆事件链、语义记忆实体关系图和情感记忆用户偏好演化链等抽象知识。两层之间通过可追溯链接保持双向关联确保任何抽象推理结论均可溯源至原始对话证据。这一设计既保留了基础层的完整信息又提供了支持推理的高阶抽象视图针对统一表示问题给出了一种系统化方案。在结构化语义图中基础层的记忆单元以节点形式存在显式关系边通过规则解析直接建立隐式语义边则在查询时按需从向量索引中获取。高阶层在此基础上进一步抽象事件链以时序和因果边连接事件节点实体图以引用和属性边组织实体关系偏好演化链以状态更新边追踪用户偏好的变化轨迹。例如当一个简短的对话片段「预订了一间胡同民宿」被增强为带有时空上下文的事件节点后Mandol 不仅将其与同一次旅行的其他事件如「航班延误」 「参观故宫」建立时序边还通过语义索引与之前会话中的「计划预订王府井酒店」建立跨会话的隐式关联并在此基础上抽象出一条状态更新边完整刻画住宿偏好从「王府井酒店」到「胡同民宿」的演化过程。所有抽象节点均保留指向原始基础单元的引用为后续的精确检索提供了既细粒度又可推理的数据基础。设计二内存原生语义数据结构 —— 消除跨库查询延迟异构多库架构是查询延迟的主要来源。针对这一问题Mandol 提出了基于内存语义数据结构的统一存储架构设计了 SemanticMap 与 SemanticGraph 协同工作的原生内存数据结构在单一地址空间内实现键值存储、向量索引与图结构的原生融合。SemanticMap 融合传统键值存储和向量结构解决记忆单元的多模态数据存储与语义查询问题并支持通过记忆空间标签进行上下文逻辑隔离SemanticGraph 负责统一管理显式记忆关系与隐式语义关联显式关系以结构化边直接存储在图中隐式语义关联则依托 SemanticMap 中的向量索引按需检索并动态返回相似邻居从而避免预先枚举和物化所有潜在语义边。两者相互关联在物理层面实现结构化语义图的统一存储视图。在此基础上Mandol 提供了一套原子化混合检索算子覆盖记忆单元查询、空间查询、关系查询和多跳查询等操作将向量匹配、图遍历等操作统一封装为内存内的高效执行单元显著减少了异构存储带来的高 I/O 延迟。此外活跃记忆层通过异步分页机制连接嵌入式持久化后端 DuckDB用于冷数据或长期存储。设计三智能量化检索机制 —— 在 Token 预算内构建高质量上下文Mandol 将检索任务重新定义为「在有限 Token 预算下构建高质量上下文」并构建了无需大模型介入的量化检索流程。其核心方法是首先通过查询自适应的智能路由进行预算分配与多源并行召回即根据查询特征选取部分高阶记忆和基础记忆进行检索确保记忆信息的完整覆盖随后对召回结果进行记忆源内部量化去噪与跨记忆源冲突消解去除噪声与冗余信息最终在 Token 预算约束下完成上下文的精简与生成兼顾相关性与多样性从而在有限开销内获得高信息密度的证据上下文。实验总体准确率领先效率大幅提升部署友好研究团队在 LoCoMo 和 LongMemEval 两项长对话记忆评测基准上对 Mandol 进行了全面验证。在检索质量上以 GPT-4.1-mini 作为生成模型、GPT-4o-mini 作为评估模型的设置下Mandol 在 LoCoMo 和 LongMemEval 上分别取得 92.21% 和 88.40% 的整体准确率在所比较的代表性开源记忆系统中取得最优总体结果。尤其在多跳推理、时序推理与知识更新等复杂查询类型上Mandol 展现出较强优势。值得注意的是即使采用更轻量的检索后端模型Qwen3-Embedding-0.6B 与 bge-reranker-v2-m3Mandol 仍在总体准确率和多数关键任务上超过使用更大检索模型的对比系统同时将 Token 消耗降低了 17.4%–20.0%。这一结果说明其性能增益主要来自记忆组织与检索机制的结构性优势而非单纯依赖更大规模的嵌入或重排序模型。在系统性能方面在 10 QPS 并发负载的服务器环境中NVIDIA H800 GPUMandol 的平均检索延迟仅为 82.2 ms相比最快基线实现约 5.4 倍加速平均记忆插入延迟为 39.7 ms相比最快基线实现约 4.8 倍加速。值得注意的是在本地消费级设备笔记本 NVIDIA RTX 5090的补充实验中Mandol 的延迟仍低于现有系统显示出优异的本地部署潜力。这种显著的效率优势根源在于其进程内内存原生架构彻底避免了数据库往返和跨库协调开销。在资源消耗上Mandol 同样表现良好。其内存占用适中且因消除了对外部数据库服务及其网络通信的依赖完成标准长对话负载的整体耗时仅为对比系统的 1/4.2 至 1/9.9展现出良好的本地部署潜力。结语Mandol 通过凝聚式的分层记忆模型、内存原生统一存储与智能量化检索三项核心创新为 Agent 提供了一个兼顾高精度、低延迟和轻量化部署的记忆系统解决方案。该系统已在 GitHub 开源便于研究者复现、试用和进一步开发。得益于内存原生架构Mandol 无需依赖外部数据库服务可在消费级设备上高效运行为端侧 Agent 的记忆管理提供了新的可能。对于正在构建需要可靠长期记忆的对话 Agent、推荐 Agent 或陪伴 Agent 等的研究与工程团队而言Mandol 提供了一个兼具精度、性能和工程实用价值的选择。