摘要
边缘部署的个人记忆助手需要在设备本地、使用开放权重模型处理私密的人际对话。然而,现有的记忆基准往往难以同时考察活动密集的交互、第一人称(ego-centric)视角与连贯的多会话世界。MemArena 借助其 MASim 智能体模拟器构建了一个单一世界的对话基准来填补这些空白:50 个智能体、历时 15 天(1030 万对话文本 token,每个智能体每天约 2.41 万纯文本第一人称观测 token)。基于这些交互历史,它在召回、推理与可信度三大类、共六个评测维度上同步生成 ground truth。我们评测了五个开放权重 reader,并以 Vanilla 上下文、BM25-RAG、Oracle 检索、Memobase 与 MemSearch 作为记忆后端。
三点核心结论
- 记忆后端的选择,比扩大 reader 规模更影响内容准确性。在 Qwen3-0.6B 上,Memobase→MemSearch 带来 +32.5/+19.2 pp 的提升,超过了在 MemSearch 下扩大 reader 规模所得的收益(+10.6/+6.8 pp)。
- 权限感知的访问控制普遍失败。Oracle 大量泄露隐私信息,而其他后端又过于保守、不敢披露本应披露的内容——两端都难以做到合规。
- 检索延迟只在极小 reader 上才明显。在 Spark GB10 边缘节点上,记忆检索带来适中且固定的 87/7/48 ms(BM25-RAG/Memobase/MemSearch)开销;对于大多数 reader–后端组合而言,它只占首 token 延迟(TTFT)的一小部分。
代码、MASim 模拟器与 MemArena 基准将在论文录用后公开发布。