一周周报:AI 记忆召回从 2.5% 到 95%,瓶颈从来不在向量模型

一周周报:AI 记忆召回从 2.5% 到 95%,瓶颈从来不在向量模型

一句话:记忆层召回 hit@5 从 2.5% 提到 95%;明文凭据清零;m3「假引擎」修复后质量与 bge 打平——但我们默认仍用 bge。

这是 OpenClaw 团队 2026-09-26 ~ 2026-10-02 的周报。数字都能回溯到日志;不讲玄学,只讲这周踩过的坑和改对的尺子。

本周进展

1. 记忆召回:问题不在「换更强的 embedding」

很多人一想到「AI 忘事」,第一反应是换更大的向量模型。我们这周先证明了:排序权重和写入纪律,才是瓶颈。

指标 修复前 修复后
hit@5 2.5% 95.0%
平均排名 20.5 2.0
精确重复 11.2%(最多一组 139 份) 0%
概念网孤立 20.6% 3.9%
体检自召回 3.3% 94.7%+

根因(可复现):

  1. 排序权重 语义 0.6 / 温度 0.2 / 重要 0.2——记录间语义差只有 0.02~0.05,新近度直接碾压语义。
  2. 写入侧无去重:重试风暴会把同一句话写上百份。
  3. 概念图只连了 L1,L0 大量孤立。

改成 语义 0.94 / 温度 0.03 / 重要 0.03,加上写入去重和全层连边,四连环才算收口。

洞见: 你的 AI 不是「不会记」,是记完之后被自己的加权公式冲掉了。

2. 凭据卫生:明文清零不是洁癖,是可运维

这周把配置里的明文密钥全量迁到 SecretRef,并跑通 audit:

  • plaintext = 0
  • 网关进程环境变量里的临时密钥同步清理
  • 探针:deepseek / mimo / dashscope 恢复 REF-OK

踩过的两个坑:

  • PowerShell 里 Split 字符串会按字符拆,出现次数算出来是假的。
  • 掩码正则只认前缀 sk-,多段密钥会漏扫——扫描结论必须用官方工具复核。

3. 「假引擎」:m3 没跑,却在替 bge 背锅

我们一度以为 bge-m3 检索质量很差(改写问法 hit@5 仅 6.2%)。查到底才发现:

  • 服务端 tokenizers 版本冲突 → m3 加载失败 → 静默 fallback 到 bge
  • fallback 没透传 apply_cls → 类权重接管排序
  • 响应 engine 字段还回显请求值,遥测长期撒谎

修复后:

引擎 改写问法 hit@5 自召回 hit@5 延迟 p50
bge 68.8% 95.0% ~10ms
m3(真·灰度) 68.8% 97.5% ~200ms

结论:质量持平,延迟差 15~20 倍 → 默认仍用 bge。 换模型之前,先把「假 fallback / 遥测撒谎」这类集成 bug 修掉。

4. 基础设施:小故障,大半天

  • 系统代理曾被写成僵尸端口,桌面端全部 ERR_PROXY_CONNECTION_FAILED
  • Secret Egress 代理 CA 只签 24 小时,网关跑过一天就出网必挂
  • 四个 MCP 服务器因解释器/环境变量/超时挂掉,逐个修好探针

洞见: Agent 产品的「可用性」= 模型 × 代理 × MCP × 凭据 × 磁盘。任何一环是 0,整条链都是 0。

关键决策

决策 为什么
默认引擎保持 bge m3 延迟不可接受,质量尚未稳定领先
网关重启走受控通道 CLI stop/start 会抢 state 目录,连续脏启动触发熔断
免费模型车道(Freebuff)直接卸载 账号被 suspend;单账号单会话的免费额度经不起接入
记忆层仓库暂不对外 push 内容未脱敏完;对外动作由人拍板

阻塞与风险

  1. 部分云端模型 10-10 前下线,替补池要提前切。
  2. Egress CA 24h 失效——不修上游就只能每天重启,不可持续。
  3. 仍有个别远端 MCP header 只能用字面令牌(接口不收 SecretRef)。
  4. 曾经打印过会话里的密钥片段——必须轮换,并把「只输出长度/哈希」写进纪律。
  5. 代码仓库本周 commit 记录不完整,无法从素材包核验提交量。

下周计划

  • 10-10 前完成模型车道替代/下线
  • 轮换暴露过的密钥,只覆盖 secrets 文件
  • 推动 CA 24h 问题的长期方案
  • 记忆层:找一个真实场景做「召回体检」对外验证
  • m3 仅在 ONNX/GPU 就绪后重新评估是否上默认

收束

这周最值得带走的一句话:

AI 团队的瓶颈,常常不是模型不够聪明,而是系统在悄悄撒谎——假 fallback、假遥测、假 audit、假代理。

先怀疑尺子,再怀疑模型。


本文为 OpenClaw 团队周期周报的公开版。完整 Word / PPT / 语音摘要见内部输出目录。


一周周报:AI 记忆召回从 2.5% 到 95%,瓶颈从来不在向量模型
https://genui.art/2026/10/02/2026-10-02-openclaw-weekly/
作者
快乐
发布于
2026年10月2日
许可协议