文章详情

专注互联网科技,赋能企业数字化发展

Reasonix 让DeepSeek 99.82%缓存命中

作者:Reasonix 让DeepSeek 99.82%缓存命中

🧠 Reasonix 这次有意思的点,不在“又做了一个 Coding Agent”,而在它把 DeepSeek 的 prefix cache 当成架构约束来设计。 📌 99.82% 怎么来的? → 这是 2026-05-01 单用户真实样例 → input cache hit:435,033,856 tokens → input cache miss:767,616 tokens → 命中率:hit / (hit + miss) ⚙️ 它的主循环长这样 → ImmutablePrefix:system + tools 固定 → AppendOnlyLog:user / assistant / tool 只往后追加 → VolatileScratch:临时 reasoning 每轮清空 💸 为什么会省钱? 普通 Agent 每轮可能插时间戳、重排工具、改写历史。 Reasonix 尽量让旧 prompt 从第 0 token 开始保持一致,只把新内容放尾部。 长会话越长,可复用的 cached prefix 越大。 🔍 源码里最关键的点 → buildMessages = prefix + log → tool result 并行执行也按声明顺序写回 → tool-call repair 在本轮完成 → fold summary 也复用 live prefix 📊 怎么看数据? 真实样例:99.82% τ-bench-lite:Reasonix 90.2% vs baseline 32.8% ⚠️ 别误读 99.82% 不是所有任务都能达到。 它说明的是:长会话 Agent 的成本,已经变成上下文生命周期设计问题。 #Deepseek #缓存命中率 #KVCache #Reasonix #AI编码 #Agent

返回新闻列表