context-assembler-DSH

云端大模型每轮都要重新处理整段对话历史——历史越长，信息越稀释，token 成本越高。Context Assembler DSH 换了一个思路：本地小模型在两轮对话之间的算力本就是空闲的，那就让它在这段时间里完成上下文压缩与重组，把云端峰值算力的开销转移到本地空闲周期上。

核心能力围绕话题块展开：实时将会话切分为话题块，块内生成摘要版本并保持稳定前缀以命中云端 prompt cache；压力越大，Jaccard 相似度阈值越低，峰值时强制切块，避免超长单话题会话失去缓存优势。此外还具备工具轮确定性压缩、话题切换时定级冻结、reality 背景注入、handoff 会话交接规划等能力，全部为纯计算、零宿主依赖。

适合正在使用 DeepSeek Harness、本地跑着 Ollama 兼容的 4B 级别小模型、且多轮 Agent 工作流 token 开销明显的开发者。一张 10 GB 显存的显卡即可舒适运行，纯 CPU 亦可工作，只是组装速度会慢一些。