最适合的场景
编码 Agent、重复仓库上下文、冗长系统提示、较长的检索结果拼接。
Token 压缩
Token 压缩是一个很实用的长上下文插件。它的目标不是改写任务本身，而是在尽量保留关键语义的前提下压缩冗余的提示词表面形式。
大致原理
插件会在请求到达上游模型之前，压缩重复或低价值的 prompt 表面形式。
在长 prompt 里，很多 token 其实来自重复结构、冗长描述、复制粘贴的说明，或者可以用更紧凑形式表达的上下文。
压缩插件针对的就是这些模式。它尽量保留任务目标、约束条件和关键实体，同时减少那些并不会明显提升推理效果的冗余表述。
为什么有效
它最适合处理重复 scaffold 或者冗长上下文较多的工作负载。
为什么通常不会明显偏移
它的目标是保留核心语义和任务约束，而不是重写 prompt 的意图。
哪些场景要谨慎
对字面格式极其敏感的法律文本、token 级评测、或字面形式本身就是任务的一部分时，不建议盲目开启。
示例节省区间
下面的范围用于帮助判断插件是否值得开，不是固定收益承诺。
| 输入模式 | 典型效果 | 说明 |
|---|---|---|
| 重复的 system / policy scaffold | 压缩收益较明显 | 非常适合编码和 Agent 工作流。 |
| 冗长且结构重复的检索上下文 | 中到高的压缩收益 | 尤其适合重复标题和重复段落较多的场景。 |
| 本来就很短的 prompt | 收益很低或几乎没有 | 当输入已经足够紧凑时，压缩意义不大。 |
对外说明时，建议使用“示例节省区间”而不是固定百分比承诺。