不要相信。
验证。
在任何项目中运行 lean-ctx benchmark run。真实的令牌计数。真实的准确性指标。使用 tiktoken (o200k_base) 测量。
测量。 验证。
Benchmark 在本地运行,使用精确的 tokenizer 计数 token,并拒绝低于质量标准的压缩。
精确的 token 计数
使用与现代 LLM 相同的 tokenizer 进行计数——没有估算,没有猜测。
tiktoken o200k_base 质量保护
评分 AST 保留、标识符和行结构。失败的输出会自动阻止。
阈值:Q ≥ 95% · ρ ≥ 15% 可复现
在您的仓库上运行。相同的输入 → 相同的数字。非常适合 CI 和回归测试。
离线 · 确定性 之前 & 之后
同一个文件。相同的信息。token 大幅减少。
减少 88% 的 token
指向。测量。 验证。
指向任何文件或目录
传入单个文件、目录或通配符模式。基准测试引擎会处理所有找到的内容。
lean-ctx benchmark run src/ 精确的 token 测量
使用 tiktoken 和 o200k_base 编码(与 GPT-4o、Claude 和现代 LLM 相同)。无估算 - 真实的 token 计数。
tiktoken o200k_base 每种模式的节省量
获取每种压缩模式的准确性得分和节省百分比。为每种用例选择合适的模式。
modes: 10 Benchmark 实战演示
在项目中的任何文件上运行基准测试。输出显示了每种压缩模式的确切令牌计数、节省百分比和质量保留分数。
按文件划分的明细 - 每个模式下的令牌数量变化(before and after)
质量得分 - 保留 AST、标识符和代码行
汇总总计 - 包含最佳模式推荐的整个目录节省量
$ lean-ctx benchmark run src/auth.ts
◆ lean-ctx Benchmark
────────────────────────────────────────
src/auth.ts (123 lines, 3,517 tokens)
────────────────────────────────────────
Mode Tokens Saved Rate
full 3,517 0 0%
map 412 3,105 88%
signatures 252 3,265 93%
diff 187 3,330 95%
aggressive 298 3,219 92%
entropy 312 3,205 91%
────────────────────────────────────────
Quality: AST 98% | Idents 97% | Lines 96%
Encoding: tiktoken o200k_base | Time: 12ms
读取模式 相比之下
full 0% 您将编辑的文件
保留所有内容 - 为重新读取缓存全部内容(约 ~13 个 tokens)
map 70-90% 仅上下文文件
代码:deps + exports + signatures。非代码:结构化大纲(Markdown 标题、JSON/YAML/TOML 键、lock 摘要)
signatures 55–93% API 表面探索
仅函数/类/类型签名
diff 80–95% 编辑之后
带有最小周围上下文的修改行
aggressive 75–90% 大型样板代码文件
结构和逻辑,剥离语法
entropy 70–83% 噪声文件(JSDoc、注释)
仅高熵行(Shannon + Jaccard 过滤)
task 65–85% 专注于任务的读取(例如:'修复认证错误')
任务相关的代码 + 通过知识图谱和 IB 过滤器获取的依赖上下文
auto 70–99% 默认 - LeanCTX 自动选择最佳模式
按文件适配:类型、大小桶、新近度、任务相关性
reference 80–95% API 文档和参考查找
公共 API、类型、签名、文档字符串
lines:N-M 90–99% 读取特定行范围 - 精准手术式操作
请求的精确行,加上最小周围上下文
LeanCTX 的 ctx_smart_read 根据文件类型、大小和上下文,使用贝叶斯预测自动选择最佳模式。
高级压缩管线
除了模式选择,LeanCTX 还应用了一个多阶段优化管线,该管线会根据文件类型、会话上下文和任务意图进行调整:
使用多臂老虎机探索(探索 vs 利用)为每种文件类型学习最佳压缩阈值
通过 Tree-sitter 进行语言感知修剪 - 删除函数体、注释和样板代码,同时保留 API 签名
使用逆文档频率进行跨文件去重 - 消除会话中已看到的内容
使用信息瓶颈原理进行任务感知过滤 - 只保留与当前任务相关的内容
将重复结构(导入、日志行、样板代码)折叠为计数摘要
这些阶段是 累积的 - 按顺序应用,它们可以将一个 1000 行的文件减少到不到 50 个 token,同时保留所有与任务相关的信息。该管线完全自动,无需配置。
压缩 质量
质量阈值(综合)
只有当综合质量得分保持在或高于 95% 时,才会使用压缩输出。
最小密度
以最低信号密度 15% (ρ) 阻止低信息量输出。
权重
复合值 = AST 50% + 标识符 30% + 行数 20% - 因此结构最重要。
为什么 token 更少 = 更高的信号密度
LLM 有固定的注意力预算。上下文窗口中的每个 token 都争夺注意力权重。用样板代码填满窗口意味着对重要代码的注意力减少。
通过在信息到达模型之前去除噪声,LeanCTX 提高了每次请求的信息密度。结果:更高的信噪比,更少的上下文稀释,并且模型保持在有用的上下文限制内。
10K 个聚焦的上下文优于 200K 的样板代码。模型将注意力集中在逻辑上,而不是 JSDoc 注释和导入样板代码。
上下文噪声会稀释模型的注意力窗口。去除噪声有助于模型专注于实际代码结构,并降低幻觉的几率。
输入令牌越少,API成本越低,在速率限制内可以处理的消息越多。您使用的每个AI工具都能让相同的配额发挥更大的作用。
基于测量结果 实际代码
代表性快照 - 您的数字将因文件和代码库而异。
450 行 - map 模式
12,840 → 1,541 820 行 - signatures 模式
18,290 → 1,280 1,200 行 - aggressive 模式
31,500 → 2,835 680 行 - entropy 模式
15,400 → 2,618 340 行 - diff 模式
8,750 → 437 基准测试
方法论
本页上的所有数字均可复现。以下是我们具体的衡量方式。
Tokenizer
所有 token 计数均使用 tiktoken 并采用 o200k_base 编码,这是 GPT-4o、Claude 和现代 LLM 使用的相同分词器。不进行估算或近似。
质量阈值
只有当复合质量得分保持在 95% 或以上时,才会使用压缩输出。复合得分 = AST 保留 (50%) + 标识符保留 (30%) + 行覆盖率 (20%)。
本地复现
在您自己的代码库上运行 lean-ctx benchmark run src/。输出将显示每种压缩模式的精确 token 计数、节省百分比和质量保留得分。
免责声明
结果因文件类型、大小、语言和读取模式而异。“60-99%”范围反映了实际世界的差异:小型结构化文件压缩更多,大型非结构化文件压缩较少。缓存重读(~13 个 token)代表最佳情况。
Our Own Overhead, Measured
Savings claims must be net of what LeanCTX itself injects. The fixed per-session footprint (advertised tool schemas + MCP instructions) is ~2.1K tokens, measured in an isolated environment with lean-ctx doctor overhead and enforced in CI via --gate — it can only shrink. lean-ctx gain reports savings net of this overhead.
Deterministic Self-Verify
lean-ctx benchmark dual-arm --json replays a pinned 15-turn agent session through a stateless arm and the long-lived proxy rail, prices both with real tokenizer counts and published per-model rates, and fingerprints the run with a BLAKE3 digest — anyone can reproduce the exact figures, no live model needed.
衡量您的 实际节省。
安装 LeanCTX 并对您的代码库运行 benchmark run。真实数据,您的文件,您的节省。
lean-ctx benchmark run src/ 适用于任何代码库。无需配置。数秒内出结果。