Benchmark

不要相信。
验证。

在任何项目中运行 lean-ctx benchmark run。真实的令牌计数。真实的准确性指标。使用 tiktoken (o200k_base) 测量。

如何保持诚实

测量。 验证。

Benchmark 在本地运行,使用精确的 tokenizer 计数 token,并拒绝低于质量标准的压缩。

精确的 token 计数

使用与现代 LLM 相同的 tokenizer 进行计数——没有估算,没有猜测。

tiktoken o200k_base

质量保护

评分 AST 保留、标识符和行结构。失败的输出会自动阻止。

阈值:Q ≥ 95% · ρ ≥ 15%

可复现

在您的仓库上运行。相同的输入 → 相同的数字。非常适合 CI 和回归测试。

离线 · 确定性
查看差异

之前 & 之后

同一个文件。相同的信息。token 大幅减少。

没有 LeanCTX
// src/auth.ts · mode=full
import { jwt, verify, sign } from 'jsonwebtoken';
import { bcrypt } from 'bcryptjs';
3,517 个 tokens
使用 LeanCTX (map 模式)
// src/auth.ts · mode=map
exports: AuthService, validateToken, …
deps: jsonwebtoken, bcryptjs, ioredis
412 个 tokens

减少 88% 的 token

实现验证节省量的三个步骤

指向。测量。 验证。

01

指向任何文件或目录

传入单个文件、目录或通配符模式。基准测试引擎会处理所有找到的内容。

lean-ctx benchmark run src/
02

精确的 token 测量

使用 tiktoken 和 o200k_base 编码(与 GPT-4o、Claude 和现代 LLM 相同)。无估算 - 真实的 token 计数。

tiktoken o200k_base
03

每种模式的节省量

获取每种压缩模式的准确性得分和节省百分比。为每种用例选择合适的模式。

modes: 10
实际输出

Benchmark 实战演示

在项目中的任何文件上运行基准测试。输出显示了每种压缩模式的确切令牌计数、节省百分比和质量保留分数。

按文件划分的明细 - 每个模式下的令牌数量变化(before and after)

质量得分 - 保留 AST、标识符和代码行

汇总总计 - 包含最佳模式推荐的整个目录节省量

lean-ctx benchmark run

$ lean-ctx benchmark run src/auth.ts

◆ lean-ctx Benchmark

────────────────────────────────────────

src/auth.ts (123 lines, 3,517 tokens)

────────────────────────────────────────

Mode Tokens Saved Rate

full 3,517 0 0%

map 412 3,105 88%

signatures 252 3,265 93%

diff 187 3,330 95%

aggressive 298 3,219 92%

entropy 312 3,205 91%

────────────────────────────────────────

Quality: AST 98% | Idents 97% | Lines 96%

Encoding: tiktoken o200k_base | Time: 12ms

为每项任务选择合适的模式

读取模式 相比之下

full 0%

您将编辑的文件

保留所有内容 - 为重新读取缓存全部内容(约 ~13 个 tokens)

map 70-90%

仅上下文文件

代码:deps + exports + signatures。非代码:结构化大纲(Markdown 标题、JSON/YAML/TOML 键、lock 摘要)

signatures 55–93%

API 表面探索

仅函数/类/类型签名

diff 80–95%

编辑之后

带有最小周围上下文的修改行

aggressive 75–90%

大型样板代码文件

结构和逻辑,剥离语法

entropy 70–83%

噪声文件(JSDoc、注释)

仅高熵行(Shannon + Jaccard 过滤)

task 65–85%

专注于任务的读取(例如:'修复认证错误')

任务相关的代码 + 通过知识图谱和 IB 过滤器获取的依赖上下文

auto 70–99%

默认 - LeanCTX 自动选择最佳模式

按文件适配:类型、大小桶、新近度、任务相关性

reference 80–95%

API 文档和参考查找

公共 API、类型、签名、文档字符串

lines:N-M 90–99%

读取特定行范围 - 精准手术式操作

请求的精确行,加上最小周围上下文

LeanCTX 的 ctx_smart_read 根据文件类型、大小和上下文,使用贝叶斯预测自动选择最佳模式。

阶段

高级压缩管线

除了模式选择,LeanCTX 还应用了一个多阶段优化管线,该管线会根据文件类型、会话上下文和任务意图进行调整:

Thompson Sampling 5–15%

使用多臂老虎机探索(探索 vs 利用)为每种文件类型学习最佳压缩阈值

AST Pruning 40–70%

通过 Tree-sitter 进行语言感知修剪 - 删除函数体、注释和样板代码,同时保留 API 签名

IDF Dedup 10–30%

使用逆文档频率进行跨文件去重 - 消除会话中已看到的内容

IB Filter 15–25%

使用信息瓶颈原理进行任务感知过滤 - 只保留与当前任务相关的内容

Verbatim Compaction 5–20%

将重复结构(导入、日志行、样板代码)折叠为计数摘要

这些阶段是 累积的 - 按顺序应用,它们可以将一个 1000 行的文件减少到不到 50 个 token,同时保留所有与任务相关的信息。该管线完全自动,无需配置。

验证保留

压缩 质量

质量阈值(综合)

95%

只有当综合质量得分保持在或高于 95% 时,才会使用压缩输出。

最小密度

15%

以最低信号密度 15% (ρ) 阻止低信息量输出。

权重

50/30/20

复合值 = AST 50% + 标识符 30% + 行数 20% - 因此结构最重要。

信息密度原则

为什么 token 更少 = 更高的信号密度

LLM 有固定的注意力预算。上下文窗口中的每个 token 都争夺注意力权重。用样板代码填满窗口意味着对重要代码的注意力减少。

通过在信息到达模型之前去除噪声,LeanCTX 提高了每次请求的信息密度。结果:更高的信噪比,更少的上下文稀释,并且模型保持在有用的上下文限制内。

更高的信噪比

10K 个聚焦的上下文优于 200K 的样板代码。模型将注意力集中在逻辑上,而不是 JSDoc 注释和导入样板代码。

减少上下文噪声

上下文噪声会稀释模型的注意力窗口。去除噪声有助于模型专注于实际代码结构,并降低幻觉的几率。

每答案成本更低

输入令牌越少,API成本越低,在速率限制内可以处理的消息越多。您使用的每个AI工具都能让相同的配额发挥更大的作用。

真实世界示例

基于测量结果 实际代码

代表性快照 - 您的数字将因文件和代码库而异。

React 组件 88%

450 行 - map 模式

12,840 → 1,541
Rust 模块 93%

820 行 - signatures 模式

18,290 → 1,280
Express API 91%

1,200 行 - aggressive 模式

31,500 → 2,835
Python ML Pipeline 83%

680 行 - entropy 模式

15,400 → 2,618
TypeScript 配置 95%

340 行 - diff 模式

8,750 → 437
透明度

基准测试
方法论

本页上的所有数字均可复现。以下是我们具体的衡量方式。

Tokenizer

所有 token 计数均使用 tiktoken 并采用 o200k_base 编码,这是 GPT-4o、Claude 和现代 LLM 使用的相同分词器。不进行估算或近似。

质量阈值

只有当复合质量得分保持在 95% 或以上时,才会使用压缩输出。复合得分 = AST 保留 (50%) + 标识符保留 (30%) + 行覆盖率 (20%)。

本地复现

在您自己的代码库上运行 lean-ctx benchmark run src/。输出将显示每种压缩模式的精确 token 计数、节省百分比和质量保留得分。

免责声明

结果因文件类型、大小、语言和读取模式而异。“60-99%”范围反映了实际世界的差异:小型结构化文件压缩更多,大型非结构化文件压缩较少。缓存重读(~13 个 token)代表最佳情况。

Our Own Overhead, Measured

Savings claims must be net of what LeanCTX itself injects. The fixed per-session footprint (advertised tool schemas + MCP instructions) is ~2.1K tokens, measured in an isolated environment with lean-ctx doctor overhead and enforced in CI via --gate — it can only shrink. lean-ctx gain reports savings net of this overhead.

Deterministic Self-Verify

lean-ctx benchmark dual-arm --json replays a pinned 15-turn agent session through a stateless arm and the long-lived proxy rail, prices both with real tokenizer counts and published per-model rates, and fingerprints the run with a BLAKE3 digest — anyone can reproduce the exact figures, no live model needed.

衡量您的 实际节省。

安装 LeanCTX 并对您的代码库运行 benchmark run。真实数据,您的文件,您的节省。

lean-ctx benchmark run src/

适用于任何代码库。无需配置。数秒内出结果。