证据与结果

先看记录。再看结果。

LeanCTX 是面向 AI 系统的Context Gateway。查看 LeanCTX 向模型交付了哪些内容、应用了哪条规则,以及哪些内容未予交付。使用量和估算成本也来自同一份记录。

源引用操作记录待检查的证据

方法

一份记录。交付、规则与使用量。

LeanCTX 会记录受支持的集成交付的内容、影响交付的已配置检查,以及其背后的使用量。请将这份记录与测试或审查结合使用,以判断某个工作流程是否运行得更好。

检查

检查交付的输入。

使用记录的来源引用、计划和 token 测量结果来检查支持的操作。可用字段取决于操作和运行时。

来源
识别操作背后的文件、引用或计划。
交付
检查记录的输出和可用的 token 证据。
范围
收据字段取决于操作和运行时表面。

追踪与重放

追溯证据。

将收据追溯到其来源或计划并重新查看仍然可用的状态。重现模型答案也取决于主机、模型和请求设置。

关联
将一个操作与其记录的来源和计划引用连接起来。
可用性
缺少来源或过期的状态限制了可以重新查看的内容。
重现
仅有上下文记录不能保证相同的模型答案。

使用与经济学

使用量是记录的一部分。不是全部账单。

从有测量的使用开始。将估计的模型成本与观察到的费用分开,并比较等效任务。捕获的示例显示了单次读取的输入减少量,而不是对总支出的承诺。

输入
选择准备前后的 token。
成本基础
明确区分估计值、观察到的费用和不可用的值。
质量
通过任务检查建立的单独结果。
记录的产品输出
src/lib/roi.ts签名 · o200k_base
来源
2,566token
准备好的视图
439token
82.9%

此读取的输入更少
移除了 2,127 个 token

签名视图省略了实现细节。这是一个输入测量,而不是成本或质量结果。

结果与反馈

一个完成的调用不等于一个完成的任务。

与已记录的基线和明确的接受标准进行评估。提供商的响应、调用者报告的成功和经过验证的结果是不同的证据。使用已接受的结果来指导后续的上下文和路由决策。

基线
相同的任务和记录的输入配置。
结果
对实际任务重要的测试或审查标准
比较
在比较每成功任务的成本时,包括失败的尝试和重试。

在您的工作流程中

从一个操作到您的工作流程。

为每个问题使用正确的检查表面。仪表板、源收据和评估报告揭示了工作的不同部分。

本地仪表板

打开lean-ctx仪表板以检查运行时可用的本地活动和指标。其可见性遵循您的集成记录的操作。

探索此功能

成本归因

区分模型使用、缓存的输入、输出和重复的尝试。保留估计或观察到的成本的基础;未知的费用不是零成本。

探索此功能

基于证据的反馈循环

将失败和重试与已记录的基线进行比较,将经过验证的结果反馈到后续决策中,而无需将调用者的成功标签视为证明。

探索此功能

问题和答案

度量问题。

输入令牌更少是否意味着我的账单百分比相同?

不是。模型价格、缓存输入率、输出令牌和调用次数也会影响成本。记录的演示测量的是读取一个文件的输入减少量。

收据是否证明答案质量?

操作回执记录发生了什么。质量则需要另外的证据:测试、源材料核查,或有明确标准的人工审核。判断工作流程是否有效时,需要结合这两类证据。

下一步:内存与连续性

保留你学到的知识。

保留有价值的决策和来源引用。

从 LeanCTX 开始

衡量你自己的工作流程。

选择一个代表性任务和一个基线。比较输入,然后根据你自己的标准检查结果。

本地优先。模型无关。您的上下文。