Dasbor lokal
Buka dasbor lean-ctx untuk memeriksa aktivitas lokal dan metrik yang tersedia saat ini. Visibilitasnya mengikuti operasi yang dicatat oleh integrasi Anda.
Jelajahi kemampuan iniBukti & Hasil
Catatannya dulu.Lalu hasilnya.
LeanCTX adalah Context Gateway untuk sistem AI. Lihat apa yang dikirim LeanCTX ke model, aturan mana yang berlaku, dan apa yang ditahan. Penggunaan dan perkiraan biaya berasal dari catatan yang sama.
Pendekatan
Satu catatan. Pengiriman, aturan, dan penggunaan.
LeanCTX mencatat apa yang dikirim oleh integrasi yang didukung, pemeriksaan terkonfigurasi yang memengaruhi pengiriman, dan penggunaan di baliknya. Gunakan catatan itu bersama tes atau peninjauan untuk menilai apakah suatu alur kerja bekerja lebih baik.
Periksa
Periksa input yang dikirim.
Gunakan referensi sumber, rencana, dan pengukuran token yang tercatat untuk memeriksa operasi yang didukung. Bidang yang tersedia bergantung pada operasi dan waktu berjalan.
- Sumber
- Identifikasi file, referensi, atau rencana di balik operasi.
- Pengiriman
- Periksa output yang tercatat dan bukti token yang tersedia.
- Lingkup
- Bidang penerimaan bergantung pada permukaan operasi dan waktu berjalan.
Lacak & putar ulang
Telusuri bukti kembali.
Telusuri penerimaan ke sumber atau rencana dan tinjau status yang masih tersedia. Memproduksi jawaban model juga bergantung pada host, model, dan pengaturan permintaan.
- Keterkaitan
- Hubungkan operasi dengan referensi sumber dan rencana yang tercatat.
- Ketersediaan
- Sumber yang hilang atau status kedaluwarsa membatasi apa yang dapat ditinjau.
- Reproduksi
- Catatan konteks saja tidak menjamin jawaban model yang sama.
Penggunaan & ekonomi
Penggunaan adalah bagian dari catatan. Bukan keseluruhan tagihan.
Mulai dengan penggunaan terukur. Jaga biaya model yang diperkirakan terpisah dari biaya yang diamati dan bandingkan tugas yang setara. Contoh yang ditangkap menunjukkan pengurangan input untuk satu bacaan, bukan janji tentang total pengeluaran.
- Masukan
- Token sebelum dan sesudah persiapan yang dipilih.
- Dasar biaya
- Identifikasi perkiraan, biaya yang diamati, dan nilai yang tidak tersedia secara eksplisit.
- Kualitas
- Hasil terpisah yang ditetapkan oleh pemeriksaan tugas.
src/lib/roi.tstanda tangan · o200k_base
82.9%
input lebih sedikit untuk baca ini
2,127 token dihapus
Tampilan signature menghilangkan detail implementasi. Angka ini mengukur masukan, bukan biaya atau kualitas hasil.
Hasil & umpan balik
Panggilan yang selesai bukanlah tugas yang selesai.
Evaluasi terhadap garis dasar yang didokumentasikan dan kriteria penerimaan yang eksplisit. Respons penyedia, keberhasilan yang dilaporkan oleh pemanggil, dan hasil yang diverifikasi adalah bukti yang berbeda. Gunakan hasil yang diterima untuk menginformasikan keputusan konteks dan perutean berikutnya.
- Dasar
- Tugas yang sama dan konfigurasi input yang didokumentasikan.
- Hasil
- Kriteria tes atau peninjauan yang penting untuk tugas sebenarnya.
- Perbandingan
- Sertakan upaya yang gagal dan percobaan ulang saat membandingkan biaya per tugas yang diterima.
Dalam alur kerja Anda
Dari satu operasi ke alur kerja Anda.
Gunakan permukaan inspeksi yang tepat untuk setiap pertanyaan. Dasbor, tanda terima sumber, dan laporan evaluasi mengungkapkan bagian-bagian pekerjaan yang berbeda.
Atribusi biaya
Bedakan penggunaan model, input yang di-cache, output, dan upaya berulang. Pertahankan dasar biaya yang diperkirakan atau diamati; biaya yang tidak diketahui bukanlah biaya nol.
Jelajahi kemampuan iniLingkaran umpan balik berbasis bukti
Bandingkan tugas yang setara terhadap garis dasar yang didokumentasikan, termasuk kegagalan dan percobaan ulang. Masukkan hasil yang diverifikasi kembali ke dalam keputusan selanjutnya tanpa mengubah label keberhasilan pemanggil menjadi bukti.
Jelajahi kemampuan iniPertanyaan & jawaban
Pertanyaan pengukuran.
Apakah lebih sedikit token input berarti persentase yang sama dari tagihan saya?
Tidak. Harga model, tingkat input yang di-cache, token output, dan jumlah panggilan juga memengaruhi biaya. Demo yang tercatat mengukur pengurangan input untuk satu pembacaan file.
Apakah kuitansi membuktikan kualitas jawaban?
Kuitansi mencatat suatu operasi. Kualitas memerlukan bukti tersendiri: tes, pemeriksaan sumber, atau tinjauan manusia yang ditentukan. Gunakan keduanya saat memutuskan apakah suatu alur kerja efektif.
Mulai dengan LeanCTX
Ukur alur kerja Anda sendiri.
Pilih tugas representatif dan garis dasar. Bandingkan input, lalu periksa hasilnya terhadap kriteria Anda sendiri.
Prioritas lokal. Agnostik model. Konteks Anda.