Випадок використання · Скрейпери та краулери

Збирайте сирі дані. Живи годуванням lean.

LeanCTX перетворює зібрані сторінки на контекст, готовий для моделі: ctx_url_read обробляє HTML, PDF, RSS та транскрипти YouTube, вилучаючи шаблонний вміст, дедуплікуючи між сторінками та витягуючи факти й цитати. Ваш краулер залишається простим. Контекстний шар зменшує його вивід на 60–90% до того, як його побачить будь-яка модель.

Same engine. Different workflow. Always the right context.

Скільки це коштує сьогодні.

Веб-сміття виснажує ваш бюджет токенів

Навігація, банери cookie, футери, реклама: більшість зібраної сторінки — це шаблонний вміст, за який ви платите за вбудовування та знову за промпт.

Дублікати тихо множаться

Одна й та сама стаття з'являється на п'яти URL. Без дедуплікації, усвідомленої вмістом, ви зберігаєте та обробляєте її п'ять разів.

Сирі дампи непіддані пошуку

Папка зібраного HTML — це не база знань. Вашому агенту потрібен ранжований пошук, а не 10 000 файлів.

Можливості, які виконують роботу.

Усе нижче виходить у відкритому бінарному файлі вже сьогодні. Жодних пунктів дорожньої карти, жодних списків очікування.

Ваші інструментиLeanCTXМодель

Універсальний прийом даних

ctx_url_read обробляє HTML, RSS-фіди, PDF та транскрипти YouTube

Режими фактів та цитат

сторінки згортаються у висвітлені факти та дослівні цитати

Дедуплікація

дедуплікація за хешем вмісту між сторінками, сесіями та зборами

BM25 + пошук по графу

все, що було оброблено, стає локально доступним для пошуку та ранжування

Локархів

оригінали залишаються доступними; стиснення ніколи не є кінцем шляху

Від нуля до першого результату.

terminal
# завантажує сторінку як атрибутивні факти$ ctx_url_read("https://example.com/article", mode="facts")
# завантажує стрічку; елементи надходять з датою та дедупліковані$ ctx_url_read("https://news.site/feed.xml")
# шукає все, що ви завантажили$ lean-ctx grep "quarterly revenue"
# відновлює повний оригінал за потреби$ ctx_retrieve(id)

Питання, які команди ставлять перед впровадженням.

Поверніть контроль над вашим контекстом.

Безкоштовно для локального використання, назавжди. CI це забезпечує. Одна бінарна збірка, десять хвилин до першого виміряного результату.

Support this project