Anwendungsfall · Scraper & Crawler

Roh scrapen.
Lean füttern.

LeanCTX verwandelt gescrapte Seiten in modellfertigen Kontext: ctx_url_read nimmt HTML, PDF, RSS und YouTube-Transkripte auf, entfernt Boilerplate, dedupliziert über Seiten hinweg und extrahiert Fakten und Zitate. Dein Crawler bleibt simpel. Die Kontextschicht macht seine Ausgabe 60–90% kleiner, bevor irgendein Modell sie sieht.

Das Problem

Was es dich heute kostet.

01

Web-Schlamm frisst dein Token-Budget

Navigation, Cookie-Banner, Footer, Werbung: der Großteil einer gescrapten Seite ist Boilerplate, den du fürs Einbetten zahlst und fürs Prompten nochmal.

02

Duplikate vermehren sich leise

Derselbe Artikel erscheint unter fünf URLs. Ohne content-bewusste Deduplizierung speicherst und verarbeitest du ihn fünfmal.

03

Rohe Dumps sind nicht durchsuchbar

Ein Ordner voll gescraptem HTML ist keine Wissensbasis. Dein Agent braucht gerankte Retrieval, nicht 10.000 Dateien.

Schon ausgeliefert

Die Fähigkeiten, die die Arbeit machen.

Alles hier unten steckt heute in der Open-Source-Binary. Keine Roadmap-Punkte, keine Wartelisten.

Deine Tools LeanCTX Modell
Universelle Aufnahme ctx_url_read verarbeitet HTML, PDF, RSS-Feeds und YouTube-Transkripte
Facts- & Quotes-Modi Seiten kollabieren zu zuordenbaren Fakten und wortgetreuen Zitaten
Deduplizierung Content-Hash-Dedup über Seiten, Sessions und Crawls hinweg
BM25- + Graph-Suche alles Aufgenommene wird lokal durchsuchbar und rankbar
Lokales Archiv Originale bleiben abrufbar; Kompression ist nie eine Sackgasse
Schnellstart

Von null zum ersten Gewinn.

# eine Seite als zuordenbare Fakten aufnehmen
$ ctx_url_read("https://example.com/article", mode="facts")
# einen Feed aufnehmen; Einträge kommen datiert und dedupliziert an
$ ctx_url_read("https://news.site/feed.xml")
# alles durchsuchen, was du aufgenommen hast
$ lean-ctx grep "quarterly revenue"
# bei Bedarf ein vollständiges Original abrufen
$ ctx_retrieve(id)
FAQ

Fragen, die Teams vor der Einführung stellen.

Ersetzt LeanCTX meinen Scraper?

Nein. Es sitzt hinter deinem Scraper. Behalte Playwright, Scrapy oder curl; leite die Ausgabe durch LeanCTX und deine Modelle erhalten deduplizierten, komprimierten, durchsuchbaren Kontext statt rohem HTML.

Welche Eingabeformate werden unterstützt?

HTML-Seiten, PDFs, CSV, RSS/Atom-Feeds, Klartext, E-Mail und YouTube-Transkripte. Jedes Format hat seine eigene Normalisierungsstrategie vor der Kompression.

Bekomme ich die Originalseite zurück?

Immer. Jedes Original wird lokal archiviert und ist über ctx_retrieve abrufbar. Kompression in LeanCTX ist per Design umkehrbar.

Übernimm wieder die Kontrolle über deinen Kontext.

Kostenlos für lokale Nutzung, für immer. Per CI erzwungen. Eine Binary, zehn Minuten bis zum ersten gemessenen Gewinn.