Kurze Antwort
Wie wandle ich eine Webseite in Markdown für ein LLM um?
Rufen Sie die Seite ab, behalten Sie nur ihren Hauptinhalt, wandeln Sie dann Überschriften, Listen, Tabellen und Links in Markdown um und begrenzen Sie die Länge auf das Budget Ihres Modells. Sie können es von Hand erledigen, mit Open-Source-Bibliotheken oder mit einem einzigen API-Aufruf: WebReaderAPI liefert das Markdown und die Metadaten für einen Credit pro Seite, ab 0,07 $/1K Seiten Stand Oktober 2026. Ohne KYC; mit Krypto bezahlen.
Drei Wege, Markdown aus einer Webseite zu erhalten
| Von Hand | Kopieren Sie den Text aus dem Browser oder dessen Reader-Ansicht; in Ordnung für ein paar Seiten |
|---|---|
| Open-Source-Bibliotheken | Readability, Trafilatura, MarkItDown oder Crawl4AI in Ihrem eigenen Fetcher |
| Eine Web-Reader-API | GET https://webreaderapi.com/api/v1/read?url=… liefert Markdown, Titel, Autor und Datum |
| Längensteuerung | max_chars auf WebReaderAPI, oder kürzen Sie den Text nach der Umwandlung selbst |
| JavaScript-Seiten | Headless-Browser erforderlich; WebReaderAPI rendert sie bei Bedarf, für 2 Credits |
Welche Methode sollte ich verwenden?
Wählen Sie nach Volumen und danach, wie viel Infrastruktur Sie selbst betreiben möchten.
| Methode | Gut geeignet für | Sie übernehmen |
|---|---|---|
| Kopieren und Einfügen | Eine Handvoll Seiten, ein einmaliger Prompt | Manuelles Bereinigen |
| Bibliothek im eigenen Code | Stetige Volumina, volle Kontrolle | Abrufen, Browser, robots.txt, PDFs, Wiederholungen |
| Web-Reader-API | Agenten und Pipelines, die viele Seiten lesen | Nur die Anfrage und das Ergebnis |
Bibliotheken geben Ihnen Kontrolle ohne Gebühr pro Seite. Der Preis ist operativer Natur: ein Headless-Browser für JavaScript-Seiten, eine robots.txt-Prüfung, der Umgang mit Zeichensätzen und Redirects sowie ein separater Pfad für PDFs. Eine API fasst all das in einem einzigen HTTP-Aufruf zusammen.
Was muss gutes Markdown beibehalten, und was sollte es weglassen?
Gutes Markdown behält jedes Element mit Bedeutung und lässt alles weg, was nur für Layout oder Marketing existiert.
- Überschriften beibehalten als
#,##und###: Sie zeigen dem Modell und Ihrem Chunker, wo jedes Thema beginnt. - Listen und Tabellen beibehalten als Markdown-Listen und Pipe-Tabellen, damit Schritte und Zahlen lesbar bleiben.
- Links beibehalten als
[text](url): Sie erlauben einem Assistenten, Quellen zu zitieren und ihnen zu folgen. - Codeblöcke beibehalten, eingezäunt, mit der Sprache, wenn die Seite sie angibt.
- Menüs, Cookie-Hinweise, Anzeigen, Widgets für verwandte Beiträge und Fußzeilen weglassen: Sie wiederholen sich auf jeder Seite und verunreinigen das Retrieval.
Prüfen Sie das Ergebnis an einigen Ihrer echten Seiten. Extraktionstools unterscheiden sich am stärksten bei Foren, langen Tabellen und Seiten mit mehreren Artikeln.
Wie viel kleiner ist Markdown als HTML?
Meist deutlich kleiner, weil Seitenzubehör und Markup verschwinden. Als Cloudflare am 12. Februar 2026 sein Markdown-for-Agents-Feature startete, ging seine Beispielseite von 16.180 Tokens als HTML auf 3.150 Tokens als Markdown zurück, etwa 80 % weniger.
Ihr eigenes Verhältnis hängt von der Seite ab. Lange Artikel schrumpfen prozentual weniger als kurze Seiten, die in schwere Templates eingebettet sind. Messen Sie an Ihren Quellen, bevor Sie ein Budget festlegen.
Wie halte ich eine Seite im Token-Budget meines Modells?
Begrenzen Sie den Text, bevor er das Modell erreicht, und teilen Sie dann den Rest anhand von Überschriften auf. Mit WebReaderAPI kürzt der Parameter max_chars das Markdown auf eine feste Länge, zwischen 1.000 und 500.000 Zeichen. Das Feld word_count sagt Ihnen, wie lang der vollständige Artikel war, sodass ein Agent entscheiden kann, ob es sich lohnt, den Rest zu lesen.
Teilen Sie für das Retrieval zuerst nach Überschriften und kürzen Sie erst danach lange Abschnitte. Ein Chunk, der mit seiner eigenen Überschrift beginnt, behält sein Thema; ein Chunk, der mitten im Satz aus einer langen Seite geschnitten wird, nicht.
import os
import re
import requests
API = "https://webreaderapi.com/api/v1/read"
HEADERS = {"Authorization": "Bearer " + os.environ["WEBREADER_API_KEY"]}
def page_to_chunks(url, max_chars=60000, chunk_len=1500):
params = {"url": url, "format": "markdown", "max_chars": max_chars}
resp = requests.get(API, headers=HEADERS, params=params, timeout=90)
data = resp.json()
if resp.status_code != 200:
print("not read:", data["error"]["code"])
return []
chunks = []
for section in re.split(r"\n(?=#{1,3} )", data["markdown"]):
section = section.strip()
while section:
chunks.append(section[:chunk_len])
section = section[chunk_len:]
return [{"text": c, "source": data["final_url"], "title": data["title"]} for c in chunks]
if __name__ == "__main__":
for chunk in page_to_chunks("https://example.com/guides/compost")[:3]:
print(chunk["title"], "|", chunk["text"][:80])
Was geht üblicherweise schief, und wie erkenne ich es?
Vier Probleme verursachen die meisten schlechten Umwandlungen:
- Leere Ausgabe. Die Seite erzeugt ihren Inhalt mit JavaScript. Achten Sie auf einen niedrigen
word_count; rendern Sie die Seite in einem Browser oder setzen Sierender=true. - Cookie- oder Einwilligungstext im Ergebnis. Der Extraktor hat ein Banner beibehalten. Bevorzugen Sie die Extraktion des Hauptinhalts und prüfen Sie die ersten Zeilen jedes Ergebnisses.
- Fehlende Tabellen. Manche Seiten zeichnen Tabellen als Bilder oder Canvas-Elemente; kein Text-Extraktor kann diese lesen.
- Eine Ablehnung statt einer Seite. Die Seite hat robots in der robots.txt untersagt oder die Anfrage abgelehnt. Respektieren Sie das: Bitten Sie den Eigentümer um Zugang oder nutzen Sie eine offizielle API oder einen Feed, falls die Seite einen anbietet.
Nichts davon wird durch schnelleres Wiederholen behoben. Lesen Sie den Fehler und ändern Sie dann die Methode oder die Quelle.
Webseite in Markdown umwandeln: häufige Fragen
Ist Markdown für ein LLM besser als reiner Text?
Für die meisten Seiten ja. Markdown behält Überschriften, Listen, Tabellen und Links zu geringen Token-Kosten, sodass das Modell Struktur erkennen und Quellen zitieren kann. Reiner Text ist etwas kürzer, verliert aber diese Struktur.
Kann ich eine ganze Website umwandeln, nicht nur eine Seite?
Ja. Crawlen Sie sie und wandeln Sie jede Seite um. Die Crawl-API von WebReaderAPI erledigt beides in einem Job: Eine Website pro Job crawlen, bis zu 10.000 Seiten, entlang ihrer Sitemap, ihrer robots.txt und ihrer Crawl-delay.
Kann ich ein PDF auf die gleiche Weise umwandeln?
Ja, indem Sie die URL des PDFs an denselben Endpoint senden. PDF-Dateien bis 20 MB und 100 Seiten werden in Markdown umgewandelt, zu 1 Credit pro angefangenem Block von 10 Seiten.
Was ist mit Seiten hinter einem Login?
Wandeln Sie sie nicht über einen Drittanbieterdienst um, es sei denn, sie gehören Ihnen und Sie haben sie selbst exportiert. WebReaderAPI liest nur öffentliche Seiten und meldet sich nie bei Konten an.
Gibt es eine kostenlose Möglichkeit, das zu tun?
Open-Source-Bibliotheken sind kostenlos nutzbar und laufen auf Ihren eigenen Maschinen. WebReaderAPI hat keine kostenlose Stufe; das kleinste Paket kostet 10.000 Seiten für 3,75 $, mit Krypto bezahlt und ohne KYC.
Quellen (1)
- Markdown for Agents vorgestellt — Cloudflare (2026-02-12)