Wissensbasis
KI-Crawler verstehen und Websites lesbar machen
Diese Anleitungen trennen technische Abrufbarkeit, Bot-Regeln, Indexierung und tatsächliche Zitierfähigkeit. Sie basieren auf der Messmethode des Metoz-Observatoriums und werden bei veränderten Bot-Dokumentationen aktualisiert.
Grundlagen
Was ist ein KI-Crawler – und was sieht er wirklich?
Wie KI-Crawler Websites abrufen, worin sie sich von Browsern unterscheiden und wie du prüfst, ob dein Inhalt für KI-Systeme lesbar ist.
Artikel lesen →Technische Anleitung
robots.txt für KI-Bots richtig steuern
KI-Bots in der robots.txt gezielt erlauben oder sperren, ohne Suche, Agentenabrufe und Training miteinander zu verwechseln.
Artikel lesen →Offener Vorschlag
llms.txt: Was die Datei kann und was nicht
Eine sachliche Anleitung zu llms.txt: vorgeschlagener Aufbau, sinnvolle Inhalte, Pflege und die klare Abgrenzung zu Sitemap und robots.txt.
Artikel lesen →Crawler-Lesbarkeit
JavaScript und KI-Crawler: Wenn der Hauptinhalt fehlt
Warum JavaScript-gerenderte Inhalte für einfache KI-Crawler fehlen können und wie SSR, statische Ausgabe und Hydration das Problem lösen.
Artikel lesen →Nicht nur Theorie
Prüfe eine konkrete Seite in der Doppelansicht oder nutze die monatlichen Daten des Observatoriums, um einzelne Befunde mit dem deutschen Web zu vergleichen.