robots.txt-Generator

Erstelle eine robots.txt mit Crawler-Regeln und einer optionalen Sitemap-URL.

Text Ohne Speicherung

Crawler-Regeln beschränken den Zugriff auf private Seiten nicht.

Kurzanleitung

Ein Beispiel zum Ausprobieren

Deine Eingabe

Crawler-Name
*
Gesperrte Pfade
/drafts/
Sitemap-URL
https://example.com/sitemap.xml

Dein Ergebnis

User-agent: *
Disallow: /drafts/

Sitemap: https://example.com/sitemap.xml
Funktionsweise und Grenzen

Gib pro Zeile einen mit / beginnenden Pfad ein. Ein leeres Feld erlaubt alle Pfade.