Lege fest, für welchen User-Agent Regeln gelten und welche Pfade gecrawlt oder ausgeschlossen werden sollen.
Crawler-Regeln verständlich konfigurieren
robots.txt-Generator
Eine robots.txt mit User-Agent-Regeln, erlaubten oder gesperrten Pfaden und Sitemap-Verweis erstellen.
Werkzeug wird geladen …
Kurzanleitung
Crawler-Regeln verständlich festlegen
Trage die vollständige öffentliche Adresse deiner XML-Sitemap ein.
Veröffentliche den Inhalt unter /robots.txt und verwende robots.txt niemals als Schutz für vertrauliche Seiten.
Einordnung in die Praxis
robots.txt-Generator sinnvoll einordnen
Eine robots.txt mit User-Agent-Regeln, erlaubten oder gesperrten Pfaden und Sitemap-Verweis erstellen. Die folgenden Hinweise erklären die Funktion, sinnvolle Einsatzfälle und technische Grenzen des Werkzeugs.
Technische SEO-Angaben helfen Suchmaschinen und sozialen Plattformen, Inhalte korrekt zu verstehen und darzustellen.
Valides Markup garantiert weder Ranking noch Rich Results. Sichtbarer Inhalt, technische Erreichbarkeit und Suchintention bleiben entscheidend.
Prüfe erzeugten Code nach dem Einbau im tatsächlichen HTML und kontrolliere Crawling sowie Indexierung anschließend in der Search Console.
- Crawler und Pfade angeben
- Sitemap ergänzen
- Datei öffentlich prüfen
Kurz beantwortet
Fragen aus der Praxis
Hinweise, die bei der Nutzung und beim Einordnen des Ergebnisses wirklich weiterhelfen.
Schützt robots.txt geheime Seiten?
Nein. Sie ist eine freiwillige Crawler-Anweisung und kein Zugriffsschutz.
Werden meine Eingaben gespeichert?
Nein. Die Verarbeitung findet lokal in deinem Browser statt.