Jetzt registrieren
Webcrawler
Token · WordPrestoBot Beachtet robots.txt Nur-Lese-Zugriff

WordPrestoBot, unser Webcrawler

Falls Sie diese Seite aufgrund eines Eintrags in Ihren Serverprotokollen gefunden haben: Hallo und vielen Dank für Ihr Interesse. WordPrestoBot ist der Webcrawler von Word Presto, einem agentenbasierten Tool für Content- und SEO-Workflows. Er liest öffentlich zugängliche HTML-Seiten aus, um im Auftrag eines Word Presto-Nutzers SEO- und Content-Signale zu extrahieren – und nichts weiter.

Warum er Ihre Website besucht hat

Er ruft Seiten ausschließlich im Auftrag eines Word Presto-Nutzers ab.

In fast jedem Fall handelt es sich um eines von zwei Dingen.

01

Ein Website-Betreiber, der seine eigene Website analysiert

Er führt eine SEO- oder Inhaltsüberprüfung der von ihm verwalteten Seiten durch.

02

Eine schreibgeschützte Wettbewerbs- oder Rechercheprüfung

Ein Nutzer, der öffentlich zugängliche Seiten durchsieht, um zu verstehen, wie ein Thema behandelt wird.

Darin heißt esöffentliches HTMLum SEO- und Inhaltssignale zu extrahieren: Titel, Überschriften, Metadaten, Links und strukturierte Daten. Das ist alles.

Verhalten

Was es leistet und was nicht.

WORDPRESTOBOT MACHT FOLGENDES
öffentlich zugängliche Seiten über normales HTTPS abrufen,
sich bei jeder Anfrage im User-Agent ehrlich identifizieren,
die Datei robots.txt beachten,
behutsam crawlen, mit moderaten Anfrageraten, Zeitlimits und Begrenzungen der Antwortgröße.
WORDPRESTOBOT TUT NICHT
sich anmelden, Formulare einreichen oder mit Ihrer Website interagieren,
Änderungen vornehmen, Inhalte veröffentlichen oder Bestellungen aufgeben,
versuchen, auf private, geschützte oder Administratorbereiche zuzugreifen,
personenbezogene Daten zu erheben oder Zugriffskontrollen zu umgehen.
So steuern Sie ihn

Jedes Crawling wird durch eine einzige robots.txt-Regel gesteuert.

Alle unsere Crawler nutzen dasselbe TokenWordPrestoBot, daher reicht eine Regel aus.

Vollständig blockieren robots.txt
User-agent: WordPrestoBot
Disallow: /
Nur bestimmte Bereiche blockieren robots.txt
User-agent: WordPrestoBot
Disallow: /private/
Disallow: /checkout/
Oder legen Sie eine Crawling-Verzögerung fest robots.txt
User-agent: WordPrestoBot
Crawl-delay: 10

Die Änderungen treten bei unserem nächsten Besuch in Kraft. Wir halten uns anrobots.txt, sodass eine Sperre beachtet wird, ohne dass Sie uns kontaktieren müssen.

Wie Sie ihn erkennen

Bei jeder Anfrage ehrlich.

  • User-Agent-Token WordPrestoBot
  • Jede Anfrage führt zurück zu dieser Seite +https://wordpresto.com/prestobot
  • Bei manchen Abrufen wird eine kurze Notiz hinzugefügt die die konkrete Aktion beschreibt, zum Beispielread-only single page oder sitemap and llms.txt only. Gleicher Token, gleiche Regeln.
SPOOFING

Sollte eine Anfrage vorgeben, von WordPrestoBot zu stammen, jedoch keinen Link zu dieser Seite enthalten, betrachten Sie diese bitte als Fälschung und blockieren Sie sie gegebenenfalls.

nicht wir →
Haben Sie Fragen oder Anliegen?

Sollte dies zu Problemen führen, ist die oben genannte robots.txt-Regel die schnellste Lösung.

Sie können uns auch unter folgender Adresse erreichen:[email protected]Teilen Sie uns die Domain mit, und wir helfen Ihnen weiter. Wenn Sie möchten, dass WordPrestoBot Ihre Website nicht mehr besucht, sorgt eine disallow-Regel dafür, dass dies bei unserem nächsten Besuch unterbleibt.

Möchten Sie wissen, was es sich angesehen hat?

Dieselbe Inhaltsprüfung, die es für unsere Nutzer durchführt, kann auch für Ihre Website durchgeführt werden.

Word Presto unterstützt Autoren, Redakteure und Redaktionsteams bei der Planung, Erstellung von Briefings, dem Verfassen, der Überprüfung und der Aufbereitung von Inhalten für Suchmaschinen, Leser und die Übergabe an das CMS.

PAPIER · TINTE · SIGNAL · STEUERUNG