Bots außer Kontrolle
Ich weiß ja nicht, wie das andere Webseitenbetreiber sehen, aber ich finde es sehr frech von den Suchmaschinen und deren Robots, wenn diese ungefragt mal in's Blaue hinein URLs erfinden (Dateinamen weglassen, Pfade beschneiden, Standard-URL-Fragmente beliebter Blog- und CMS-Software anhängen, etc.), die es nirgendwo verlinkt gibt, und diese dann auch noch im Sekundentakt versuchen aufzurufen.
Ist das jetzt die neueste Masche im Kampf um Marktanteile und das kleine Quentchen an möglichen mehr Seiten im Index?
Ich bin schockiert...
29.02.2008 · spät nachts · Webzeug
7 Kommentare
Dominik schrieb am 29.02.2008 um 07:16 Uhr:
Wenn's nur der Kampf um Marktanteile wäre... Die hoffen, unsichere WordPresse und phpBBs etc. zu finden und den Artikeln dort automatisiert Spamlinks unterzuschieben oder über sie Mails rauszufeuern.
Pepino schrieb am 29.02.2008 um 08:46 Uhr:
ähhh, Die Suchmaschinen-Bots von z.B. Yahoo machen das?
Ich meinte eigentlich genau diesen unintelligenten Bot von ehemals Big-Y.
Dominik schrieb am 29.02.2008 um 09:19 Uhr:
Öhm. Tja, wer weiß wie die jetzt zu Geld kommen müssen, um nicht von Microsoft gekauft zu werden?
Boris schrieb am 29.02.2008 um 10:46 Uhr:
Solche Bots sperre ich aus. Fertig.
Pepino schrieb am 01.03.2008 um 01:55 Uhr:
@Boris: Du hast Yahoo ausgesperrt?
Boris schrieb am 01.03.2008 um 10:24 Uhr:
Yep. Auch Google und MSN. Letztere beiden schalte ich ab und zu mal für ein oder zwei Tage frei und lasse sie scannen. Dann haben sie alle neuen Artikel und gut ist.
Ich habe mir das früher eine Zeit lang angeschaut und festgestellt, dass eigentlich gar kein Grund besteht, dass diese tumben Dinger alle paar Tage das gesamte Blog Link für Link scannen, nur um drei neue Artikel zu indizieren.
Pepino schrieb am 02.03.2008 um 00:02 Uhr:
Ist eigentlich eine ganz vernünftige und gesunde Einstellung!
Kommentar hinzufügen
Thematisch dazu passend:
- Yahoo-Slurp gedrosselt (1 Kommentar)
- Wir sind das Volk (1 Kommentar)
- search engine control (5 Kommentare)
- richtige Dateinamen (9 Kommentare)
- PHP: robots.txt und Highlighter (1 Kommentar)