» Suchmaschinenbots erkennen, aber nicht übertreiben!

mgutt · 20.02.2009, 02:22

Mir ist gerade aufgefallen, dass ich an die 100 verschiedenen Bot-Kennungen jedesmal prüfe, sobald ein Gast auf die Seite kommt.

Das macht wenig Sinn, denn grundlegend geht es bei der Boterkennung, nur um zwei Dinge:

die Sessions-Datenbank soll von Bots nicht belastet werden
die Session-IDs sollen nicht in den URLs auftauchen

Daher habe ich die ganzen Regeln entfernt und prüfe nur noch ob diese Textstrings im USER_AGENT vorkommen:
bot, crawler, java, search & spider

Wenn einer der Wörter auch nur zum Teil z.B. bei Googlebot oder MSNBOT das "bot" oder beim Yahoo! Slurp in der URL das "search", dann wird der Besucher als Bot gewertet. Alle anderen Bots, die nicht bei dieser Prüfung erfasst werden, sind in aller Regel uninteressant.

Damit konnte ich die 100 Regeln auf gerade mal 5 reduzieren. Das macht viel aus, denn die Bots können nur über eine Schleife geprüft werden und umso weniger es sind umso schneller ist die Schleife bekanntlich beendet.

Wer also eine Boterkennung hat, sollte ebenfalls darüber nachdenken.

programmierer-forum.de · Gast

Mach mit!

Wenn Dir die Beiträge zum Thread "Suchmaschinenbots erkennen, aber nicht übertreiben!" gefallen haben oder Du noch Fragen hast oder Ergänzungen machen möchtest, solltest Du Dich gleich bei uns anmelden:

Registrierte Mitglieder genießen die folgenden Vorteile:
✔ kostenlose Mitgliedschaft
✔ keine Werbung
✔ direkter Austausch mit Gleichgesinnten
✔ neue Fragen stellen oder Diskussionen starten
✔ schnelle Hilfe bei Problemen
✔ Bilder und Videos hochladen
✔ und vieles mehr...

Autor	Nachricht
mgutt Administrator Name: Marc Geschlecht: Anmeldedatum: 28.08.2004 Beiträge: 52423 Wohnort: Lohmar Meine eBay-Auktionen:	20.02.2009, 02:22 zitieren Mir ist gerade aufgefallen, dass ich an die 100 verschiedenen Bot-Kennungen jedesmal prüfe, sobald ein Gast auf die Seite kommt. Das macht wenig Sinn, denn grundlegend geht es bei der Boterkennung, nur um zwei Dinge: die Sessions-Datenbank soll von Bots nicht belastet werden die Session-IDs sollen nicht in den URLs auftauchen Daher habe ich die ganzen Regeln entfernt und prüfe nur noch ob diese Textstrings im USER_AGENT vorkommen: bot, crawler, java, search & spider Wenn einer der Wörter auch nur zum Teil z.B. bei Googlebot oder MSNBOT das "bot" oder beim Yahoo! Slurp in der URL das "search", dann wird der Besucher als Bot gewertet. Alle anderen Bots, die nicht bei dieser Prüfung erfasst werden, sind in aller Regel uninteressant. Damit konnte ich die 100 Regeln auf gerade mal 5 reduzieren. Das macht viel aus, denn die Bots können nur über eine Schleife geprüft werden und umso weniger es sind umso schneller ist die Schleife bekanntlich beendet. Wer also eine Boterkennung hat, sollte ebenfalls darüber nachdenken. Gefällt mir Teilen twittern
▲	pn email

programmierer-forum.de Gast	20.02.2009, 02:22 zitieren Mach mit! Wenn Dir die Beiträge zum Thread "Suchmaschinenbots erkennen, aber nicht übertreiben!" gefallen haben oder Du noch Fragen hast oder Ergänzungen machen möchtest, solltest Du Dich gleich bei uns anmelden: Registrierte Mitglieder genießen die folgenden Vorteile: ✔ kostenlose Mitgliedschaft ✔ keine Werbung ✔ direkter Austausch mit Gleichgesinnten ✔ neue Fragen stellen oder Diskussionen starten ✔ schnelle Hilfe bei Problemen ✔ Bilder und Videos hochladen ✔ und vieles mehr...
▲

	Re: √	Letzter Beitrag
Synology NAS läuft, aber nicht erreichbar (anpingen geht auch nicht) Ich habe seit gerade eben das Problem, dass ich nicht mehr auf das NAS zugreifen kann. Ping auf die feste IP geht nicht. Die Fritz!Box zeigt aber an, dass die IP vergeben wurde und zeigt das NAS als "CloudStation" an. Ich komme weder auf das... von mgutt	3 59.176	07.03.2014, 19:18 mgutt
EJ9 Hupe geht nicht mehr Relais vorhanden aber Kabel nicht mehr Hier mein Problem EJ9 Baujahr 1995 Hupe macht nicht nicht mal nen „Klick“ das geile es gehen zwar die Kabel vom Lenkrad weg (BlauRot) gehen aber nicht zum Relais was eigentlich dafür zuständig ist finde auch kein Kabel was da rein passt Hab schon alles... von EJ9Spike	10 551	13.05.2018, 11:13 EJ9Spike
So kommt man aber nicht auf die Website Ok, der ist nerdig, aber ich fands lustig... von mgutt	5 303	06.12.2011, 08:09 mgutt
ZV öffnet aber schließt nicht Hi Leute! Der Titel des Threads sagt schon fast alles. Bei meinem 94 Del Sol öffnet sich zwar die Türverriegelung, wenn man an der Fahrertür aufsperrt, aber sie verriegelt nicht. Jetzt habe ich mal die Türverkleidung beifahrerseitig demontiert und... von LoRDxRaVeN	3 320	19.08.2011, 07:39 LoRDxRaVeN
Endstufe Funzt aber SUB nicht ??? Hiho , Habe eben Karre wieder zusammen gebaut. Endstufe geht , jedenfalls leuchtet Power Grün :D. Aber der Sub geht nicht ! kommt nichts raus =(. Woran kanns liegen? Masse hab ich Schraube von Rücksitzbank genommen und schön Blank geschliffen!.... von Destiny	4 3.392	24.02.2012, 16:54 Destiny
Motorwarnleuchte funzt nicht, aber Glühbirne ist ok Hi Leute...bei meinem EC8 leuchtet die Motorwarnleuchte (ist ein D13B2 mit Steuergerät) garnicht, aber die Glühbirne ist ok, habs getestet...woran kann es nun... von RH.onda	7 138	18.10.2009, 18:35 honda civic DX
hi, nicht neu, aber jetzt angemeldet mit einstand hallo, ich habe es endlich mal geschaft mich anzumelden, weis nicht warum es so lange nicht gegangen ist, aber jetzt kann ich auch posten. und so will ich ein paar sachen posten als einstand von denen ich denke das sie sehr hilfreich sind. wenn das hier... von mik21	1 252	27.10.2013, 14:08 mik21
Nintendo DSi WPA2 will nicht, WPA geht aber Hi, ich habe meine Fritz Box auf WPA+WPA2 eingestellt. Die PCs laufen alle mit WPA2, aber beim DSi bekomme ich einfach nur eine Fehlermeldung: Keine Verbindung zum Access Point möglich. Bitte überprüfe die Verbindungseinstellungen und die... von mgutt	3 2.848	25.01.2011, 14:25 mgutt
EH6 Bj.96 Motor orgelt startet aber nicht Hi, mein CRX startet nicht mehr wenn ich den Schlüssel umdrehen Stellung 2 ist ein klicken und surren zu hören. Motorkontrollleuchte geht aus. Wenn ich starten möchte (Schlüsselstellung 3 halten) orgelt er nur. Was könnte die Ursache sein ? Der CRX stand... von Salin	9 285	04.01.2015, 13:56 Salin
Crx Vti Springt nicht an - aber nur im warmen zustand Hiho, Bin per Google auf dieses Forum gestoßen und hoffe, ihr könnt mir weiterhelfen. Ich fahre einen Crx del sol Vti (eg2) und bin sehr zufrieden damit - vor allem mit der Leistung :D Seit kurzem macht er aber probleme was das Startverhalten... von CrxDelSol86	14 2.389	27.08.2007, 08:46 sense08