Archiv - robots.txt - seo

mhn
Wenn man das Archiv anhat könnte Googlr ja denken, dass es doppelter Inhalt ist und einen aus dem Index kicken.
Deswegen habe ich mir folgendes für die robots.txt überlegt:

Würde dashier gehen:
User-agent: *
Disallow: /bilder/
User-agent: Googlebot
Disallow: ../wbb2/thread.php

die robots.txt ist im Ordner ..beispiel/site/
und das wbb aber im Ordner ..beispielwbb2/
Henrik
das archiv ist ja genau dazu da, dass google überhaupt was findet.
weil normalerweise kann google mit den sonderzeichen im adressfeld nix anfangen, deshalb ja das archiv (ohne sonderzeichen)
Windapple
robots.txt muss immer im root der Webseite sein. Also bei www.test.de wäre das www.test.de/robots.txt.

Dann wären die Einträge so:

User-agent: *
Disallow: /beispiels/site/bilder/
User-agent: Googlebot
Disallow: /beispiel/wbb2/thread.php
mhn
das Forum ist aber nicht im gleichen verzeichniss wie die seite sondern in einem anderen verzeichniss und auch nicht in ../www/html/site/wbb2 sondern in ../www/html/wbb2

und liegt auf ner Subdomain.
Ste
die robots.txt muss im rootverzeichnis der subdomain liegen, egal wo auf dem server sich der Ordner befindet.

sub.domain.tld/wbb2/ muss die robotst.txt halt unter sub.domain.tld/robots.txt zu finden sein

was hat den an meiner robots.txt den nicht gepasst?

http://www.woltlab.de/de/forum/thread.ph...3769#post553769