# robots.txt for http://www.perlen-glanz.de # Zugriff auf alle Dateien erlauben mit Ausnahme der Dateien die noch im Baustadium sind und fehler enthalten # Die fehlerhafte Dateien werden ausgenohmen damit nur qualitative Seiten durchgecrawlt werden und von den Suchmaschinen akzeptiert weden. # Sternchen bedeutet alle Suchmaschinen # im Disallow befinden sich Sieten die Ausnahme darstellen User-agent: * Disallow: /experiment/ Disallow: /archiv/ Disallow: /newproject/