Robots.txt: czego nie robić? Steruj Googlebotem jak chcesz!

Istnieją w internecie popularne witryny, z olbrzymią liczbą linków przychodzących, których podstrony są blokowane na poziomie pliku robots.txt przed robotami wyszukiwarek, wyrządzając ich pozycjonowaniu dużą krzywdę. Czy twoja witryna także ma błędy w robots.txt? Z poniższego tekstu dowiesz się jak roboty wyszukiwarek traktują zablokowane w robots.txt pliki, pośmiejesz się z webmasterów znanych witryn i popełnionych przez nich błędów oraz dowiesz się, jak samemu takich błędów nie popełnić.