Przykłady zastosowania pliku robots.txt

Roboty.txt

Plik robots.txt – co to jest i jak go używać? Plik robots.txt to prosty plik tekstowy, który pozwala webmasterom kontrolować sposób, w jaki roboty wyszukiwarki indeksują ich witryny. Plik ten znajduje się w głównym katalogu witryny i jest dostępny dla…