Удаление сайта
Для удаления сайта из поисковой системы LetSearch.ru следует запретить его индексирование, добавив в файл robots.txt следующие строки:
User-agent: LetsearchBot
Disallow: /
При очередном обходе сайта робот LetSearch.ru загрузит файл robots.txt и, eсли индексация сайта будет запрещена, удалит его из поискового индекса.
Робот считает, что индексирование сайта разрешено, если:
- файл robots.txt отсутствует или не является текстовым
- файл robots.txt недоступен — ответ на запрос робота отличается от HTTP-кода со статусом 200 OK