
Главная
Новости
Яндекс сообщает..
Формат robot.txt расширен
21.12.2007
Веб-мастера используют файл robots.txt, чтобы довести до сведения поискового робота, какие страницы и разделы сайта должны быть индексированы, а какие – нет. Для крупных сайтов писать правила индексации нелегко, потому что стандартами предусмотрен ограниченный набор директив. Эта задача упрощена теперь с помощью Яндекса. В файле robots.txt стала возможна поддержка директивы Allow, спецсимволов "*" и "$".
Пользователи могут ознакомиться с конкретными примерами интерпретации директив robots.txt в разделе «Помощь». Теперь «договориться» с поисковой системой Яндекса станет проще.