Лоханулся с disallow

давно не смотрел нововведения в robots.txt, но вот смотрю вроде каталог запрещен к индексации, а индексация идет.. полез в веб-мастер Яндекса, ввел урл., жму проверку — разрешен, чешу репу, disallow есть, адрес точный, Яндекс как надо роботс съел, и разрешен… что за зах?

Полез копаться, оказалось если писать как 3-4 года назад по схеме
User-agent: *
Host: URL
Disallow:
Disallow: /adres/

уже не катит, если в начале стоит все разрешено, дальше не читает!
убираем:
User-agent: *
Host: URL
Disallow: /adres/

Вуаля, запрещено… проверяйте ;)

Опубликовал 10th Ноябрь 2011.
Размещено в Работа.
Метки: .



Оставить комментарий или два