Бывает так, что в одной cms хоститься несколько сайтов, которые, в свою очередь, имеют свои правила для роботов. Например, самый простой случай - один сайт уже доступен юзерам, а второй - еще только наполняется контентом, и, соотвественно, не должен быть проиндексирован в таком незаконченном состоянии
Честно говоря, решение просто и лежит на поверхности - использовать механизм изменения URL (mod_rewrite у apache, helicon ISAPI rewrite или URL Rewrite у iis) для того, чтобы перенаправлять запрос на нужный robots.txt в зависомости от хостнейма, на который пришел запрос.
То есть, должна получиться вот такая вот конструкция:
^(robots.txt)$ rewrite needed_file if {HTTP_HOST} - ^needed_host$
Вроде как понятно объяснил :). Если непонятно, спрашивайте в комментариях, приведу рабочий пример
Нормально описано. Не знай хорошо или плохо?