Mozilla/5.0 (compatible; Googlebot/2.1; http://www.google.com/bot.html)
Строка User-Agent идентифицирует официального поискового робота Google (Googlebot).
Строка принадлежит верифицированному поисковому роботу Google, который необходим для индексации контента сайта. Блокировка приведет к исчезновению страниц из поисковой выдачи.
Bot-guard.ru автоматически распознаёт и блокирует ботов вроде этого — без ручного ведения списков User-Agent. Подключение занимает несколько минут, сейчас сервис в открытом бесплатном тестировании.
Подключить бесплатно