Mozilla/5.0 (compatible; ExaSearchBot/1.0; +https://crawler.exa.ai/)

ExaSearchBot 1.0 — автоматический клиент, владелец которого по строке не указан. Обычно такие клиенты приходят на сайты для автоматического обхода страниц без участия человека.

Обычно такие клиенты запускаются для автоматического сбора информации или анализа сайтов. Они приходят на сайт в целях проведения исследований или мониторинга ресурсов.

Bot Guard видел этот User-Agent на 14 сайтах из 54 подключённых (26%). Первое появление в нашей статистике: 04.08.2026, последнее: 16.10.2026. Всего за это время зафиксировано 373 401 визит. В среднем это около 5046 визитов в день за 74 дня наблюдений.

По строке определяется: название клиента — ExaSearchBot версии 1.0. Часть токенов, например Mozilla/5.0, исторически есть почти у всех браузеров и ничего не говорят о реальном клиенте.

Вердикт: краулер или служебный бот. Основания: явных противоречий в строке нет; с 01.10.2026 защита Bot Guard сработала на этот User-Agent 1 506 раз на 6 сайтах (ротация IP (прокси-пул): 1 482; аномальная частота запросов: 23; запрос с адреса облачного провайдера: 1); запросы шли из сетей: Google Cloud (1), AWS (1); в статистике 14 сайтов, 373 401 визитов. Это оценка по строке и поведению, а не доказательство: по одному User-Agent нельзя гарантировать, что за ним бот или человек.

Влияние такого бота зависит от того, как часто он ходит и что запрашивает. Он может нагружать сервер и засорять журнал, а посетителей на сайт обычно не приводит.

По строке нельзя понять, настоящий ли это бот: User-Agent пишет сам клиент. Смотрите на поведение: запрашивает ли он robots.txt, соблюдает ли паузы, выполняет ли JavaScript и принимает ли куки. Роботы обычно не делают ни того, ни другого.

Запросы этого клиента легко найти в журнале по подстроке «ExaSearchBot». Ниже примеры для подсчёта обращений, для nginx и для PHP. Строку лучше сверять без учёта регистра.

# сколько запросов в журнале nginx
grep -i "ExaSearchBot" /var/log/nginx/access.log | wc -l

# nginx: пометить запросы клиента
map $http_user_agent $is_client {
    default 0;
    ~*ExaSearchBot 1;
}

// PHP: определить клиента
if (stripos($_SERVER['HTTP_USER_AGENT'] ?? '', 'ExaSearchBot') !== false) {
    // ваша логика: пропустить, ограничить или заблокировать
}

Робот, соблюдающий правила, читает robots.txt до обхода страниц. Чтобы закрыть сайт целиком или только один раздел, добавьте правило с названием клиента. robots.txt рекомендательный: подделки и недобросовестные боты его игнорируют, для них нужна блокировка на сервере.

# закрыть весь сайт
User-agent: ExaSearchBot
Disallow: /

# закрыть только раздел
User-agent: ExaSearchBot
Disallow: /private/

# разрешить всё
User-agent: ExaSearchBot
Allow: /

Не блокируйте вслепую: сначала посмотрите, что клиент запрашивает и как часто. Безопасный путь — ограничить частоту запросов и закрыть служебные разделы в robots.txt, а при нагрузке или игнорировании правил блокировать по IP.