Bot Guard видел этот User-Agent на 1 сайте из 67 подключённых (1%). Первое появление в нашей статистике: 19.03.2025, последнее: 19.03.2025. Всего за это время зафиксировано 30 визитов.

По строке определяется: название клиента — Arquivo-web-crawler.

Вердикт: краулер или служебный бот. Основания: явных противоречий в строке нет; в статистике 1 сайта, 30 визитов. Это оценка по строке и поведению, а не доказательство: по одному User-Agent нельзя гарантировать, что за ним бот или человек.

Влияние такого бота зависит от того, как часто он ходит и что запрашивает. Он может нагружать сервер и засорять журнал, а посетителей на сайт обычно не приводит.

Чтобы отличить бота от человека, сверьте несколько признаков: наличие заголовка Accept-Language, выполнение JavaScript, куки между запросами, скорость обхода и принадлежность IP датацентру. По одному признаку вывод делать нельзя.

Запросы этого клиента легко найти в журнале по подстроке «Arquivo-web-crawler». Ниже примеры для подсчёта обращений, для nginx и для PHP. Строку лучше сверять без учёта регистра.

# сколько запросов в журнале nginx
grep -i "Arquivo-web-crawler" /var/log/nginx/access.log | wc -l

# nginx: пометить запросы клиента
map $http_user_agent $is_client {
    default 0;
    ~*Arquivo-web-crawler 1;
}

// PHP: определить клиента
if (stripos($_SERVER['HTTP_USER_AGENT'] ?? '', 'Arquivo-web-crawler') !== false) {
    // ваша логика: пропустить, ограничить или заблокировать
}

Робот, соблюдающий правила, читает robots.txt до обхода страниц. Чтобы закрыть сайт целиком или только один раздел, добавьте правило с названием клиента. robots.txt рекомендательный: подделки и недобросовестные боты его игнорируют, для них нужна блокировка на сервере.

# закрыть весь сайт
User-agent: Arquivo-web-crawler
Disallow: /

# закрыть только раздел
User-agent: Arquivo-web-crawler
Disallow: /private/

# разрешить всё
User-agent: Arquivo-web-crawler
Allow: /

Определите по логам, зачем бот ходит на сайт. Если нагрузка заметна или он собирает данные, закройте его правилом в robots.txt, а при игнорировании правил блокируйте по IP.