Mozilla/5.0 (Linux; Android 5.0) AppleWebKit/537.36 (KHTML, like Gecko) Mobile Safari/537.36 (compatible; Bytespider; spider-feedback@bytedance.com)

Bytespider — краулер ИИ-сервиса ByteDance. Такие клиенты обычно собирают тексты страниц для обучения моделей или для ответов пользователям.

Краулеры ИИ-сервисов, такие как Bytespider, обычно запускаются для сбора текстов страниц с различных сайтов с целью обучения моделей или ответов пользователям. Владелец Bytespider — компания ByteDance.

Bot Guard видел этот User-Agent на 40 сайтах из 53 подключённых (75%). Первое появление в нашей статистике: 28.09.2023, последнее: 14.10.2026. Всего за это время зафиксировано 632 053 визита. В среднем это около 568 визитов в день за 1113 дней наблюдений.

По строке определяется: название клиента — Bytespider; операционная система — Android 5.0; тип устройства — смартфон или планшет на Android; движок — WebKit 537.36. Часть токенов, например Mozilla/5.0 и KHTML, like Gecko, исторически есть почти у всех браузеров и ничего не говорят о реальном клиенте.

Вердикт: краулер или служебный бот. Основания: явных противоречий в строке нет; с 01.10.2026 защита Bot Guard сработала на этот User-Agent 25 951 раз на 3 сайтах (User-Agent из списка нежелательных ботов: 25 729; ротация IP (прокси-пул): 216; аномальная частота запросов: 6); запросы шли из сетей: AWS (25 726), Google Cloud (2); в статистике 40 сайтов, 632 053 визитов. Это оценка по строке и поведению, а не доказательство: по одному User-Agent нельзя гарантировать, что за ним бот или человек.

Такой краулер собирает контент для ИИ-сервиса. Прямого трафика он не даёт, зато увеличивает число запросов в журнале и может создавать нагрузку при частом обходе. Решение разрешить или запретить его принимается политикой сайта.

Название бота в User-Agent может написать кто угодно. Надёжный способ — сверить IP клиента с официальными диапазонами компании ByteDance и убедиться, что робот читает robots.txt до обхода страниц.

Запросы этого клиента легко найти в журнале по подстроке «Bytespider». Ниже примеры для подсчёта обращений, для nginx и для PHP. Строку лучше сверять без учёта регистра.

# сколько запросов в журнале nginx
grep -i "Bytespider" /var/log/nginx/access.log | wc -l

# nginx: пометить запросы клиента
map $http_user_agent $is_client {
    default 0;
    ~*Bytespider 1;
}

// PHP: определить клиента
if (stripos($_SERVER['HTTP_USER_AGENT'] ?? '', 'Bytespider') !== false) {
    // ваша логика: пропустить, ограничить или заблокировать
}

Робот, соблюдающий правила, читает robots.txt до обхода страниц. Чтобы закрыть сайт целиком или только один раздел, добавьте правило с названием клиента. robots.txt рекомендательный: подделки и недобросовестные боты его игнорируют, для них нужна блокировка на сервере.

# закрыть весь сайт
User-agent: Bytespider
Disallow: /

# закрыть только раздел
User-agent: Bytespider
Disallow: /private/

# разрешить всё
User-agent: Bytespider
Allow: /

Хотите, чтобы ваш контент попадал в ответы ИИ, оставьте доступ для Bytespider. Если нет, закройте его правилом в robots.txt. Запросы с адресов вне сетей компании ByteDance можно блокировать как подделку.