Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/145.0.0.0 Safari/537.36 (compatible; meta-externalagent/1.1 (+https://developers.facebook.com/docs/sharing/webmasters/crawler))

meta-externalagent 1.1 — краулер ИИ-сервиса Meta. Обычно такие клиенты приходят для сбора текстов страниц для обучения моделей или для ответов пользователям.

Краулеры ИИ-сервисов, управляемые Meta, обычно запускаются для сбора текстов с сайтов с целью обучения моделей или предоставления ответов пользователям. Эти краулеры могут появляться на сайтах в различных случаях, связанных с процессами обучения и улучшения ИИ-систем.

Bot Guard видел этот User-Agent на 13 сайтах из 54 подключённых (24%). Первое появление в нашей статистике: 03.07.2026, последнее: 16.10.2026. Всего за это время зафиксировано 4 150 350 визитов. В среднем это около 39154 визитов в день за 106 дней наблюдений.

По строке определяется: название клиента — meta-externalagent версии 1.1; операционная система — macOS 10.15.7; тип устройства — компьютер Mac; движок — WebKit 537.36. Часть токенов, например Mozilla/5.0 и KHTML, like Gecko, исторически есть почти у всех браузеров и ничего не говорят о реальном клиенте.

Вердикт: краулер или служебный бот. Основания: явных противоречий в строке нет; с 01.10.2026 защита Bot Guard сработала на этот User-Agent 1 888 раз на 6 сайтах (User-Agent из списка нежелательных ботов: 1 684; ротация IP (прокси-пул): 109; ip_blocked: 86; аномальная частота запросов: 5; shared_reputation: 4); запросы шли из сетей: Google Cloud (2); в статистике 13 сайтов, 4 150 350 визитов. Это оценка по строке и поведению, а не доказательство: по одному User-Agent нельзя гарантировать, что за ним бот или человек.

ИИ-краулер читает тексты страниц, поэтому при частом обходе заметно нагружает сервер, но посетителей на сайт не приводит. Будет ли ваш контент использоваться для обучения и ответов ИИ, определяют правила в robots.txt.

Настоящий ИИ-краулер приходит с адресов своей компании и учитывает правила robots.txt. Если запросы идут с обычного хостинга и не запрашивают robots.txt, это, скорее всего, подделка под meta-externalagent.

Запросы этого клиента легко найти в журнале по подстроке «meta-externalagent». Ниже примеры для подсчёта обращений, для nginx и для PHP. Строку лучше сверять без учёта регистра.

# сколько запросов в журнале nginx
grep -i "meta-externalagent" /var/log/nginx/access.log | wc -l

# nginx: пометить запросы клиента
map $http_user_agent $is_client {
    default 0;
    ~*meta-externalagent 1;
}

// PHP: определить клиента
if (stripos($_SERVER['HTTP_USER_AGENT'] ?? '', 'meta-externalagent') !== false) {
    // ваша логика: пропустить, ограничить или заблокировать
}

Робот, соблюдающий правила, читает robots.txt до обхода страниц. Чтобы закрыть сайт целиком или только один раздел, добавьте правило с названием клиента. robots.txt рекомендательный: подделки и недобросовестные боты его игнорируют, для них нужна блокировка на сервере.

# закрыть весь сайт
User-agent: meta-externalagent
Disallow: /

# закрыть только раздел
User-agent: meta-externalagent
Disallow: /private/

# разрешить всё
User-agent: meta-externalagent
Allow: /

Решение зависит от вашей политики по ИИ: разрешить или запретить использование контента. Управляйте этим через robots.txt, добавив правило для meta-externalagent. Подделки под такого бота блокируйте по IP.