Проблема с ИИ-краулерами: Как они нагружают серверы сайтов

Многие владельцы веб-ресурсов выражают недовольство по поводу значительного числа ботов, создающих нагрузку на их серверы, особенно краулеров для искусственного интеллекта. Согласно отчету Fastly, такие боты могут генерировать до 39 тысяч запросов в минуту. В 2025 году нагрузка от скраперов увеличилась на 87%, причем основным источником трафика являются RAG-скраперы. В настоящее время ИИ-краулеры составляют около 80% всего трафика ИИ-ботов, в то время как 20% приходится на фетчеры, которые вызывают серьезные пики нагрузки. Например, ClaudeBot отправил миллион запросов за день на iFixit.com и 3,5 миллиона за четыре часа на Freelancer.com.

Понравилась статья? Поделиться с друзьями: