К чему применяются ограничения#
- По IP-адресу: самый распространённый вариант. Прямое решение — ротация резидентских прокси.
- По сессии или файлу cookie: ротация не поможет; регулируйте темп в рамках сессии.
- По учётной записи: сетевые средства не помогут; это бизнес-правило сайта.
- По ASN или стране: встречается редко, но для хостинговых диапазонов предел часто ниже, чем для резидентских.
Разумные настройки по умолчанию#
Распределяйте запросы в течение дня, поддерживайте для каждого домена частоту, которую мог бы правдоподобно создавать человек через один выходной узел, снижайте темп при ответе 429 в соответствии с заголовком Retry-After и кэшируйте неизменяемые данные. Пул позволяет работать как множество добросовестных посетителей, а не как один недобросовестный.
Как это работает в HodlProxy#
Шлюзы HodlProxy не ограничивают частоту запросов и сами никогда не возвращают 429; такой ответ поступает только от целевого ресурса. Клиент отвечает за частоту запросов к каждому домену, а политика допустимого использования запрещает атаки на любые цели.