Главное Авторские колонки Вакансии Образование
443 5 В избр. Сохранено
Авторизуйтесь
Вход с паролем

Проблемы в жизни сборщиков информации

Уже пару месяцев мы в тестовом режиме собираем цены с сайта ГлобусГурме и бережно храним их у себя на сервере. Однако в эту пятницу наш сборщик был заблокирован по айпи и не смог выполнить свою миссию.
Мнение автора может не совпадать с мнением редакции

Хочется надеяться, что техническая служба магазина заблокировала нас из-за подозрительной активности, а не из-за желаний спрятать свои цены.

От себя добавлю, что можно вообще ценники закрывать сами знаете какими тряпками и для онлайна это будет не меньше глупостью, чем для оффлайна.

Решение

Первое, что мы сделали, отправили запрос в администрацию торговой сети. Результата это никакого не принесло, по крайней мере пока.

Однако цены нам нужно получать каждый день, поэтому мы реализовали следующую логику: каждый сборщик перед выходом на работу получает новый айпи через прокси, с помощью которого он анонимно собирает нужные ему данные.

Тестирование и внедрение решения заняло несколько субботних часов, однако мы добились быстрого восстановления работы сервиса и уже успешно собрали новый набор данных.

Итоги

Перекрывать доступ к данным, которые уже опубликованы в интернете, малоэффективно и требует серьезных технических решений. Время на разработку которых лучше пустить в более созидательное русло :)

В заключение хочу сказать, что мы очень ждем от магазинов именно сотрудничества, чтобы вместе внедрять нужные и полезные сервисы.

Подписывайтесь и следите за обновлениями! :)

0
В избр. Сохранено
Авторизуйтесь
Вход с паролем