Парсинг на GET-запросах в многопотоке, нужна ли каждый раз авторизация?

DrDrakeRamore

Новичок
Регистрация
08.01.2019
Сообщения
7
Благодарностей
2
Баллы
3
Приветствую, всех форумчан! Поздравляю с наступающими праздниками и желаю в Новом году минимум Х2 к профиту!

Подскажите пожалуйста такой вопрос, есть сайт и написан парсер на ГЕТ-запросах
Есть уже собранный список юзеров, цель собрать их данные из профилей в многопотоке - в рамках одной сессии все работает хорошо.

На сайте нужна авторизация, написать ее на запросах также не будет проблемой, но я так понимаю, что при каждом следующем выполнении шаблон будет авторизироваться каждый раз снова и снова.
А это как бы не есть хорошо, как можно реализовать это в многопотоке, чтобы каждый поток авторизировался всего один раз и выполнял сбор беря строку из списка пока собственно юзеры в нем не закончатся.
Пробовать лишний раз что-то боюсь поскольку сайт очень капризный регистрацию на нем одобряют админы вручную в течение суток и не всегда с первого раза, а бан на раз два можно отхватить.

Либо можно просто начать сессию, взять куки и прописать их в запросе и тогда авторизация не будет нужна?

Скорее всего ответ очевиден, но что-то не могу сам додумать.
Буду очень признателен за помощь!
 
  • Спасибо
Реакции: Phoenix78

BAZAg

Client
Регистрация
08.11.2015
Сообщения
1 767
Благодарностей
2 414
Баллы
113
Регистрируемся.
Авторизируемся.
Сохраняем куки например в табличку.
Поток стартанул - взял куки с удалением с таблички (другой поток уже не возьмет).
Взяли ссылку на нужного пользователя (также с удалением).
Произвели парсинг.
Сохранили собранные данные.
Вернули куки в табличку.
Завершили работу.


При такой логике - авторизация не должна выполняться несколько раз.
 
  • Спасибо
Реакции: DrDrakeRamore

PlayerT7

Client
Регистрация
15.12.2011
Сообщения
31
Благодарностей
5
Баллы
8
Либо можно просто начать сессию, взять куки и прописать их в запросе и тогда авторизация не будет нужна?
Сохрани профиль. Во вкладке "Дополнительно" экшена GET запрос используй Заголовки: Загрузить из профиля https://prnt.sc/qgt662
Можно для перестраховки сохранять каждый раз профиль где-нибудь в конце шаблона.
 
  • Спасибо
Реакции: DrDrakeRamore

DrDrakeRamore

Новичок
Регистрация
08.01.2019
Сообщения
7
Благодарностей
2
Баллы
3
Сохрани профиль. Во вкладке "Дополнительно" экшена GET запрос используй Заголовки: Загрузить из профиля https://prnt.sc/qgt662
Можно для перестраховки сохранять каждый раз профиль где-нибудь в конце шаблона.
Должно сработать! Спасибо!
 
  • Спасибо
Реакции: Phoenix78

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)