Как парсить Пuнтepecт?

Nakus

Client
Регистрация
28.09.2013
Сообщения
156
Благодарностей
33
Баллы
28
Не пойму как отлавливать запрос.
Собственно, нужно по запросу положить в список список URL на картинки, а дальше их скачать. (1к картинок даже много)
(идеальный вариант - это положить в список урл картинок, за которые хоть кто-то голосовал, но это не принципиально)

Сабж, если не сложно, покажите "на пальцах" как отлавливать, как парсить, есть ли сложности с проксями и тп...

Кусок блоков - придел мечтаний!!!
 

Valiksim

Client
Регистрация
14.04.2012
Сообщения
1 342
Благодарностей
298
Баллы
83
Регистрируешься. Берёшь DOM, и спарсиваешь (откуда тебе надо) то, что по ссылке с признаком "/pin/"
Дальше, уже с этих ссылок парсишь большую картинку. Это кратко
 

Nakus

Client
Регистрация
28.09.2013
Сообщения
156
Благодарностей
33
Баллы
28
Проблема в подгрузке всех картинок
 

rostonix

Известная личность
Регистрация
23.12.2011
Сообщения
29 067
Благодарностей
5 707
Баллы
113

Nakus

Client
Регистрация
28.09.2013
Сообщения
156
Благодарностей
33
Баллы
28
Прокрутка страницы. Знаю, как-то отлавливают эти запросы, но как не могу понять))))
 

Valiksim

Client
Регистрация
14.04.2012
Сообщения
1 342
Благодарностей
298
Баллы
83
Проблема в подгрузке всех картинок
Попробуй "Эмуляция клавиатуры", и {PGDN}
Другой вариант, посмотри видео как парсить Твиттер, там показан другой способ ловли.
Но, и то и другое неблагодарная работа на Пинтересте. Там хаос тотальный, спарсить 1к картинок тематических крайне сложно. 90% мусора соберёшь, который потом чистить надо. Однако, ты так и не озвучил свою задачу. А мы тут зря гадаем, что же ему надо и в каком виде?
 

Nakus

Client
Регистрация
28.09.2013
Сообщения
156
Благодарностей
33
Баллы
28
Мне нужно
Вар. 1: по запросу спарсить 2к или больше картинок и положить их в папку.
Вар. 2: по запросу спарсить 2к или больше картинок, за которые хоть кто то голосовал и положить их в список, а потом в таблицу вида: адрес;кол-во пинов.
 

Valiksim

Client
Регистрация
14.04.2012
Сообщения
1 342
Благодарностей
298
Баллы
83
Сложность в том, что Пинтерест даёт картинки весьма специфически. задать запрос и получить такое кол-во картинок с 1-ой ссылки не получится. Придётся парсить, что дали на 1-й странице выдачи, а затем идти по полученным ссылкам и добирать оттуда. Чем дальше, тем меньше релевантного будет. Сам по себе парсинг не сложный, сложно найти именно то, чего тебе надо
 

Nakus

Client
Регистрация
28.09.2013
Сообщения
156
Благодарностей
33
Баллы
28
В первом варианте достаточно будет того, что есть на первой странице.
 

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)