Как спарсить все заголовки видео на канале в Youtube

Регистрация
22.12.2015
Сообщения
96
Благодарностей
1
Баллы
8
Здравствуйте) Пишу шаблон, который смог бы спарсить все заголовки видео на канале в Youtube.

Шаблон работает так:
1. Логинимся на youtube
2. Переходим на нужный канал, который указывается во входных данных
3. Переходим по ссылки Видео (чтобы видеть все видео канала)
4. Собираем заголовки видео.

И вот на последнем шаге проблема... Там ajax подгрузка видео. Что делать?)) Как мне получить все видео на канале?)

Я так понимаю, что GET запросы тут уже не подходят...

Подскажете пожалуйста)
 

Sergodjan

Administrator
Команда форума
Регистрация
05.09.2012
Сообщения
19 458
Благодарностей
8 682
Баллы
113
Здравствуйте) Пишу шаблон, который смог бы спарсить все заголовки видео на канале в Youtube.

Шаблон работает так:
1. Логинимся на youtube
2. Переходим на нужный канал, который указывается во входных данных
3. Переходим по ссылки Видео (чтобы видеть все видео канала)
4. Собираем заголовки видео.

И вот на последнем шаге проблема... Там ajax подгрузка видео. Что делать?)) Как мне получить все видео на канале?)

Я так понимаю, что GET запросы тут уже не подходят...

Подскажете пожалуйста)
На стартовой странице ПМ есть примеры шаблонов,
там есть пример шаблона, который можно задействовать для ваших нужд.
 

Вложения

Регистрация
22.12.2015
Сообщения
96
Благодарностей
1
Баллы
8
На стартовой странице ПМ есть примеры шаблонов,
там есть пример шаблона, который можно задействовать для ваших нужд.
Не заметил его) Спасибо) А это единственный способ или есть еще варианты реализации ajax подгрузки?)
 

Sergodjan

Administrator
Команда форума
Регистрация
05.09.2012
Сообщения
19 458
Благодарностей
8 682
Баллы
113
Не заметил его) Спасибо) А это единственный способ или есть еще варианты реализации ajax подгрузки?)
Есть еще вариант, как минимум.
Например тоже в цикле, парсить в список, удалять дубли, скроллить и проверять кол-во строк в списке, если оно не увеличилось, то значит достигнут конец страницы.

Вот еще один вариант:

upload_2019-3-19_15-59-31.png
 

Вложения

Dr.Pipetka

Client
Регистрация
12.12.2017
Сообщения
1 234
Благодарностей
804
Баллы
113
Или использовать апи...
 
Регистрация
22.12.2015
Сообщения
96
Благодарностей
1
Баллы
8
Есть еще вариант, как минимум.
Например тоже в цикле, парсить в список, удалять дубли, скроллить и проверять кол-во строк в списке, если оно не увеличилось, то значит достигнут конец страницы.

Вот еще один вариант:

Посмотреть вложение 37266
Спасибо)) Буду разбираться))
 

kompas777

Client
Регистрация
23.12.2017
Сообщения
24
Благодарностей
8
Баллы
3
Год назад решил задачу подобную на python на базе этого кода на гихабе, там через API, токен получить бесплатно можно.
На C# можно попробовать реализовать, там на уровне вот таких запросов делается:
Код:
inp = urllib.urlopen(r'https://www.googleapis.com/youtube/v3/search?start-index={0}&order=date&part=snippet&channelId={1}&maxResults=50&key={2}'.format(ind, channel_id, YOUR_API_KEY))
 

Meteorburn

Client
Регистрация
23.05.2016
Сообщения
1 448
Благодарностей
564
Баллы
113

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)