Работа со списком в многопотоке

shoorupz

Client
Регистрация
28.09.2016
Сообщения
74
Благодарностей
6
Баллы
8
Добрый день
Ковырался-ковырялся, но, похоже, чего-то наглухо недопонимаю...
Паршу ссылки(гет) с сайтмап, и добавляю их в список1 (с галочками "загружать.." и "Сохранять изм...", сохраняется в файл1). Далее, беру из списка1, с удалением, первую строку, тобеж юрл, и гетом собираю по этому юрл ссылки в список2. Далее, удаляю дубли из списка2, и сохраняю этот список в файл2. (список2 с теми же галочками, что и список1 )
Что происходит в многопотоке: похоже, что все потоки берут один и тот же юрл из списка1, т.к. наблюдая за файлом2 видно, что он сначала наполняется дублями, а потом уменьшается пропорционально кол-ву потоков(т.е. когда дубли удаляются).
А задача, чтобы каждый поток работал с уникальным юрл из списка1. Не пойму, что я не так делаю..
 
Последнее редактирование:

VladZen

Administrator
Команда форума
Регистрация
05.11.2014
Сообщения
22 233
Благодарностей
5 846
Баллы
113
Что происходит в многопотоке: похоже, что все потоки берут один и тот же юрл из списка1, т.к. наблюдая за файлом2 видно, что он сначала наполняется дублями, а потом уменьшается пропорционально кол-ву потоков(т.е. когда дубли удаляются)..
Как вы определяете, что берется один и тот же URL? По уменьшению файла 2) Это лишь предположение. Выводите взятый URL в оповещение в логе. Тогда будет видно.
Если у вас список1 синхронизирован с файлом1, то все должно работать.
 
  • Спасибо
Реакции: shoorupz

shoorupz

Client
Регистрация
28.09.2016
Сообщения
74
Благодарностей
6
Баллы
8
Как вы определяете, что берется один и тот же URL? По уменьшению файла 2) Это лишь предположение. Выводите взятый URL в оповещение в логе. Тогда будет видно.
Если у вас список1 синхронизирован с файлом1, то все должно работать.
да, предположение, но какой ещё логичный ответ может быть, что в 1 поток список 2 не заполняется дублями, а в многопотоке заполняется?
сейчас проверю Вашим советом, спс
 

shoorupz

Client
Регистрация
28.09.2016
Сообщения
74
Благодарностей
6
Баллы
8
да, верно, в логах уникальный юрл.
теперь вообще ума не приложу что происходит..) лан, буду ковыряться, по-любому где-то мелкий затуп)
 

VladZen

Administrator
Команда форума
Регистрация
05.11.2014
Сообщения
22 233
Благодарностей
5 846
Баллы
113
да, верно, в логах уникальный юрл.
теперь вообще ума не приложу что происходит..) лан, буду ковыряться, по-любому где-то мелкий затуп)
вероятно где-то логика действий не так работает, как задумано. Возможно при парсинге или при работе со списком2.
 
  • Спасибо
Реакции: shoorupz

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)