Проблема с проектом при поточности

Tonny

Client
Регистрация
20.07.2013
Сообщения
142
Благодарностей
5
Баллы
18
Есть проект, парсит сайты и сохраняет результат в txt фаилы.
До 10 потоков проект стабильно работает. Но нужно больше.
Взял сервак 14 ядер 16гигов RAM, канал 200мбит, запускаю на 20 потоков, проект начинает косячить, загруженность проца на 30-40%, оперативы 5гб.
Проблема в том что не всегда txt фаилы с результатом создаются, т.е. как бы файловая система несправляется чтоли.. в некоторых папках с результатом пусто, просто нет фаилов.. Таймауты тоже выставлял после сохранения результата.
Что то можно подкрутить? В винде может какие настройки нужны?
 

rostonix

Известная личность
Регистрация
23.12.2011
Сообщения
29 067
Благодарностей
5 707
Баллы
113
А загруженность жесткого диска смотрели?
 

VladZen

Administrator
Команда форума
Регистрация
05.11.2014
Сообщения
22 278
Благодарностей
5 857
Баллы
113
А как файлы создаются? Уверены что есть данные для записи? И что они, например, не дублируются с файлами других потоков?
 

Tonny

Client
Регистрация
20.07.2013
Сообщения
142
Благодарностей
5
Баллы
18
Загруженность жесткого диска:


Этло процессор:

 

Tonny

Client
Регистрация
20.07.2013
Сообщения
142
Благодарностей
5
Баллы
18
Фаилы создаются - через экшен привязки фаила к списку. Да уверен что данные есть и каждый фаил создается с уникальным идентификатором + рандомное значение, немогут пересекаться в потоках.
 

rostonix

Известная личность
Регистрация
23.12.2011
Сообщения
29 067
Благодарностей
5 707
Баллы
113
включите подробный лог.
он должен логировать проблемы с файлами

upload_2015-12-1_17-17-39.png
 

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)