Рендер-ферма "Бормотунчика" )

Список разделов Общие разделы Обсуждение CG

Описание: О работах, выполненных на компьютере. Видео, тридешечка, просто рисунки.
Модератор: exooman

  • 20

Сообщение #1 girafenok » 30.03.2014, 01:48

Что такое Рендер-ферма
Рендер-ферма представляет собой объединение компьютеров в сеть с целью ускорение процесса рендеринга изображения или анимации. Анимация разбивается на кадры, изображение разбивается на части и рендерятся независимо на отдельных компьютерах, подключенных к ферме, тем самым позволяя ускорить процесс рендеринга за счет параллельного просчета проекта.
Рендер-ферма состоит из компьютеров, осуществляющих ренедеринг проектов - нодов, работающих под управлением компьютера, распределяющего задания - сервера.
Управлением рендер-фермой рсуществляет программное обеспечение, называемое менеджером сетевоого рендринга.

Вступление: идея, цели, анализ рынка
Так случилось, что много лет назад я заинтересовался темой сетевого рендеринга. Компьютеров было достаточно много, поэтому вопрос стоял только в подходящем менеджере рендеринга. При этом, так как часть работы осуществлялась вне учреждения, компьютеры работали под разными операционными системами, программы для рендеринга использовались разные и много других нюансов, то для менеджера сетевого рендаринга были соформулированы следующие требования:
1. Кроссплатформенность. Система управления должна работать под управлением различных операционных систем, как минимум под управлением трех основных: Linux, MacOS и Windows. Система должна иметь возможность запуска системы в консольном режиме.
2. Гетерогенность. Система должна уметь управлять компьютерами в смешанных сетях, т.е объединять компьютеры, находящиеся в разных локальных сетях, а также не имеющих внешнего ip-адреса..
3. Автонастройка. Система должна самостоятельно уметь включать или исключать компьютеры из рендер-фермы. Подключаемые к рендер-фермы компьютеры должны автоматически настраиваться на участие в рендер-ферме.
4. Универсальность. Система должна поддерживать различные программы создания 3d графики и рендеринга.
5. Многопользовательская система. Систему одновременно и независимо друг от друга должны иметь возможность использовать несколько пользователей.

Поиск показал, что существуют следующие готовые решения: собственные средства систем 3D графики по управлению рендерингом в компьютерных сетях, коммерческие менеджеры, свободные менеджеры Loki Render, DrQueue, Farmjoe, Afanasy. Анализ существующих систем управления сетевым рендерингом выявил, что ни одна из рассмотренных систем не соответствует установленным критериям. Наихудшие показатели для большинства систем оказались по критериям автонастройка и гетерогенность. Некоторые менеджеры мне даже попробовать не удалось из-за черезвычайно сложной установки и настройки.
В итоге возникла идея создания собственного менеджера и построения на его основе рендер-фермы. За 4 года неспешного развития система доросла до уровня, когда ей можно начать пользоваться.

Рендер-ферма "Бормотунчика" является бесплатной community-based рендер-фермой, т.е. вычислительные мощности фермы складываются из ресурсов пользователей-добровольцев.

Программное обеспечение состоит из программ сервера, нода и клиента.
Описание программного комплекса
Нод превращает ваш компьютер в узел рендер фермы, осуществляющий рендеринг проектов пользователей.
Клиент - программа, с помощью которой можно формировать задания для рендер-фермы, следить за ходом и получать информацию о рендер-ферме в целом.
Управление клиентами и нодом осуществляет программа сервер, работающая на VDS.

Программное обеспечение фермы разработано с использованием языка программирования Python, сетевого фрейворка Twisted и инструментария разработки Qt.
Программное обеспечение не требует какой-либо настройки и готово к использованию сразу после установки и регистрации.

На текущей момент ПО обеспечение фермы поддерживает
Программы:
Blender верси 2.69 и 2.70, рендеры: internal, cycles, lux, povray.
LuxRender 1.3.1 standalone.
PovRay 3.7 standalone.
В разработке находится поддержка Pixie, Aqsis, 3DELight, Vray и др. На самом деле, может быть добавлен любой рендер имеющий возможность ренедрить из командой строки.

Операционные системы и дистрибутивы:

Ubuntu 12.04 и новее, а также производные от них.
Windows XP/7/8.
Поддержка других ОС и дистрибутивов будет осуществляться по мере необходимости.

Для стимулирования использования фермы введен рейтинг.
Расчет рейтинга
Рейтинг считается в ТГц/ч. Сид - нод. Лич - задачи пользователя.
Для сида считается количество ГГц потраченных на рендеринг задачи и времени, проведенном нодом в ожидании. Время переводится как 0.1 ГГц/ч за час ожидания вне зависимости от мощности машины.
Для лича считается количество ГГц/ч потраченных на рендеринг задач сумарно всеми нодами.
Рейтинг - отношение значений лича и сида.

Внешний вид клиента:
Изображение

Официальный сайт проекта: render.gabbler.ru.
Скачать: render.gabbler.ru/download.html
Для того, чтобы нод могу работать в графическом режиме, необюходимо устанавливать программы и клиента, и нода. Для подсчета рейтинга необходимо зарегистрировать в ферме пользователя и зарегистрировать нод(ы) от имени этого пользователя.
Немного документации: render.gabbler.ru/work.html. Будет обновляться по мере возможностей.

Замечания:
1. Программное обеспечение рендер-фермы все еще находится в разработке, поэтому возможны ошибки и сбои в работе фермы.
2. Защита проектов на текущий момент не реализована. Проект доступен всем нодам в открытом виде, пока задача не будет удалена.
3. Рендеринг проектов, не умещающихся в памяти нодов проходит не предсказуемо, просьба это учитывать. Размер файла проекта на рендеринг влиять не должен.
4. Репозитарий для дистрибутивов Linux находится в разработке.
5. Поддержка рендеринга на GPU появиться позже.

Пожелания по работе и возможностям рендер-фермы приветствуются!



Последняя версия программного обеспечения.
Это алmфа версия значительно переработанного программного обеспечения. Поддерживает только Blender: Internal и Cycles. После стабилизации кода, будут восстановлены все возможности. Работает параллельно с предыдущей версией.

Пост с описанием изменений: /viewtopic.php?p=58242#p58242

Пакеты deb и rpm собирались в Ubuntu 12.04.
Пакеты для Arch собирались в Manjaro 0.8.
Версия для Windows собиралась в Windows 7 64 bit.

Deb:
http://render.gabbler.ru/download/debs/gbfarm.blender27-plugin_8.0_amd64.deb
http://render.gabbler.ru/download/debs/gbfarm.node_0.60-4_amd64.deb

RPM:
http://render.gabbler.ru/download/rpms/gbfarm.blender27-plugin-8-1.x86_64.rpm
http://render.gabbler.ru/download/rpms/gbfarm.node-0.60-4.x86_64.rpm

Windows:
http://render.gabbler.ru/download/win/gbfarm-blender27-plugin_8-1_x64.exe
http://render.gabbler.ru/download/win/gbfarm-node_0.60-4_x64.exe
Последний раз редактировалось girafenok 21.01.2017, 02:41, всего редактировалось 6 раз(а).
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625


Сообщение #1141 WalkOnSky » 16.11.2016, 07:32

girafenok писал(а):WalkOnSky,
Добро пожаловать!
Кондеры скорее свистят в блоке питания. Тут или мощности не хватает, или скорее особенности блока.

Донатить пока не надо, свои деньги тратить некогда ). Лучший способ помочь проекту держать свой нод онлайн. От помоши по написанию документации тоже не откажусь.
Да нет, БП Corsair RM750, очень качественный и мощности с большим запасом.
Такого просто так вообще никогда не было, работает как часы.
Больше похоже на особенность софта.
WalkOnSky
Сообщения: 4

Сообщение #1142 stark » 16.11.2016, 11:39

WalkOnSky писал(а):Больше похоже на особенность софта.
Особенность софта свистеть дросселями? Софт по большому счёту запускает blender из командной строки. Вот если под Linpack ваш компьютер воет - то это особенности софта - Linpack, образно выражаясь, грузит процессор на 138%.
stark M
Сообщения: 1410

Сообщение #1143 stark » 17.11.2016, 11:18

Остаток задачи 86e170072b63 никому не назначается. Автору стоит забрать результат в виде кадров, а оставшиеся дорендерить самому или в новую задачу оформить. Какая-то ошибка в задаче и/или алгоритме работы рендерфермы.
stark M
Сообщения: 1410

  • 2

Сообщение #1144 girafenok » 18.11.2016, 23:08

stark писал(а):Какая-то ошибка в задаче и/или алгоритме работы рендерфермы.
Да, ошибка в алгоритме работы рендер-фермы, я даже примерно знаю в каком месте.
Новую задачусоздавать не обязательно. Достаточно нажать кнопку Stop job,а потом Resume Job. Задача дорендерится.

Юрий Небесный писал(а):Это хорошо. Плохо когда наоборот :beer:
Ну не знаю, иногда хочется, чтобы меня положили в тихом месте у теплой стенки. :oD
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1145 Юрий Небесный » 19.11.2016, 11:03

girafenok писал(а):Достаточно нажать кнопку Stop job,а потом Resume Job. Задача дорендерится.
Только что-то мне подсказывает, что автор задачи запустил её, и исчез. И не рендерил сам ни кадра. Судя по счене, это тест какой-то.
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

Сообщение #1146 stark » 19.11.2016, 14:39

Юрий Небесный писал(а):Только что-то мне подсказывает, что автор задачи запустил её, и исчез. И не рендерил сам ни кадра. Судя по счене, это тест какой-то.
К сожалению, весьма возможно.

Но если бы автор действительно проводил тест, то он бы понаблюдал за работой и забрал результат - как иначе узнать чем окончился тест и сделать выводы? А то зачем проводить тест, если результат теста не интересует?

Или автор задачи за 5 мин. хотел получить результат, а за 3 дня ему уже и не надо =-)
stark M
Сообщения: 1410

Сообщение #1147 СамСуCам » 19.11.2016, 14:49

Чтож там такое рендерите? Кстати, моя нода не брала эту задачу. Или брала но слилась. Ибо quality упало. :)
В любой непонятной ситуации спи, кушай и улыбайся. SATtva
Моя галерея Ежедневный конкурс моделирования в Blender
СамСуCам M
то добрый, то злой админ
Аватара
Откуда: Русь, Китеж
Сообщения: 3051



Сообщение #1148 Юрий Небесный » 19.11.2016, 14:54

Да там на футаж похоже. На черном фоне летят сверху вниз кружочки. Моушен блюр накручен и что то еще, в общем долго там рендерилось и так и не дорендерилось. А сейчас я приватно считаю светильнички свои. Дабы никого не напрягать своими тоже весьма не быстрыми рендерами.
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

Сообщение #1149 stark » 19.11.2016, 14:57

СамСуCам, да блёстки какие-то FullHD, анимация наверное. Смотрел когда пробовал свой AMD GPU подключить.
Так-то нормальная задача, 10-20 минут на кадр FullHD на одном i7. Реалистично. Но кадров много для одной-двух машин.

Юрий Небесный писал(а):Дабы никого не напрягать своими тоже весьма не быстрыми рендерами.
Вообще зря, если приватность .blend не важна. Я бы попросил твои светильнички тоже "напожевать", но без GPU с моей стороны это почти бесполезно.
stark M
Сообщения: 1410

Сообщение #1150 СамСуCам » 19.11.2016, 14:57

Юрий Небесный, если тайлы маленькие, примерно 1-5 минут на тайл, то можно спокойно рендерить. Понадобился комп, подождал тайл и выключил.

Добавлено спустя 8 минут 12 секунд:
А, там анимация. А кадр не разбивается по машинам?
В любой непонятной ситуации спи, кушай и улыбайся. SATtva
Моя галерея Ежедневный конкурс моделирования в Blender
СамСуCам M
то добрый, то злой админ
Аватара
Откуда: Русь, Китеж
Сообщения: 3051



  • 1

Сообщение #1151 Юрий Небесный » 19.11.2016, 15:20

СамСуCам, да, анимация. старые настройки еще, когда ничего не умел, долго считаются. надо просто добить. сроков нет, потому оно чутельку считается и ладно. всеравно на ближайшие пол-года меня на вебдизайн посадили :suicid:
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

Сообщение #1152 girafenok » 19.11.2016, 16:27

Юрий Небесный писал(а):Только что-то мне подсказывает, что автор задачи запустил её, и исчез. И не рендерил сам ни кадра. Судя по счене, это тест какой-то.
Да, именно так.
Юрий Небесный писал(а):Дабы никого не напрягать своими тоже весьма не быстрыми рендерами.
Ну, я тоже не против по-рендерить. Кому не понравится может поставить на паузу или отключить нод.

СамСуCам писал(а):А, там анимация. А кадр не разбивается по машинам?
Кадр анимации не разбивается, не целесообразно да и собирать результаты рендеринга будем крайне неудобно.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1153 Юрий Небесный » 24.11.2016, 08:16

Нода отрендерила анимацию, и сама отдала кадры - здорово!
Я об этом не знал, нажал "получить". А потом увидел что уже давно все получено. Ну и что бы за зря снова не скачивать нажал на задаче "удалить". А нода продолжала отавать кадры. Но т.к. их уже не было, она отдала мне пустые файлы.
Есть ли какой-нибудь бекапчик проектов? :-D
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

Сообщение #1154 girafenok » 24.11.2016, 10:33

Юрий Небесный,
Бэкапа нет. Код поправлю, чтобы в будущем таких ситуаций не повторялось.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1155 stark » 24.11.2016, 12:14

Не могу запустить счёт в Cycles на AMD GPU на версии Blender из плугина. Причём на предыдущей версии плугина получалось, о чём я писал ранее: /viewtopic.php?p=58084#p58084 . На Blender 2.78a тоже работает и выдаёт корректный результат :rrrr:
stark M
Сообщения: 1410

  • 3

Сообщение #1156 girafenok » 24.11.2016, 22:51

stark,
На выходных соберу плагин с новой версией Блендера (торжественно клянусь O:-) )
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

  • 3

Сообщение #1157 girafenok » 27.11.2016, 02:41

Новая версия плагина для Blender. Blender обновился до версии 2.78a.

Deb:
http://render.gabbler.ru/download/debs/gbfarm.blender27-plugin_8.0_amd64.deb

RPM:
http://render.gabbler.ru/download/rpms/gbfarm.blender27-plugin-8-1.x86_64.rpm

Windows:
http://render.gabbler.ru/download/win/gbfarm-blender27-plugin_8-1_x64.exe

На тщательное тестирование времени пока нет, просьба сообщать о возможных ошибках.
Из обнаруженных: в ноде новая версия плагина отображается как Blender 2.77. Буду разбираться с ошибкой..
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

  • 1

Сообщение #1158 stark » 27.11.2016, 22:19

girafenok писал(а):Новая версия плагина для Blender. Blender обновился до версии 2.78a.
Спасибо! :beer:
Теперь проходит тесты, красота :ice:
Спойлер
После внесения исправления https://developer.blender.org/rB5aa6a2ec06bbfa9ddd255c90ee02da5f9be36f30 в 2.78a, которое ещё не дошло до релиза.
Код: Выделить всё
Blender27
Internal: CPU - 97.04 c
Cycles: OPENCL_0 - 158.16 c, CPU - 225.78 c
Халява с рейтингом для меня кончилась :-D

Но к самим тестам есть вопросы: тест Cycles оба раза запускается на GPU, и времена получаются странные.
Подробнее
1. Тесты проходят в порядке Blender Internal, Cycles CPU, Cycles GPU. Но! Тест Cycles CPU тоже проходит у меня на видеокарте, т.к. процессор после теста BI отдыхает, а видеокарта загружена и видно два момента всплеска загрузки CPU, как происходит при начале рендеринга на GPU.

2. Файл из теста Cycles при тайлах, как я установил в настройках нода GPU Tile X = 512 и GPU Tile Y = 512, рендерит на GPU за 92 сек., а тест пишет что за 158 сек.. Что ни на что не похоже. Так рендеринг при тайлах по умолчанию 128 x 128 проходит за 225 сек.

3. Файл из теста Cycles на CPU рендерится за 245 секунд, а тест пишет что за 225.78 cекунд но тут не велико расхождение.
Если как-то могу помочь с отладкой, то рад буду помочь :)
stark M
Сообщения: 1410

Сообщение #1159 girafenok » 27.11.2016, 23:01

stark,
Спасибо за обратную свзяь!
С первым и вторым пунктом буду разбираться, плагин находится в состоянии переписывания, возможно где-то что-то сломал и не восстановил.
Насчет третьего, тут возможно влияет то, что нод запускает рендер в режиме командной строки. Я давно наблюдаю расхождение во времени рендеринга на некоторых сценах в графическом и консольном режимах, причем для разных сцен в разные стороны.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1160 stark » 27.11.2016, 23:53

girafenok писал(а):С первым и вторым пунктом буду разбираться, плагин находится в состоянии переписывания, возможно где-то что-то сломал и не восстановил.
Кстати, в предыдущей версии плагина, с blender 2.77, было так же: оба теста Cycles запускались на GPU и отчего, из-за проблем Blender 2.77 c OpenCL, оба завершались аварийно /viewtopic.php?p=58259#p58259
stark M
Сообщения: 1410

Пред.След.

Вернуться в Обсуждение CG

Кто сейчас на форуме (по активности за 5 минут)

Сейчас этот раздел просматривают: 2 гостя