Рендер-ферма "Бормотунчика" )

Список разделов Общие разделы Обсуждение CG

Описание: О работах, выполненных на компьютере. Видео, тридешечка, просто рисунки.
Модератор: exooman

  • 20

Сообщение #1 girafenok » 30.03.2014, 01:48

Что такое Рендер-ферма
Рендер-ферма представляет собой объединение компьютеров в сеть с целью ускорение процесса рендеринга изображения или анимации. Анимация разбивается на кадры, изображение разбивается на части и рендерятся независимо на отдельных компьютерах, подключенных к ферме, тем самым позволяя ускорить процесс рендеринга за счет параллельного просчета проекта.
Рендер-ферма состоит из компьютеров, осуществляющих ренедеринг проектов - нодов, работающих под управлением компьютера, распределяющего задания - сервера.
Управлением рендер-фермой рсуществляет программное обеспечение, называемое менеджером сетевоого рендринга.

Вступление: идея, цели, анализ рынка
Так случилось, что много лет назад я заинтересовался темой сетевого рендеринга. Компьютеров было достаточно много, поэтому вопрос стоял только в подходящем менеджере рендеринга. При этом, так как часть работы осуществлялась вне учреждения, компьютеры работали под разными операционными системами, программы для рендеринга использовались разные и много других нюансов, то для менеджера сетевого рендаринга были соформулированы следующие требования:
1. Кроссплатформенность. Система управления должна работать под управлением различных операционных систем, как минимум под управлением трех основных: Linux, MacOS и Windows. Система должна иметь возможность запуска системы в консольном режиме.
2. Гетерогенность. Система должна уметь управлять компьютерами в смешанных сетях, т.е объединять компьютеры, находящиеся в разных локальных сетях, а также не имеющих внешнего ip-адреса..
3. Автонастройка. Система должна самостоятельно уметь включать или исключать компьютеры из рендер-фермы. Подключаемые к рендер-фермы компьютеры должны автоматически настраиваться на участие в рендер-ферме.
4. Универсальность. Система должна поддерживать различные программы создания 3d графики и рендеринга.
5. Многопользовательская система. Систему одновременно и независимо друг от друга должны иметь возможность использовать несколько пользователей.

Поиск показал, что существуют следующие готовые решения: собственные средства систем 3D графики по управлению рендерингом в компьютерных сетях, коммерческие менеджеры, свободные менеджеры Loki Render, DrQueue, Farmjoe, Afanasy. Анализ существующих систем управления сетевым рендерингом выявил, что ни одна из рассмотренных систем не соответствует установленным критериям. Наихудшие показатели для большинства систем оказались по критериям автонастройка и гетерогенность. Некоторые менеджеры мне даже попробовать не удалось из-за черезвычайно сложной установки и настройки.
В итоге возникла идея создания собственного менеджера и построения на его основе рендер-фермы. За 4 года неспешного развития система доросла до уровня, когда ей можно начать пользоваться.

Рендер-ферма "Бормотунчика" является бесплатной community-based рендер-фермой, т.е. вычислительные мощности фермы складываются из ресурсов пользователей-добровольцев.

Программное обеспечение состоит из программ сервера, нода и клиента.
Описание программного комплекса
Нод превращает ваш компьютер в узел рендер фермы, осуществляющий рендеринг проектов пользователей.
Клиент - программа, с помощью которой можно формировать задания для рендер-фермы, следить за ходом и получать информацию о рендер-ферме в целом.
Управление клиентами и нодом осуществляет программа сервер, работающая на VDS.

Программное обеспечение фермы разработано с использованием языка программирования Python, сетевого фрейворка Twisted и инструментария разработки Qt.
Программное обеспечение не требует какой-либо настройки и готово к использованию сразу после установки и регистрации.

На текущей момент ПО обеспечение фермы поддерживает
Программы:
Blender верси 2.69 и 2.70, рендеры: internal, cycles, lux, povray.
LuxRender 1.3.1 standalone.
PovRay 3.7 standalone.
В разработке находится поддержка Pixie, Aqsis, 3DELight, Vray и др. На самом деле, может быть добавлен любой рендер имеющий возможность ренедрить из командой строки.

Операционные системы и дистрибутивы:

Ubuntu 12.04 и новее, а также производные от них.
Windows XP/7/8.
Поддержка других ОС и дистрибутивов будет осуществляться по мере необходимости.

Для стимулирования использования фермы введен рейтинг.
Расчет рейтинга
Рейтинг считается в ТГц/ч. Сид - нод. Лич - задачи пользователя.
Для сида считается количество ГГц потраченных на рендеринг задачи и времени, проведенном нодом в ожидании. Время переводится как 0.1 ГГц/ч за час ожидания вне зависимости от мощности машины.
Для лича считается количество ГГц/ч потраченных на рендеринг задач сумарно всеми нодами.
Рейтинг - отношение значений лича и сида.

Внешний вид клиента:
Изображение

Официальный сайт проекта: render.gabbler.ru.
Скачать: render.gabbler.ru/download.html
Для того, чтобы нод могу работать в графическом режиме, необюходимо устанавливать программы и клиента, и нода. Для подсчета рейтинга необходимо зарегистрировать в ферме пользователя и зарегистрировать нод(ы) от имени этого пользователя.
Немного документации: render.gabbler.ru/work.html. Будет обновляться по мере возможностей.

Замечания:
1. Программное обеспечение рендер-фермы все еще находится в разработке, поэтому возможны ошибки и сбои в работе фермы.
2. Защита проектов на текущий момент не реализована. Проект доступен всем нодам в открытом виде, пока задача не будет удалена.
3. Рендеринг проектов, не умещающихся в памяти нодов проходит не предсказуемо, просьба это учитывать. Размер файла проекта на рендеринг влиять не должен.
4. Репозитарий для дистрибутивов Linux находится в разработке.
5. Поддержка рендеринга на GPU появиться позже.

Пожелания по работе и возможностям рендер-фермы приветствуются!



Последняя версия программного обеспечения.
Это алmфа версия значительно переработанного программного обеспечения. Поддерживает только Blender: Internal и Cycles. После стабилизации кода, будут восстановлены все возможности. Работает параллельно с предыдущей версией.

Пост с описанием изменений: /viewtopic.php?p=58242#p58242

Пакеты deb и rpm собирались в Ubuntu 12.04.
Пакеты для Arch собирались в Manjaro 0.8.
Версия для Windows собиралась в Windows 7 64 bit.

Deb:
http://render.gabbler.ru/download/debs/gbfarm.blender27-plugin_8.0_amd64.deb
http://render.gabbler.ru/download/debs/gbfarm.node_0.60-4_amd64.deb

RPM:
http://render.gabbler.ru/download/rpms/gbfarm.blender27-plugin-8-1.x86_64.rpm
http://render.gabbler.ru/download/rpms/gbfarm.node-0.60-4.x86_64.rpm

Windows:
http://render.gabbler.ru/download/win/gbfarm-blender27-plugin_8-1_x64.exe
http://render.gabbler.ru/download/win/gbfarm-node_0.60-4_x64.exe
Последний раз редактировалось girafenok 21.01.2017, 02:41, всего редактировалось 6 раз(а).
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625


Сообщение #1181 СамСуCам » 04.12.2016, 15:15

Кстати, проблема одновременного запуска двух блендеров и рендеров ещё осталась. Редко, но бывает. Сегодня было.
В любой непонятной ситуации спи, кушай и улыбайся. SATtva
Моя галерея Ежедневный конкурс моделирования в Blender
СамСуCам M
то добрый, то злой админ
Аватара
Откуда: Русь, Китеж
Сообщения: 3051



  • 2

Сообщение #1182 girafenok » 04.12.2016, 16:18

СамСуCам,
Хорошо, поставил в очередь на исправление.
Ближайшее время занимаюсь инфраструктурой проетка, документацией и сайтом.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

  • 1

Сообщение #1183 Юрий Небесный » 06.12.2016, 16:54

снова убеждаюсь, что лучше стало работать. Раньше, когда я переключал ноду с ЦПУ на ГПУ, что бы реально заработал ГПУ приходилось перезагружать ноду. Теперь же, как только нажал на Save тут же видеокарта зашуршала, схватив в зубы ГПУ'шную задачу.

Еще из хорошего - ЦПУ'шную ноду dez-work-2 с i7 и 16 гигами памяти починили и провели тех.обслуживание. Скоро верну в строй. Работать будет так же как и ANY нода dez-work-3 с 19-00 до 7-00 по Москоу.

Добавлено спустя 15 часов 28 минут:
О! И кнопка "Сбросить" заработала :beer:
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

Сообщение #1184 stark » 10.12.2016, 18:35

И всё-ещё установка не подтягивает сама python-pyside.qtwebkit =-)
А сейчас нашёл коммент, что girafenok дописал его в зависимости ещё летом. У нас регрессия :)
stark M
Сообщения: 1410

Сообщение #1185 girafenok » 10.12.2016, 18:58

stark,
Заглянул в файл описания deb пакета, зависимость от python-pyside.qtwebkit прописана. Видимо я ее добавил уже после выхода новой версии нода. Со следующей ошибка должна исчезнуть (вместе с появлением новых ;) )
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1186 stark » 10.12.2016, 18:59

girafenok, хорошо.
stark M
Сообщения: 1410

Сообщение #1187 serka » 27.12.2016, 21:55

Не получится так никого привлечь. :( У меня слабенькая машинка, и мне, как минимум 2 мощных нода пишут "banned". С таким успехом, я и сам "посчитаю". :( К автору просьба дать возможность менять размер окна.
Последний раз редактировалось serka 27.12.2016, 23:47, всего редактировалось 1 раз.
Acer Aspire TimelineX 3830TG
serka M
Аватара
Откуда: Фастов, Украина
Сообщения: 46

Сообщение #1188 girafenok » 27.12.2016, 22:48

serka,
Это не ноды Вас банят, это Ваша задача банит ноды. Ноды при рендеринге Вашей задачи выдают ошибки, поэтому они помещаются в бан-лист. Либо задача плохо настроена, либо ноды. Бан можно сбросить кнопкой "Сбросить" слева внизу от списка нодов, рендерящих задачу.
Изменять размер окна в планах, но в очень далеких.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1189 serka » 27.12.2016, 23:25

girafenok, А как понять в чем причина бана? Машинки "по-проще" трудятся, считают.. :( А две мощные, не хотят.
Acer Aspire TimelineX 3830TG
serka M
Аватара
Откуда: Фастов, Украина
Сообщения: 46

  • 2

Сообщение #1190 girafenok » 27.12.2016, 23:32

serka,
причин может быть много. Скорее всего Ваша задача не рендерится на GPU правильно, а ноды с хорошей видеокартоей по умолчанию рендерят на видеокарте. Можно при добавлении задачи на вкладке Рендер-ферма установить compute device в значениее CPU и тогда все ноды будут рендерить только на процессоре, как правило большинство ошибок исчезает.
А вообще, чтобы точно определить ошибку надо знать подробнее о проекте. Какой рендер, сколько памятти требует проект и др.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1191 serka » 27.12.2016, 23:35

girafenok, Понял. А, есть ли возможность, перенастроить рендер на CPU вместо GPU, если половина оного уже выполнена? И, что будет когда мой рейтинг дойдет до нуля?
Acer Aspire TimelineX 3830TG
serka M
Аватара
Откуда: Фастов, Украина
Сообщения: 46

  • 2

Сообщение #1192 girafenok » 27.12.2016, 23:42

serka,
Без перезапуска задачи нельзя. Можно загрузить отрендеренный материал и перезапустить задачу с нужного кадра. По идее, можно просто перезапустить задачу (кнопка рестарт), установив при этом на вкладке Job свойство Delete previous result в значение No, но я не понмю, дописал я этот функционал или нет. Лучше перестраховаться и скачать отернедеренный материал.
При падении рейтинга ниже 0.3 остается возможность рендерить только на 3 машинах одновременно.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1193 serka » 27.12.2016, 23:47

В любом случаи, спасибо Вам огромное за такую нужную вещь! Надеюсь, что развитие фермы не за горами!
Acer Aspire TimelineX 3830TG
serka M
Аватара
Откуда: Фастов, Украина
Сообщения: 46

  • 4

Сообщение #1194 girafenok » 28.12.2016, 02:18

Сервер в очередной раз переехал с моего рабочего на специально собранный под него компьютер. Рабочие проекты переносить не стал. Если кому-то надо скачать то, что он нарендерил раньше пишите, скину результаты.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

  • 1

Сообщение #1195 Юрий Небесный » 28.12.2016, 05:58

girafenok писал(а):на специально собранный под него компьютер

Ваааууу!! 8-O Нифигасебе! :oD круто! круто!


serka, вот тебе и развитие. отдельный сервер! а вообще ферма очень работоспособна. я уж уйму всего нарендерил на ней, и вообще в последнее время если рендер больше часа то на ферму закидываю. Мои ноды все на ГПУ. Или уже, или предстоит перевести, т.к. ЦПУ на тех компах 3дмаксер забирает под корону-рендер. Т.е. если хочется на моих нодах считать то нужно глядеть объем памяти который пишет сайклс, должно быть не больше 3 Гб. Желательно не больше 2.8.
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

  • 1

Сообщение #1196 girafenok » 07.01.2017, 07:54

На сегодня-завтра запланированы технические работы, поэтому какое-то время ферма может быть недоступна.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1197 Юрий Небесный » 08.01.2017, 18:43

girafenok, а уже можно пользоваться?
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

Сообщение #1198 girafenok » 08.01.2017, 18:57

Юрий Небесный,
Да, можно. Еще осталась одна проблема, но ее я буду решать на следующей неделе.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1199 Юрий Небесный » 09.01.2017, 13:42

girafenok, скромненько прошу прикрутить возможность не только рендерить но и сохранять (скачивать саостоятельно) результаты рендеров EXR многослойных.
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

  • 1

Сообщение #1200 girafenok » 09.01.2017, 17:13

Юрий Небесный,
Приношу извинения, функция отключена в связи с тем, что сервер не в состоянии собирать exr файлы. До конца недели выйдет новая версия нода, которая будет собирать изображения и видео средствами нода и функционал восстановится.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Пред.След.

Вернуться в Обсуждение CG

Кто сейчас на форуме (по активности за 5 минут)

Сейчас этот раздел просматривают: 5 гостей