Рендер-ферма "Бормотунчика" )

Список разделов Общие разделы Обсуждение CG

Описание: О работах, выполненных на компьютере. Видео, тридешечка, просто рисунки.
Модератор: exooman

  • 20

Сообщение #1 girafenok » 30.03.2014, 01:48

Что такое Рендер-ферма
Рендер-ферма представляет собой объединение компьютеров в сеть с целью ускорение процесса рендеринга изображения или анимации. Анимация разбивается на кадры, изображение разбивается на части и рендерятся независимо на отдельных компьютерах, подключенных к ферме, тем самым позволяя ускорить процесс рендеринга за счет параллельного просчета проекта.
Рендер-ферма состоит из компьютеров, осуществляющих ренедеринг проектов - нодов, работающих под управлением компьютера, распределяющего задания - сервера.
Управлением рендер-фермой рсуществляет программное обеспечение, называемое менеджером сетевоого рендринга.

Вступление: идея, цели, анализ рынка
Так случилось, что много лет назад я заинтересовался темой сетевого рендеринга. Компьютеров было достаточно много, поэтому вопрос стоял только в подходящем менеджере рендеринга. При этом, так как часть работы осуществлялась вне учреждения, компьютеры работали под разными операционными системами, программы для рендеринга использовались разные и много других нюансов, то для менеджера сетевого рендаринга были соформулированы следующие требования:
1. Кроссплатформенность. Система управления должна работать под управлением различных операционных систем, как минимум под управлением трех основных: Linux, MacOS и Windows. Система должна иметь возможность запуска системы в консольном режиме.
2. Гетерогенность. Система должна уметь управлять компьютерами в смешанных сетях, т.е объединять компьютеры, находящиеся в разных локальных сетях, а также не имеющих внешнего ip-адреса..
3. Автонастройка. Система должна самостоятельно уметь включать или исключать компьютеры из рендер-фермы. Подключаемые к рендер-фермы компьютеры должны автоматически настраиваться на участие в рендер-ферме.
4. Универсальность. Система должна поддерживать различные программы создания 3d графики и рендеринга.
5. Многопользовательская система. Систему одновременно и независимо друг от друга должны иметь возможность использовать несколько пользователей.

Поиск показал, что существуют следующие готовые решения: собственные средства систем 3D графики по управлению рендерингом в компьютерных сетях, коммерческие менеджеры, свободные менеджеры Loki Render, DrQueue, Farmjoe, Afanasy. Анализ существующих систем управления сетевым рендерингом выявил, что ни одна из рассмотренных систем не соответствует установленным критериям. Наихудшие показатели для большинства систем оказались по критериям автонастройка и гетерогенность. Некоторые менеджеры мне даже попробовать не удалось из-за черезвычайно сложной установки и настройки.
В итоге возникла идея создания собственного менеджера и построения на его основе рендер-фермы. За 4 года неспешного развития система доросла до уровня, когда ей можно начать пользоваться.

Рендер-ферма "Бормотунчика" является бесплатной community-based рендер-фермой, т.е. вычислительные мощности фермы складываются из ресурсов пользователей-добровольцев.

Программное обеспечение состоит из программ сервера, нода и клиента.
Описание программного комплекса
Нод превращает ваш компьютер в узел рендер фермы, осуществляющий рендеринг проектов пользователей.
Клиент - программа, с помощью которой можно формировать задания для рендер-фермы, следить за ходом и получать информацию о рендер-ферме в целом.
Управление клиентами и нодом осуществляет программа сервер, работающая на VDS.

Программное обеспечение фермы разработано с использованием языка программирования Python, сетевого фрейворка Twisted и инструментария разработки Qt.
Программное обеспечение не требует какой-либо настройки и готово к использованию сразу после установки и регистрации.

На текущей момент ПО обеспечение фермы поддерживает
Программы:
Blender верси 2.69 и 2.70, рендеры: internal, cycles, lux, povray.
LuxRender 1.3.1 standalone.
PovRay 3.7 standalone.
В разработке находится поддержка Pixie, Aqsis, 3DELight, Vray и др. На самом деле, может быть добавлен любой рендер имеющий возможность ренедрить из командой строки.

Операционные системы и дистрибутивы:

Ubuntu 12.04 и новее, а также производные от них.
Windows XP/7/8.
Поддержка других ОС и дистрибутивов будет осуществляться по мере необходимости.

Для стимулирования использования фермы введен рейтинг.
Расчет рейтинга
Рейтинг считается в ТГц/ч. Сид - нод. Лич - задачи пользователя.
Для сида считается количество ГГц потраченных на рендеринг задачи и времени, проведенном нодом в ожидании. Время переводится как 0.1 ГГц/ч за час ожидания вне зависимости от мощности машины.
Для лича считается количество ГГц/ч потраченных на рендеринг задач сумарно всеми нодами.
Рейтинг - отношение значений лича и сида.

Внешний вид клиента:
Изображение

Официальный сайт проекта: render.gabbler.ru.
Скачать: render.gabbler.ru/download.html
Для того, чтобы нод могу работать в графическом режиме, необюходимо устанавливать программы и клиента, и нода. Для подсчета рейтинга необходимо зарегистрировать в ферме пользователя и зарегистрировать нод(ы) от имени этого пользователя.
Немного документации: render.gabbler.ru/work.html. Будет обновляться по мере возможностей.

Замечания:
1. Программное обеспечение рендер-фермы все еще находится в разработке, поэтому возможны ошибки и сбои в работе фермы.
2. Защита проектов на текущий момент не реализована. Проект доступен всем нодам в открытом виде, пока задача не будет удалена.
3. Рендеринг проектов, не умещающихся в памяти нодов проходит не предсказуемо, просьба это учитывать. Размер файла проекта на рендеринг влиять не должен.
4. Репозитарий для дистрибутивов Linux находится в разработке.
5. Поддержка рендеринга на GPU появиться позже.

Пожелания по работе и возможностям рендер-фермы приветствуются!



Последняя версия программного обеспечения.
Это алmфа версия значительно переработанного программного обеспечения. Поддерживает только Blender: Internal и Cycles. После стабилизации кода, будут восстановлены все возможности. Работает параллельно с предыдущей версией.

Пост с описанием изменений: /viewtopic.php?p=58242#p58242

Пакеты deb и rpm собирались в Ubuntu 12.04.
Пакеты для Arch собирались в Manjaro 0.8.
Версия для Windows собиралась в Windows 7 64 bit.

Deb:
http://render.gabbler.ru/download/debs/gbfarm.blender27-plugin_8.0_amd64.deb
http://render.gabbler.ru/download/debs/gbfarm.node_0.60-4_amd64.deb

RPM:
http://render.gabbler.ru/download/rpms/gbfarm.blender27-plugin-8-1.x86_64.rpm
http://render.gabbler.ru/download/rpms/gbfarm.node-0.60-4.x86_64.rpm

Windows:
http://render.gabbler.ru/download/win/gbfarm-blender27-plugin_8-1_x64.exe
http://render.gabbler.ru/download/win/gbfarm-node_0.60-4_x64.exe
Последний раз редактировалось girafenok 21.01.2017, 02:41, всего редактировалось 6 раз(а).
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625


  • 1

Сообщение #1161 Юрий Небесный » 28.11.2016, 19:58

Здорово! Спасибо girafenok, все работает, полет нормальный!
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

Сообщение #1162 СамСуCам » 30.11.2016, 01:14

Ребят, куда пропали? Столько машин было совсем недавно. А теперь только самые постоянные юзеры остались. Подключайтесь, рендерите сами, рендерьте другим.
В любой непонятной ситуации спи, кушай и улыбайся. SATtva
Моя галерея Ежедневный конкурс моделирования в Blender
СамСуCам M
то добрый, то злой админ
Аватара
Откуда: Русь, Китеж
Сообщения: 3051



Сообщение #1163 ProfessorX » 30.11.2016, 12:01

А новый плагин поверх старого устанавливать ?
ProfessorX
Сообщения: 11

Сообщение #1164 Юрий Небесный » 30.11.2016, 12:11

ProfessorX, Да
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

  • 2

Сообщение #1165 girafenok » 30.11.2016, 15:43

Уважаемые пользователи фермы. На сервере опять закончилось место. Я почистил, что мог и перезапустил серверную часть. Просьба проверить свои проекты.

Также на воскресенье или понедельник вечер запланирован переезд на новый сервер. Об точном времени переноса сообщу дополнительно. Просьба до этого момента скачать все свои проекты, если они Вам необходимы. Переносить сами проекты на новый сервер не буду.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1166 СамСуCам » 30.11.2016, 15:48

Там моё выкушало примерно 5 гигов, как место кончилось, я удалил, и залил заново остатки рендерить.

Добавлено спустя 2 минуты 5 секунд:
girafenok, почему у задачи диапазон кадров слетел? Он рендерит то что уже готово.

Добавлено спустя 1 минуту 37 секунд:
У задачи теперь весь диапазон кадров :( Задачу перезалить?
В любой непонятной ситуации спи, кушай и улыбайся. SATtva
Моя галерея Ежедневный конкурс моделирования в Blender
СамСуCам M
то добрый, то злой админ
Аватара
Откуда: Русь, Китеж
Сообщения: 3051



Сообщение #1167 girafenok » 30.11.2016, 15:54

СамСуCам,
Там остатки от предыдущей задачи. Лучше задачу перезалить: остановить, удалить и загрузить заново.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1168 СамСуCам » 30.11.2016, 15:59

Ну вот, задача 86e запустилась( А я своей задаче приоритет нормальный поставил :( Она ещё не появилась, запускается ещё.
В любой непонятной ситуации спи, кушай и улыбайся. SATtva
Моя галерея Ежедневный конкурс моделирования в Blender
СамСуCам M
то добрый, то злой админ
Аватара
Откуда: Русь, Китеж
Сообщения: 3051



Сообщение #1169 Юрий Небесный » 30.11.2016, 16:02

СамСуCам, не переживай, я ее если что, быстро просчитаю на трех ГПУ.
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

Сообщение #1170 СамСуCам » 30.11.2016, 16:09

Что-то задача долго не появляется. girafenok, там можно посмотреть, моя задача залилась, запускается?
В любой непонятной ситуации спи, кушай и улыбайся. SATtva
Моя галерея Ежедневный конкурс моделирования в Blender
СамСуCам M
то добрый, то злой админ
Аватара
Откуда: Русь, Китеж
Сообщения: 3051



Сообщение #1171 grayich » 30.11.2016, 16:26

Юрий Небесный писал(а):если что, быстро просчитаю на трех ГПУ
не посчитаешь, там internal
x64 Linux
grayich M
Аватара
Откуда: Харьков
Сообщения: 4008

Сообщение #1172 СамСуCам » 30.11.2016, 16:27

girafenok, Вторая задача тоже куда-то провалиллась (
В любой непонятной ситуации спи, кушай и улыбайся. SATtva
Моя галерея Ежедневный конкурс моделирования в Blender
СамСуCам M
то добрый, то злой админ
Аватара
Откуда: Русь, Китеж
Сообщения: 3051



Сообщение #1173 stark » 30.11.2016, 16:41

grayich, ты-б что доброе, позитивное сказал. У него 2xi7 на полную мощь подрублены и ещё i5 не написано сколько ядер разрешено. Так что ещё быстрее посчитаем ;)
stark M
Сообщения: 1410

Сообщение #1174 СамСуCам » 30.11.2016, 16:43

Да Юрий Небесный про другую задачу говорил.

Добавлено спустя 56 секунд:
Задача идёт, в 5 процессоров 100 кадров доделаем.
В любой непонятной ситуации спи, кушай и улыбайся. SATtva
Моя галерея Ежедневный конкурс моделирования в Blender
СамСуCам M
то добрый, то злой админ
Аватара
Откуда: Русь, Китеж
Сообщения: 3051



Сообщение #1175 Юрий Небесный » 02.12.2016, 20:40

Одна нода почему то забанилась. Я ее перезапускал, но в задаче она всеравно забаненной сидит. Я на нее нажимал "сброс" но и это не помогло. Нажимал старт-стоп задаче, тоже не помогло
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

Сообщение #1176 girafenok » 02.12.2016, 23:24

Юрий Небесный,
По логам вроде ошибок нет, значит где-то в коде. Рестарт задаче поможет, если критично.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

  • 3

Сообщение #1177 girafenok » 03.12.2016, 17:46

Уважаемые пользователи!
Сегодня на примерно на 22.00 намечен перезд части сервера на мой домашний компьютер, чтобы решить проблему с пространством. Фактически - это будет тест на стабильность и ширину интернет-канала. Если все пойдет нормально, тогда будет собран специальный компьютер под это дело и куплена выделенная линия Интернета.
За 10 минут до начала работ будет оповещение в этой теме.

Просьба до этого времени скачать все нужные проекты, а также не запускать новые. Перезд займет несколько минут. Настройка нодов на новый сервер произойдет автоматически.

Добавлено спустя 5 часов 41 минуту:
Уважаемые пользователи все пошло не по плану.
Пришлось переносить весь сервер целиком.
База данных пользователей и нодов перенесена по состоянию на 23 часа 3.12.2016 по Московскому времени.
Ноды подключаться к новому серверу автоматически после обновления dns в сети Интернет (может занимать до 2-х рабочих дней) и перезапуска нода.
Для ускорения процесса можно в локальный файл hosts прописать строчку:
Код: Выделить всё
109.167.153.231 server.farm.gabbler.ru
Подробнее тут https://ru.wikipedia.org/wiki/Hosts

Просьба сообщать о проблемах.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1178 СамСуCам » 03.12.2016, 23:35

Запускаться стало намного быстрей. Прям моментально теперь.
В любой непонятной ситуации спи, кушай и улыбайся. SATtva
Моя галерея Ежедневный конкурс моделирования в Blender
СамСуCам M
то добрый, то злой админ
Аватара
Откуда: Русь, Китеж
Сообщения: 3051



Сообщение #1179 girafenok » 03.12.2016, 23:47

Чтобы не было путаницы старый сервер отключен. Если в окне логов нода (внизу окна) написано:
Код: Выделить всё
Connection Lost
Connect to server
Значит dns Вашего провайдера еще не обновился.

СамСуCам писал(а):Запускаться стало намного быстрей. Прям моментально теперь.
Странно. Старый сервер крутился на VPS с широким каналом в Интернет,а сейчас на домашнем компьютере.
girafenok
рендер-фермер
рендер-фермер
Сообщения: 625

Сообщение #1180 Юрий Небесный » 04.12.2016, 08:33

Уррааа! Хорошие новости!
Запускаться задача стала действительно шустрее!
Классно классно! Закинул дальше свое кино считаться :)
Elementary OS Loki | Dell Inspiron 7000 | Wacom
Донат в Blender Foundation, всего: 29 €
Дизайн в linux: http://vk.com/designlinux
Юрий Небесный M
Аватара
Сообщения: 1200

Пред.След.

Вернуться в Обсуждение CG

Кто сейчас на форуме (по активности за 5 минут)

Сейчас этот раздел просматривают: 5 гостей