Виртуальная машина для работы с графикой

Виртуальный сервер Windows с видеокартой на борту

Виртуальный сервер уже давно перестал быть чем-то IT-шным и все чаще данной услугой интересуются люди с совершено различными и повседневными рабочими задачами: от размещения бухгалтерских программ до программ по автоматизации рутинных SEO-задач, от игровых серверов до самих игр (самых современных!), от общего файлового сервера небольшой организации до полноценных удалённых рабочих столов крупных компаний.

Вовсе не обязательно играть в игры, чтобы вам потребовалась видеокарта, сейчас ресурсы видеокарт активно используют разработчики популярного программного обеспечения: любой современный браузер будет отрисовывать страницы сайтов значительно быстрее если сможет использовать графический ускоритель, не говоря уже о том, что 3D игры могут быть в самих браузерах, которые работают на платформе WebGL.

Возможность виртуализации ресурсов видеокарт не нова и присутствует во всех популярных средах: Hyper-V, KVM, XEN, VirtualBox и собственная среда от самого популярного производителя чипсетов – NVIDIA GRID.

В данной статье мы будем говорить о RemoteFX – возможностях видеокарт на виртуальных серверах под управлением Hyper-V, именно на этой платформе они работают на VPS.house с видеокартами профессионального уровня NVIDIA Quadro P6000.

В качестве простой демонстрации поведем тест, взяв конфигурацию VPS с 2 ядрами процессора и 2 ГБ оперативной памяти с виртуальной видеокартой 256МБ памяти и без. В обоих случаях мы откроем в браузере Internet Explorer пример на WebGL одной и той же страницы.

Результат на виртуальном сервере, где установлена видеокарта:

Если видеокарту с этого же сервера убрать:

Итак, с видеокартой мы получаем 42 кадра в секунду, без нее – всего 3 кадра, которые отчаянно рендерит процессор.

В качестве гостевой операционной системы использовалась Windows 10 PRO, так как, к сожалению, в серверной версии Windows 2016 браузеры не начинают использовать графический ускоритель, несмотря на то, что он фактически присутствует.

Технология RemoteFX впервые была внедрена в Windows Server 2008 R2 SP1 и включала в себя некоторое базовые возможности:

Тест производительности видеокарты на VPS в популярном бенчмарке FurMark

Подключённая к современному VDS (виртуальному серверу) видеокарта под управлением Windows Server 2016 превращает его в полноценный домашний ПК. Данная операционная система обладает привычным пользовательским интерфейсом, мало отличимым от Windows 10. На таком сервере вы можете свободно запускать практически любое программное обеспечение и решать самые разносторонние задачи.

Без долгих ожиданий запускается самые тяжёлые графические приложения. Пример работы Autodesk 3ds Max 2019 на виртуальном сервере VPS.house:

И конечно же современные игры, в Battlefield 1 видео игры будет таким же плавным, как если бы вы запустили её на своём домашнем ПК (при хорошем интернет-соединении):

Источник

Как построить VDI для сложной графики

Централизация рабочих столов и клиентских ПК в центре обработки данных сегодня все чаще становится предметом обсуждения в IT-сообществе, особенно интересен такой подход для крупных организаций. Одной из наиболее «горячих» технологий в этом отношении является VDI. VDI позволяет централизовать обслуживание клиентских окружений, упростить развертывание приложений, их настройку и конфигурирование, а также обновление и контроль соответствия требованиям безопасности.

VDI «отвязывает» рабочий стол пользователя от аппаратного обеспечения. Развертывать можно как постоянный виртуальный рабочий стол, так и (наиболее частый вариант) гибкую виртуальную машину. Виртуальные машины включают индивидуальный набор приложений и настроек, который разворачивается в базовой ОС при авторизации пользователя. После выхода из системы, ОС возвращается в «чистое» состояние, убирая любые изменения и вредоносные программы.

Для системного администратора это очень удобно — управляемость, безопасность, надежность на высоте, обновлять приложения можно в едином центре, а не на каждом ПК. Офисные пакеты, интерфейсы к базам данных, интернет-браузеры и прочие нетребовательные к графике приложения могут работать на любом сервере (всем известные терминальные клиенты 1С).

Но что делать, если хочется виртуализовать более серьезную графическую станцию?

Тут не обойтись без виртуализации графической подсистемы.

Наиболее производительный режим работы, поддерживается в продуктах Citrix XenDesktop 7 VDI delivery и VMware Horizon View (5.3 or higher) with vDGA. Полностью работают NVIDIA CUDA, DirectX 9,10,11, OpenGL 4.4. Все остальные компоненты (процессоры, память, накопители, сетевые адаптеры) виртуализованы и разделены между инстансами гипервизора, однако один GPU остается одним GPU. Каждая виртуальная машина получает свой GPU практически без пенальти по производительности.
Очевидное ограничение — количество таких виртуальных машин ограничено количеством доступных графических адаптеров в системе.

Работает в Microsoft RemoteFX, VMware vSGA. Этот вариант полагается на возможности ПО для VDI, виртуальная машина работает как будто с выделенным адаптером и и серверный GPU также полагает, что работает с одним хостом, хотя на самом деле это уровень абстракции. Гипервизор перехватывает вызовы API и транслирует все команды, запросы отрисовки и прочее до передачи графическому драйверу, а хост машина работает с драйвером виртуальной карты.

Shared GPU вполне разумное решение для многих случаев. Если приложения не слишком сложные, то одновременно может работать значительное число пользователей. С другой стороны, на трансляцию API тратится достаточно много ресурсов и при этом невозможно гарантировать совместимость с приложениями. Особенно с теми приложениями, которые используют более новые версии API, чем существовавшие на момент разработки VDI продукта.

Наиболее продвинутый вариант разделения GPU между пользователями, поддерживается на данный момент только в продуктах Citrix.

Как это работает? В VDI среде с vGPU каждая виртуальная машина работает через гипервизор с выделенным драйвером vGPU, который есть в каждой виртуальной машине. Каждый драйвер vGPU посылает команды и управляет одним физическим GPU, используя выделенный канал.
Обработанные кадры возвращаются драйвером в виртуальную машину для отправки пользователю.

Такой режим работы стал возможен в последнем поколении GPU производства NVIDIA — Kepler. В Kepler есть Memory Management Unit (MMU) который транслирует виртуальные адреса хоста в физические адреса системы. Каждый процесс работает в собственном виртуальном адресном пространстве, а MMU разделяет их физические адреса, чтобы не было пересечения и борьбы за ресурсы.

Воплощение в карточках

Разновидности для VDI

Но простого деления по характеристикам мало, для GRID доступно деление на виртуальные профили vGPU.

Видение типов пользователей

Профили и применения

Профили с индексом Q сертифицированы под ряд профессиональных приложений (например, Autodesk Inventor 2014 и PTC Creo) так же, как и карты серии Quadro.

Полное виртуальное счастье!

NVIDIA не была бы верна себе, если бы не подумала о дополнительных разновидностях. Определенную популярность набирают сервисы игр по запросу (Gaming-as-a-Service, GaaS), где тоже можно получить неплохой бонус от виртуализации и возможности разделить GPU между пользователями.

Разновидности для игр в облаках

Влияние виртуализации на производительность

Конфигурация сервера:
Intel Xeon CPU E5-2670 2.6GHz, Dual Socket (16 Physical CPU, 32 vCPU with HT)
Memory 384GB
XenServer 6.2 Tech Preview Build 74074c

Конфигурация виртуальных машин:
VM Vcpu: 4 Virtual CPU
Memory: 11GB
XenDesktop 7.1 RTM HDX 3D Pro
AutoCAD 2014
Бенчмарк CADALYST C2012
NVIDIA Driver: vGPU Manager: 331.24
Guest driver: 331.82

Методика измерений простая — в виртуальных машинах запускался тест CADALYST и сравнивалась производительность при добавлении новых виртуалок.

Как видно из результатов, для старшей модели K2 и сертифицированного профиля падение составляет порядка 10% при запуске 8 виртуальных машин, для модели K1 падение сильнее, но и виртуальных машин в два раза больше.

Абсолютный результат карт при максимальном числе виртуальных машин:

Куда ставить карты?

У нас представлена модель Hyperion RS225 G4, предназначенная для установки 4 Intel Xeon Phi или GPGPU карт.

Два процессора Xeon E5-2600 v2, до 1 терабайта оперативной памяти, 4 посадочных места под жесткие диски, InfiniBand FDR или 40G Ethernet для подключения к высокоскоростной сети и пара стандартных гигабитных сетевых разъемов.

Установка карты в сервер:

Также есть несколько типовых решений для различных случаев.

Источник

Бюджетные VPS с видеоадаптерами: сравнение российских провайдеров

Считается, будто виртуальные серверы с vGPU стоят дорого. В небольшом обзоре я попробую опровергнуть этот тезис.

Поиск в сети сходу выдает аренду суперкомпьютеров на NVIDIA Tesla V100 или серверов с мощными выделенными GPU попроще. Подобные услуги есть, к примеру, у МТС, Reg.ru или Selectel. Их месячная стоимость измеряется десятками тысяч рублей, а мне хотелось найти более дешевые варианты для приложений OpenCL и/или CUDA. Бюджетных VPS с видеоадаптерами на российском рынке не так много, в небольшой статье я сравню их вычислительные возможности с помощью синтетических тестов.

Участники

В список кандидатов на участие в обзоре попали виртуальные серверы хостеров 1Gb.ru, GPUcloud, RuVDS, UltraVDS и VDS4YOU. С получением доступа особых проблем не возникло, поскольку почти у всех провайдеров есть бесплатный тестовый период. У UltraVDS бесплатного теста официально нет, но договориться оказалось несложно: узнав о публикации, сотрудники поддержки накинули мне нужную для заказа VPS сумму на бонусный счет. На этом этапе с дистанции сошли виртуальные машины VDS4YOU, потому что для бесплатного тестирования хостер требует предоставить скан удостоверения личности. Понимаю, что от злоупотреблений нужно защищаться, но для проверки вполне достаточно реквизитов паспорта или, например, привязки аккаунта в социальной сети — ее требует 1Gb.ru.

Конфигурации и цены

Для тестирования были взяты машины среднего уровня, стоимостью менее 10 тысяч рублей в месяц: 2 вычислительных ядра, 4 ГБ оперативной памяти, SSD на 20 — 50 ГБ, vGPU с 256 МБ VRAM и Windows Server 2016. Перед оценкой производительности VDS посмотрим на их графические подсистемы вооруженным взглядом. Созданная компанией Geeks3D утилита GPU Caps Viewer позволяет получить подробную информацию об используемых хостерами аппаратных и программных решениях. С ее помощью можно увидеть, например, версию видеодрайвера, объем доступной видеопамяти, а также данные о поддержке OpenCL и CUDA.

Из рассмотренных провайдеров только GPUcloud использует виртуализацию OpenStack и технологию NVIDIA GRID. Из-за большого объема видеопамяти (доступны профили на 4, 8 и 16 ГБ) услуга стоит дороже, но у клиента будут работать приложения OpenCL и CUDA. Остальные претенденты предлагают vGPU и с меньшим объемом VRAM, созданные с использованием Microsoft RemoteFX. Стоят они значительно дешевле, но поддерживают только OpenCL.

Тестирование производительности

GeekBench 5

С помощью этой популярной утилиты можно измерить производительность графической подсистемы для приложений OpenCL и CUDA. На приведенной ниже диаграмме показан сводный результат, а более подробные данные для виртуальных серверов 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS доступны на сайте разработчика бенчмарка. Если их открыть, обнаружится интересный факт: GeekBench показывает объемы VRAM, намного превышающие заказанные 256 МБ. Тактовая частота центральных процессоров также может быть больше заявленной. В виртуальных средах это обычное явление — многое зависит от загруженности физического хоста, на котором работает VPS.

Разделяемые «серверные» vGPU слабее производительных «настольных» видеоадаптеров, если использовать их для тяжеловесных графических приложений. Такие решения предназначены в основном для вычислительных задач. Для оценки их эффективности были проведены другие синтетические тесты.

FAHBench 2.3.1

Для всестороннего анализа вычислительных возможностей vGPU этот бенчмарк не подходит, но с его помощью можно сравнить производительность видеоадаптеров разных VPS в сложных расчетах с использованием OpenCL. Проект распределенных вычислений Folding@Home решает узкую задачу компьютерного моделирования свертывания белковых молекул. Исследователи пытаются понять причины возникновения связанных с дефектными белками патологий: болезней Альцгеймера и Паркинсона, коровьего бешенства, рассеянного склероза и т.д. Измеренная с помощью созданной ими утилиты FAHBench производительность вычислений с одинарной и двойной точностью показана на диаграмме. К сожалению на виртуальной машине UltraVDS утилита выдала ошибку.

Дальше приведу сравнение результатов вычислений для метода моделирования dhfr-implicit.

SiSoftware Sandra 20/20

Пакет Sandra Lite отлично подходит для оценки вычислительных возможностей виртуальных видеоадаптеров различных хостеров. Утилита содержит наборы эталонных вычислительных тестов общего назначения (GPGPU) и поддерживает OpenCL, DirectCompute и CUDA. Для начала была сделана общая оценка разных vGPU. Диаграмма показывает сводный результат, более подробные данные для виртуальных серверов 1Gb.ru, GPUcloud (CUDA) и RuVDS доступны на сайте разработчика бенчмарка.

С «длинным» тестом Sandra тоже были проблемы. Для VPS провайдера GPUcloud не получилось провести общую оценку с использованием OpenCL. При выборе соответствующей опции утилита все равно работала через CUDA. Не прошел этот тест и для машины UltraVDS: бенчмарк замер на 86%, пытаясь определить латентность памяти.

В общем пакете тестов нельзя увидеть показатели с достаточной степенью детализации или проделать вычисления с высокой точностью. Пришлось провести несколько отдельных испытаний, начиная с определения пиковой производительности видеоадаптера с помощью набора простых математических расчетов с использованием OpenCL и (если это возможно) CUDA. Здесь также отражен только общий показатель, а детализированные результаты для VPS от 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS доступны на сайте.

Для сравнения скорости кодирования и декодирования данных в Sandra есть набор криптографических тестов. На сайте доступны подробные результаты для 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS.

Параллельные финансовые расчеты требуют поддерживающего вычисления с двойной точностью адаптера. Это еще одна важная сфера применения vGPU. На сайте доступны подробные результаты для 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS.

Sandra 20/20 позволяет протестировать возможности использования vGPU для научных расчетов с высокой точностью: умножения матриц, быстрого преобразования Фурье и т.д. На сайте доступны подробные результаты для 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS.

Напоследок был проведен тест возможностей vGPU по обработке изображений. На сайте доступны подробные результаты для 1Gb.ru, GPUcloud (OpenCL и CUDA), RuVDS и UltraVDS.

Выводы

У меня были определенные сомнения по поводу победителя, но обзор посвящен бюджетным VPS с vGPU, а виртуальная машина RuVDS стоит почти вдвое дешевле ближайшего конкурента и более чем вчетверо — самого дорогого предложения из рассмотренных. Второе и третье место тоже было непросто поделить, но и здесь цена перевесила прочие факторы.

В результате тестирования выяснилось, что vGPU начального уровня стоят не так дорого и пользоваться ими для решения вычислительных задач уже можно. Конечно по синтетическим тестам сложно предсказать, как поведет себя машина под реальной нагрузкой, к тому же от соседей по физическому хосту напрямую зависит возможность выделения ресурсов — делайте на это скидку. Если же вы найдете на просторах рунета другие бюджетные VPS с vGPU, не сочтите за труд написать о них в комментариях.

Источник

«Не процессором единым»: Виртуальные GPU

Объемы данных, накапливаемых в мире, растут, поэтому появляются все новые способы их обработки. Один из способов повышения скорости вычислений – совместное использование центрального (CPU) и графического процессора (GPU). Вычисления с GPU-ускорением были придуманы еще в 2007 году компанией Nvidia, но теперь технология вышла на новый уровень и применяется в дата-центрах крупнейших научных лабораторий и предприятий.

Мы уже затрагивали тему виртуализации в своем блоге, когда говорили о том, как и кем используется виртуальная инфраструктура. Сегодня нам бы хотелось рассказать вам, как работают виртуальные графические процессоры и какие GPU-технологии существуют на рынке.

Вычисления на GPU используются не только в компьютерных играх и при работе с видеоконтентом. Например, NASA, по заявлению одного из ученых-метеорологов, использует GPU в моделях GEOS-5 для увеличения эффективности численного моделирования атмосферных явлений. Это позволяет повысить доступность системы для большего числа людей, гарантируя разрешение 100–200 км/пиксель.

Вычисления с GPU-ускорением применяются и в бизнес-аналитике. Так, по словам старшего научного сотрудника HP Labs Рена Ву (Ren Wu), GPU позволили увеличить производительность используемых аналитических систем в 5–20 раз.

Сравнение центрального и графического процессоров

Архитектуры CPU и GPU изначально «заточены» под решение разных задач. Центральный процессор решает задачи общего назначения: исполнение набора последовательных инструкций, управление периферийными устройствами и так далее, поэтому обычно он содержит от 2 до 18 ядер, имеющих сложную структуру.

GPU же изначально проектировался для работы с графикой, потому состоит из большего числа энергоэффективных ядер, способных обрабатывать до нескольких тысяч потоков одновременно. При этом на GPU выполняется лишь часть самых ресурсоемких вычислений, а остальное отдается CPU.

Использование подобного рода вычислений актуально в научной сфере, поэтому для выполнения объемных научных расчетов создаются суперкомпьютеры, «начиненные» GPU. Однако несмотря на все преимущества подобного рода вычислений, закупка физического оборудования выливается в серьезные денежные траты. Более того, «железо» имеет тенденцию к устареванию, потому его приходится регулярно обновлять.

Технология vGPU

Эти проблемы призвана решить технология виртуальных графических процессоров (vGPU), представленная Nvidia, которая дает пользователям возможность удаленно запускать графикоемкие приложения. Здесь стоит отметить, что до появления vGPU применялись другие методы ускорения обработки графики:

Такой решение, как показало тестирование, проведенное сотрудниками компании VMware, оказалось достаточно состоятельным. В своей работе они описали результаты тестов приложений с использованием продуктов VMware: Workstation 6.5 и Fusion 2.0. Им удалось установить, что производительность Half-Life 2: Episode 2 и Civilization 4 при использовании виртуальных GPU была близка к фактической (как если бы игры запускали на физической машине).

Но технология vGPU находит применение в самых разных сферах: архитекторы и инженеры используют её в системах автоматизированного проектирования (например в Autodesk BIM), а дизайнеры работают с цифровым фото- и видеоконтентом (например в Adobe Photoshop). Она также применяется работниками из сферы здравоохранения, которые пользуются системами передачи и архивации медицинских изображений и документов обследованных пациентов (PACS), такими как GE Centricity EMR.

Стоит отметить, что до недавних пор невозможно было организовать доступ множества пользователей к одному GPU. Если 32 человека хотели обратиться к чертежам в AutoCAD со своих ВМ, то приходилось приобретать 8 дорогих видеокарт с 4 GPU. Эту проблему решила технология Nvidia GRID. Её суть заключается в совместном использовании vGPU несколькими виртуальными десктопами, к которым предоставляется прямой доступ с помощью драйверов Nvidia.

Фактически последняя версия Nvidia GRID 2.0 позволяет перенести всю работу в виртуальное пространство. Обновленная технология поддерживает до 128 пользователей на сервере и значительно увеличивает производительность приложений. Также GRID 2.0 позволяет запускать виртуальные десктопы на блейд-серверах и поддерживает не только ОС Windows, но и Linux.

Настройка режима vGPU для карт Nvidia в VMware vSphere 6

/ фото ChrisDag CC

Компания VMware ввела функцию виртуальных GPU в обновлении своей платформы виртуализации vSphere 6.0. Технология vGPU от Nvidia при использовании с продуктами VMware подразумевает использование в качестве платформы VMware vSphere 6, а в качестве средства управления виртуальными ПК – VMware Horizon 6.

vGPU поддерживается для графических адаптеров Nvidia GRID K1 и K2, для каждого из которых определены 4 профиля использования ресурсов видеокарты. Вот таблица их вариантов:

В данной таблице приведены три типа пользователей:

После того как Nvidia vGPU Manager настроен на хост-серверах ESXi, нам нужно подготовить виртуальные машины. Это делается через vSphere Web Client, где выбираются аппаратные характеристики ВМ в зависимости от типа рабочей нагрузки.

Затем в настройках ВМ нужно добавить Shared PCI Device, а также выбрать тип Nvidia GRID vGPU и профиль в соответствии с приведенной выше таблицей. После этого можно устанавливать гостевую ОС (Windows 7 и более поздние версии).

Теперь остается установить драйвер Nvidia GRID и настроить пул виртуальных ПК в VMware Horizon View: просто указываем протокол PCoIP и тип 3D-рендера Nvidia GRID VGPU. На этом все. Виртуальные машины готовы к работе с vGPU.

Источник