Nvidia Tesla @ Softlayer

30
Дмитрий Конягин [email protected] NVIDIA TESLA @ SOFTLAYER

Transcript of Nvidia Tesla @ Softlayer

Page 1: Nvidia Tesla @ Softlayer

Дмитрий Конягин

[email protected]

NVIDIA TESLA @ SOFTLAYER

Page 2: Nvidia Tesla @ Softlayer

2

ENTERPRISE АВТО ГЕЙМИНГ ДАТА ЦЕНТРЫ ПРОФ ВИЗУАЛИЗАЦИЯ

ЛИДЕР В ОБЛАСТИ ВИЗУАЛЬНЫХ ВЫЧИСЛЕНИЙ

Page 3: Nvidia Tesla @ Softlayer

3

ЭВОЛЮЦИЯ IT В КОМПАНИЯХ Повышение продуктивности за счет мобильности и непрерывного взаимодействия

Page 4: Nvidia Tesla @ Softlayer

4

СЕГОДНЯ КОМПАНИИ ВЫНУЖДЕНЫ ВЫБИРАТЬ

Мобильность Взаимодейст-вие

Безопасность Производи-тельность

между различными решениями для разных групп пользователей

Page 5: Nvidia Tesla @ Softlayer

5

ЕДИНАЯ РАБОЧАЯ СРЕДА БЕЗ ОГРАНИЧЕНИЙ NVIDIA GRID обеспечивает необходимую производительность для

всех типов пользователей

Мобильность Взаимодейст-вие

Безопасность Производи-тельность

Page 6: Nvidia Tesla @ Softlayer

6

ГРАФИКА ТРЕБУЕТСЯ ДЛЯ ВСЕ БОЛЬШЕГО КОЛИЧЕСТВА ЗАДАЧ

Сегодня всем сотрудникам должен быть обеспечен полнуфункциональный рабочий процесс

Количество приложений, требующих наличия

графики, удвоилось с 2011

2x 56%

Более половины корпоративных

пользователей используют хотя бы одно приложение,

ускоряемое на GPU

50%

Большинство компаний начнут внедрение Win10 к

январю 2017

Page 7: Nvidia Tesla @ Softlayer

7

ВИРТУАЛИЗАЦИЯ ЛЮБЫХ РАБОЧИХ МЕСТ NVIDIA GRID обеспечивает необходимую производительность для

любых типов пользователей

Page 8: Nvidia Tesla @ Softlayer

8

ПРОИЗВОДИТЕЛЬНОСТЬ ИЗ ЦОД Ускорение графики для виртуальных десктопов и приложений

В любых устройствах есть

графика

Виртуальным машинам тоже

нужен GPU

Page 9: Nvidia Tesla @ Softlayer

9

Page 10: Nvidia Tesla @ Softlayer

10

ПРЕИМУЩЕСТВА ДЛЯ ВСЕХ Виртуализация графики дает дополнительные преимущества для IT и пользователей

IT

Пользо

вате

ли

Повышение производительности Повышение продуктивности Мобильность

Упрощение поддержки Централизованное управление Безопасность данных

Page 11: Nvidia Tesla @ Softlayer

11

ИСТОРИИ УСПЕХА С NVIDIA GRID Глобальные компании, использующие ускорение графики для

виртуальных десктопов

Page 12: Nvidia Tesla @ Softlayer

12

РЕШЕНИЯ NVIDIA GRID Индустриальный стандарт виртуализации графики

Support, Updates & Maintenance

Tesla Datacenter GPUs

NVIDIA GRID лицензии

GPU Tesla для дата-центров

Page 13: Nvidia Tesla @ Softlayer

13

НЕПРЕРЫВНЫЕ УЛУЧШЕНИЯ ЧЕРЕЗ ОБНОВЛЕНИЕ ПО

2015 2016 2017-Future

Возм

ож

ности

/ Ф

ункционал

Функционал

2X производительность Linux десктопы

Масштабируемость

16:1 vGPU

Функционал

Ускорение протокола Blast поддержка 4K дисплеев

Масштабируемость

Ускорение протокола Blst Появление Virtual Apps

Управление и мониторинг

Мониторинг состояния

Функционал

Улучшения CUDA/OGL/DX

Масштабируемость

>16:1 vGPU

Управление и мониторинг

Провизионинг & управление миграция & балансировка

Облачные провайдеры

Лицензирование

vGPU в гипервизорах CSP

THIS INFORMATION IS INTENDED TO OUTLINE OUR GENERAL PRODUCT DIRECTION. MANY OF THE PRODUCTS AND FEATURES DESCRIBED HEREIN REMAIN IN VARIOUS STAGES AND WILL BE OFFERED ON A WHEN-AND-IF-AVAILABLE BASIS. THIS ROADMAP DOES NOT CONSTITUTE A COMMITMENT, PROMISE, OR LEGAL OBLIGATION AND IS SUBJECT TO CHANGE AT THE SOLE DISCRETION OF NVIDIA.

Page 14: Nvidia Tesla @ Softlayer

14

ПРОДУКТЫ NVIDIA GRID

Apps

NVIDIA GRID Virtual Applications

NVIDIA GRID Virtual PC

NVIDIA GRID Virtual Workstation

Для клиентов, использующих

XenApp или другие RDSH

решения. Максимальная

производительность

доставляемых Windows-

приложений

Для клиентов, которым

необходим виртуальный

полноценный десктоп для

работы с PC Windows

приложениями, браузерами и

HD видео

Для клиентов, которым

необходимо удаленно работать

с профессиональными

графическими приложениями с

максимальной

производительностью, на

любом устройстве, в любом

месте

Page 15: Nvidia Tesla @ Softlayer

15

ПРОДУКТЫ TESLA С ТЕХНОЛОГИЕЙ GRID Самые производительные GPU для ЦОД, предназначенные для виртуализации графики

M10 M6 M60

GPU Quad Mid-level Maxwell Single High-end Maxwell Dual High-end Maxwell

CUDA Cores 2560 (640 per GPU) 1536 4096 (2048 per GPU)

Memory Size 32 GB GDDR5 (8 GB per GPU) 8 GB GDDR5 16 GB GDDR5 (8GB per GPU)

H.264 1080p30 streams 28 18 36

Max vGPU instances 64 16 32

Form Factor PCIe 3.0 Dual Slot (rack servers) MXM (blade servers) PCIe 3.0 Dual Slot (rack servers)

Power 225W 100W (75W opt) 240W / 300W (225W opt)

Thermal passive bare board active / passive

Оптимизация под

Плотность Оптимизация под

Производительность Оптимизация под

Блейды

Page 16: Nvidia Tesla @ Softlayer

16

SUPPORT, UPDATES AND MAINTENANCE

Поддержка

Решение проблем в

среде конкретного

заказчика

?

Обновления

Доступ к программным

обновлениям

компонентов NVIDIA

GRID

Обслуживание

Долгосрочное

улучшение продукта и

повышение надежности

Page 17: Nvidia Tesla @ Softlayer

17

ОПЦИИ ЛИЦЕНЗИРОВАНИЯ

Ежегодная подписка дает право

использования программного обеспечения

NVIDIA GRID и включает поддержку на 1

год. Доступна опция приобретения подписки

сразу на 3 года.

Постоянная лицензии не ограничена сроком

действия. Приобретение поддержки на

первый год является обязательный.

Page 18: Nvidia Tesla @ Softlayer

18

РРЦ НА NVIDIA GRID

Постоянная лицензия + SUMS

Virtual Applications $20 постоянная лицензия

$5 SUMS

Virtual PC $100 постоянная лицензия

$25 SUMS

Virtual Workstation $450 постоянная лицензия

$100 SUMS

Ежегодная подписка

Virtual Applications $10 подписка

Virtual PC $50 подписка

Virtual Workstation $250 подписка

NVIDIA CONFIDENTIAL. DO NOT DISTRIBUTE. * Все цены носят индикативный характер и приведены без учета НДС

Page 19: Nvidia Tesla @ Softlayer

19

РЕСУРСЫ NVIDIA GRID

GRID Test Drive www.nvidia.com/trygrid

GRID Website www.nvidia.ru/vdi

GRID YouTube Channel http://tinyurl.com/gridvideos

Questions? Ask on our Forums https://gridforums.nvidia.com

NVIDIA GRID on LinkedIn http://linkd.in/QG4A6u

Follow us on Twitter @NVIDIAGRID

Page 20: Nvidia Tesla @ Softlayer

20

Вычисления на GPU

NVIDIA Вычисления для самых требовательных пользователей

Вычисления для творчества

Вычисления для ИИ

Page 21: Nvidia Tesla @ Softlayer

21

УСКОРЕННЫЕ ВЫЧИСЛЕНИЯ -

ПУТЬ В БУДУЩЕЕ

“ Пора начать думать о конце закона Мура. Вопрос уже не в том, когда это произойдет, а в том что делать после.”

Robert Colwell

Director, Microsystems Technology Office, DARPA

Page 22: Nvidia Tesla @ Softlayer

22

70% КЛЮЧЕВЫХ HPC ПРИЛОЖЕНИЙ УЖЕ УСКОРЯЮТСЯ

VASP ТЕПЕРЬ УСКОРЯЕТСЯ

Обычно потребляет

10-25%

ресурсов HPC кластера

ИССЛЕДОВАНИЕ КЛЮЧЕВЫХ ПРИЛОЖЕНИЙ ОТ INTERSECT360

OF TOP APPS

Top 10 HPC приложений

90% ускоряются

Top 50 HPC приложений

70% ускоряются

1 сервер с 2 х K80

1.3x

4 dual-CPU сервера

1.0x

Intersect360, Nov 2015 “HPC Application Support for GPU Computing” Dual-socket Xeon E5-2690 v2 3GHz, Dual Tesla K80, FDR InfiniBand Dataset: NiAl-MD Blocked Davidson

Page 23: Nvidia Tesla @ Softlayer

23

Более 400 приложений с GPU ускорением

www.nvidia.com/appscatalog

Page 24: Nvidia Tesla @ Softlayer

24

3 СПОСОБА УСКОРИТЬ ПРИЛОЖЕНИЕ НА GPU

Приложения

Библиотеки Языки

программирования OpenACC

директивы

“copy-paste”

ускорение

Максимальная

гибкость

Простое ускорение

приложений

Page 25: Nvidia Tesla @ Softlayer

25

ГЛУБОКОЕ ОБУЧЕНИЕ — НОВАЯ МОДЕЛЬ ПРОГРАММИРОВАНИЯ

“Код, который пишет код”

“маленькая девочка

ест пироженое"

ОБУЧАЮЩИЙСЯ

АЛГОРИТМ

огромные

вичислительные

потребности

Page 26: Nvidia Tesla @ Softlayer

26

72%

74%

84%

88%

93%

96%

2010 2011 2012 2013 2014 2015

МАССОВАЯ АДАПТАЦИЯ БЛАГОДАРЯ ВЫДАЮЩИМСЯ

РЕЗУЛЬТАТАМ

Глубокое обучение

ImageNet — точность %

Облачные сервисы, использующие ИИ, на базе NVIDIA

Alibaba/Aliyun Amazon Baidu eBay Facebook

Flickr Google iFLYTEK iQIYI JD.com

Orange Periscope Pinterest Qihoo 360 Shazam

Skype Sogou Twitter Yahoo Supermarket Yandex Yelp Запрограммиро ванные детекторы

Человек

74% 76%

Page 27: Nvidia Tesla @ Softlayer

27 Source: IDC Worldwide Big Data and Analytics 2016 Predictions, November 2015. IDC FutureScape: Worldwide Digital Strategy Consulting 2016 Predictions, Nov 2015;

“К 2020 году 80% всех внедрений по аналитике

больших данных будут требовать

распределенной микроаналитики и 40% всех

приложений бизнес-аналитики будут

содержать предписывающую аналитику на

базе когнитивных технологий. Все эти

тренды требуют огромной вычислительной

мощности, которая может быть обеспечена

GPU.”

— IDC

“К 2018 году более 50% разработчиков (против

1% сегодня) будут использовать в своих

приложениях когнитивные сервисы, что

позволит сэкономить американским

компаниям свыше $60 млрд к 2020 году.”

— IDC

ИИ — СЛЕДУЮЩАЯ РЕВОЛЮЦИЯ В (IT) МИРЕ

Page 28: Nvidia Tesla @ Softlayer

28

ACADEMIA

START-UPS

CNTK TENSORFLOW

DL4J

УСКОРЕНИЕ ВСЕХ ФРЕЙМВОРКОВ

NVIDIA TESLA

*U. Washington, CMU, Stanford, TuSimple, NYU, Microsoft, U. Alberta, MIT, NYU Shanghai

VITRUVIAN SCHULTS

LABORATORIES

CAFFE

THEANO

TORCH

MATCONVNET

PURINE MOCHA.JL

MINERVA MXNET*

CHAINER

TORCH

OPENDEEP KERAS

Page 29: Nvidia Tesla @ Softlayer

29

ПОЛНОЦЕННОЕ СЕМЕЙСТВО ПРОДУКТОВ TESLA

HYPERSCALE HPC

Tesla M4, M40

MIXED-APPS HPC

Tesla K80

STRONG-SCALING HPC

Tesla P100

FULLY INTEGRATED DL SUPERCOMPUTER

DGX-1

Полностью интегрированное решение по принципу

включи-и-работай

Hyperscale & HPC дата-центры с задачами хорошо масштабируемыми на GPU

HPC дата-центры со широким набором задач для CPU и GPU

Hyperscale решения для глубокого обучения,

инференса, обработки изображений и видео

Page 30: Nvidia Tesla @ Softlayer