Новые вычислительные устройства H100, H200 Tensor Core GPU от NVIDIA поступают в Microsoft Azure для ускорения нагрузки ИИ.

Новые вычислительные устройства H100, H200 Tensor Core GPU от NVIDIA теперь доступны в Microsoft Azure для ускорения вычислений ИИ.

По мере того, как NVIDIA продолжает сотрудничество с Microsoft для создания современной инфраструктуры искусственного интеллекта, Microsoft представляет дополнительные виртуальные машины на основе H100 в Microsoft Azure для ускорения требовательных нагрузок искусственного интеллекта.

На конференции Ignite в Сиэтле сегодня Microsoft объявила о запуске новой серии виртуальных машин NC H100 v5 для Azure, первых в отрасли облачных экземпляров, оснащенных видеокартами NVIDIA H100 NVL.

Данное предложение объединяет две видеокарты H100, соединенные через технологию NVIDIA NVLink, обеспечивающие примерно 4 петафлопса вычислительной мощности и 188 ГБ более быстрой памяти HBM3. Видеокарта NVIDIA H100 NVL может обеспечить до 12-кратного увеличения производительности GPT-3 175B по сравнению с предыдущим поколением и является идеальным решением для задач вывода и основного обучения.

Также Microsoft объявила о планах добавить видеокарту NVIDIA H200 Tensor Core в свой парк виртуальных машин Azure в следующем году для поддержки обработки более крупных моделей без увеличения задержки. Это новое предложение создано для ускорения крупных задач искусственного интеллекта, включая LLMs и модели генеративного искусственного интеллекта.

Видеокарта H200 обеспечивает заметное увеличение емкости и пропускной способности памяти благодаря самой последней технологии HBM3e. По сравнению с H100, новая видеокарта будет предлагать 141 ГБ памяти HBM3e (в 1,8 раза больше) и до 4,8 ТБ/с пиковой пропускной способности памяти (увеличение в 1,4 раза).

Облачные вычисления становятся конфиденциальными

Дополнительно расширяя доступность ускоренных NVIDIA облачных вычислений генеративного искусственного интеллекта для клиентов Azure, Microsoft объявила о запуске еще одной группы устройств, работающих на NVIDIA: NCC H100 v5.

Эти конфиденциальные виртуальные машины Azure с видеокартами NVIDIA H100 Tensor Core позволяют клиентам защитить конфиденциальность и целостность своих данных и приложений при использовании, находясь в памяти, при этом имея доступ к превосходному ускорению видеокарт H100. Данные улучшенные видеокартами конфиденциальные виртуальные машины скоро будут доступны в приватном просмотре.

Чтобы узнать больше о новых конфиденциальных виртуальных машинах с видеокартами NVIDIA H100 Tensor Core и зарегистрироваться на предварительный просмотр, читайте блог.

Узнайте больше о виртуальных машинах Azure с NVIDIA-поддержкой на странице с информацией о виртуальных машинах с GPU.