Oracle Cloud Infrastructure предлагает новые вычислительные экземпляры с ускорением от графических процессоров NVIDIA

Oracle Cloud Infrastructure предлагает новые экземпляры с GPU от NVIDIA.

С генеративным искусственным интеллектом и большими моделями языка (LLM), которые способствуют революционным инновациям, вычислительные требования для обучения и вывода данных растут стремительными темпами.

Современные приложения с генеративным искусственным интеллектом требуют полноценного ускоренного вычисления на всех уровнях, начиная с современной инфраструктуры, способной обрабатывать массовые рабочие нагрузки с высокой скоростью и точностью. Чтобы помочь удовлетворить эту потребность, Oracle Cloud Infrastructure сегодня объявила о начале общедоступного использования графических процессоров NVIDIA H100 Tensor Core на OCI Compute, а также о скором появлении графических процессоров NVIDIA L40S.

Графический процессор NVIDIA H100 Tensor Core на OCI

Вычислительные металлические экземпляры OCI Compute с графическими процессорами NVIDIA H100, работающими на архитектуре NVIDIA Hopper, обеспечивают значительный прогресс в области крупномасштабного искусственного интеллекта и высокопроизводительных вычислений, обладая беспрецедентной производительностью, масштабируемостью и универсальностью для любой рабочей нагрузки.

Организации, использующие графические процессоры NVIDIA H100, получают увеличение производительности в 30 раз при выводе и в 4 раза при обучении искусственного интеллекта по сравнению с использованием графического процессора NVIDIA A100 Tensor Core. Графический процессор H100 разработан для выполнения ресурсоемких вычислительных задач, включая обучение LLM и вывод данных в процессе их выполнения.

• Четыре технологии Линкольнской лаборатории получили пять наград R&D 100 2023 года
• Нанофотоника выравнивает линзы камеры
• Как можно улучшить ваши показатели и процесс прогнозирования без сложных алгоритмов?

Форма вычислителя OCI BM.GPU.H100.8 включает в себя восемь графических процессоров NVIDIA H100, каждый из которых имеет 80 ГБ памяти HBM2 GPU. Между восьмью графическими процессорами обеспечивается двунаправленная пропускная способность в 3,2 ТБ/с, что позволяет каждому графическому процессору взаимодействовать напрямую со всеми семью другими графическими процессорами с помощью технологии NVIDIA NVSwitch и NVLink 4.0. В форму входят 16 локальных накопителей NVMe с емкостью 3,84 ТБ каждый, а также процессоры 4-го поколения Intel Xeon с 112 ядрами и 2 ТБ системной памяти.

Вкратце, эта форма оптимизирована для самых сложных рабочих нагрузок организаций.

В зависимости от сроков и размеров рабочих нагрузок OCI Supercluster позволяет организациям масштабировать использование графического процессора NVIDIA H100 от одного узла до десятков тысяч графических процессоров H100 по сети с высокой производительностью и экстремально низкой задержкой.

Графический процессор NVIDIA L40S на OCI

Графический процессор NVIDIA L40S на основе архитектуры NVIDIA Ada Lovelace является универсальным графическим процессором для центров обработки данных, обеспечивающим прорывное ускорение множественных рабочих нагрузок для вывода данных и обучения LLM, визуальных вычислений и видеоприложений. Вычислительные металлические экземпляры OCI Compute с графическими процессорами NVIDIA L40S будут доступны для предварительного доступа позднее в этом году, а общедоступность ожидается в начале 2024 года.

Эти экземпляры предложат альтернативу экземплярам графических процессоров NVIDIA H100 и A100 для решения меньших и средних рабочих нагрузок в области искусственного интеллекта, а также для задач графики и видео. Графический процессор NVIDIA L40S достигает увеличения производительности до 20% для рабочих нагрузок генеративного искусственного интеллекта и улучшения на 70% для настройки искусственных интеллектуальных моделей по сравнению с графическим процессором NVIDIA A100.

Форма вычислителя OCI BM.GPU.L40S.4 включает в себя четыре графических процессора NVIDIA L40S, а также процессоры Intel Xeon последнего поколения с до 112 ядрами, 1 ТБ системной памяти, 15,36 ТБ низколатентного локального накопителя NVMe для кэширования данных и 400 ГБ/с кластерной пропускной способности сети. Этот экземпляр был создан для решения широкого спектра задач, включая обучение, настройку и вывод данных LLM, рабочие нагрузки NVIDIA Omniverse и цифровизацию промышленности, трехмерную графику и визуализацию, видеотранскодирование и вычисления FP32 HPC.

NVIDIA и OCI: предприятий искусственный интеллект

Это сотрудничество между OCI и NVIDIA позволит организациям всех размеров воспользоваться революцией в области генеративного искусственного интеллекта, предоставив им современную инфраструктуру с графическими процессорами NVIDIA H100 и L40S.

Однако доступ к графическим процессорным экземплярам NVIDIA может быть недостаточным. Раскрытие максимального потенциала графических процессоров NVIDIA на OCI Compute означает наличие оптимального программного уровня. NVIDIA AI Enterprise упрощает разработку и развертывание программного обеспечения на основе ускоренного искусственного интеллекта предприятий с помощью контейнеров и фреймворков с открытым исходным кодом, оптимизированных для базовой инфраструктуры графических процессоров NVIDIA, все с поддержкой служб поддержки.

Чтобы узнать больше, присоединитесь к NVIDIA на Oracle Cloud World в AI Pavilion, посетите эту сессию о новых экземплярах OCI в среду, 20 сентября, и посетите эти веб-страницы на Oracle Cloud Infrastructure, OCI Compute, подход Oracle к искусственному интеллекту и платформе NVIDIA AI.