«NVIDIA ускоряет разработку индивидуальных моделей генеративного искусственного интеллекта для предприятий»
Ускорение разработки индивидуальных моделей генеративного искусственного интеллекта для предприятий NVIDIA
Сегодняшний ландшафт бесплатных, открытых крупных языковых моделей (LLMs) похож на шведский стол для предприятий. Это изобилие может быть ошеломляющим для разработчиков, строящих настраиваемые генеративные AI-приложения, так как им необходимо учитывать уникальные требования проекта и бизнеса, включая совместимость, безопасность и данные, используемые для обучения моделей.
Модели AI Foundation от NVIDIA — это подобранная коллекция предварительно обученных моделей предприятий, которая дает разработчикам хорошую отправную точку для внедрения настраиваемой генеративной AI в свои предприятий.
Модели Foundation от NVIDIA оптимизированы для ускорения инноваций
Модели AI Foundation от NVIDIA можно использовать с помощью простого пользовательского интерфейса или API, напрямую из браузера. Кроме того, эти модели могут быть доступны из концевых точек AI Foundation от NVIDIA для тестирования производительности модели непосредственно из их предприятий.
Доступные модели включают ведущие модели сообщества, такие как Llama 2, Stable Diffusion XL и Mistral, которые отформатированы для помощи разработчикам в упрощении настройки с собственными данными. Кроме того, модели были оптимизированы с использованием NVIDIA TensorRT-LLM для обеспечения наивысшей производительности и самой низкой задержки при работе в масштабе на любом стеке, ускоренном GPU NVIDIA. Например, модель Llama 2, оптимизированная с помощью TensorRT-LLM, работает почти в два раза быстрее на NVIDIA H100.
- Новые вычислительные устройства H100, H200 Tensor Core GPU от NVIDIA поступают в Microsoft Azure для ускорения нагрузки ИИ.
- «Зазвучавшее будущее NVIDIA и Amdocs внедряют индивидуальный генеративный искусственный интеллект в глобальную телекоммуникационную отрасль»
- 2 задачи для повышения навыков работы с данными на языке Python
Новая семья моделей Nemotron-3 8B от NVIDIA поддерживает создание самых современных предприятий для чатов и приложений Q&A для широкого спектра отраслей, включая здравоохранение, телекоммуникации и финансовые услуги.
Модели являются отправной точкой для клиентов, строящих безопасные готовые к производству генеративные AI-приложения, которые обучаются на ответственно собранных наборах данных и работают с сравнимой производительностью с гораздо более крупными моделями. Это делает их идеальными для предприятий.
Многоязыковые возможности являются ключевым отличительным фактором моделей Nemotron-3 8B. По умолчанию модели владеют более чем 50 языками, включая английский, немецкий, русский, испанский, французский, японский, китайский, корейский, итальянский и голландский.
Ускоренная настройка для внедрения заказных решений
Предприятия, использующие генеративный AI в рамках бизнес-функций, нуждаются в фабрике искусственного интеллекта для настройки моделей под свои уникальные приложения. Фабрика искусственного интеллекта от NVIDIA включает три элемента — модели AI Foundation от NVIDIA, фреймворк и инструменты NVIDIA NeMo и службы AI суперкомпьютеров NVIDIA DGX Cloud. Вместе они создают комплексное предложение для предприятий по созданию заказных генеративных AI-моделей.
Важно отметить, что предприятия принадлежат их настраиваемым моделям и могут развертывать их практически везде на ускоренных вычислениях с предприятий-уровня безопасностью, стабильностью и поддержкой с использованием программного обеспечения NVIDIA AI Enterprise.
Модели AI Foundation от NVIDIA свободно доступны для экспериментов в каталоге NVIDIA NGC и Hugging Face, а также размещены в каталоге моделей Microsoft Azure AI.
