MLCommons представил новый бенчмарк-тест скорости для запуска моделей искусственного интеллекта.
MLCommons представил новый бенчмарк-тест скорости запуска ИИ-моделей.
В понедельник группа по бенчмарку искусственного интеллекта под названием MLCommons представила результаты новых тестов, определяющих, насколько быстро лучшая аппаратная платформа может выполнять модели искусственного интеллекта. Согласно докладу Reuters, лучший результат в этих тестах показал чип от Nvidia.
Тестирование было проведено на большой модели языка, и в результате чип от конкурирующей компании Intel занял второе место в бенчмарке. Речь идет о бенчмарке MLPerf, основанном на модели LLM с 6 миллиардами параметров, способной делать краткие выдержки из статей CNN.
Nvidia заняла первое место, используя восьмичиповую сборку своих флагманских чипов H100. Однако ее результаты не вызывают удивления, так как эта компания доминирует на рынке уже довольно долгое время. Комментируя результаты, директор по маркетингу ускоренных вычислений Nvidia, Дэйв Сальватор, сказал: «Вы видите, что мы обеспечиваем лидерство в производительности во всех областях и снова достигаем этой лидерской производительности во всех рабочих нагрузках».
- LLMOps Шаблоны инженерии производственных задач с Hamilton
- Вот первые спикеры осеннего бизнес-саммита AiX
- Декодирование алгоритма бинарного поиска с примерами
На втором месте Intel смогла занять призерское место, используя свои чипы Gaudi2. Эти чипы производятся одной из недавно приобретенных компаний Intel, Habana. Приобретение произошло в 2019 году, и их чипы оказались примерно на 10% медленнее сборки от Nvidia.
Комментируя производительность Gaudi2 во время тестов, главный операционный директор Habana, Эйтан Медина, сказал: «Мы очень гордимся результатами вывода, так как мы показываем преимущество цена-производительность Gaudi2».
В интервью Reuters Intel заметил, что их сборка дешевле, чем у Nvidia, и по их утверждениям стоит примерно столько же, сколько у их конкурента стоили системы предыдущего поколения 100. Однако тестирование аппаратных платформ проводили не только Intel и Nvidia.
Во время тестов Google продемонстрировал свою сборку чипов. Об этом было объявлено в августе, но это показывает, что полупроводниковая индустрия, хотя и контролируется несколькими компаниями, имеет некоторых новых конкурентов. Это имеет смысл, так как доля рынка этой отрасли ожидает двузначный рост.
Согласно Fortune Business Insights, доля рынка полупроводниковой промышленности, вероятно, превысит триллион долларов к 2029 году. Это в значительной степени обусловлено спросом на новые электронные устройства, инструменты на основе искусственного интеллекта, ростом технологии интернета вещей и т. д.
