Deci представляет DeciCoder открытую модель языка большого размера с 1 млрд параметров для генерации кода

Deci представляет модель DeciCoder с 1 млрд параметров для генерации кода.

В быстротемповом мире искусственного интеллекта эффективная генерация кода является вызовом, который нельзя пренебрегать. С появлением все более сложных моделей возрос спрос на точную генерацию кода, но также возникли опасения в отношении потребления энергии и операционных затрат. Стремясь непосредственно решить эту проблему эффективности, пионерская компания Deci представляет DeciCoder — масштабную модель языка (LLM) с открытым исходным кодом на 1 миллиард параметров, которая стремится переопределить золотой стандарт в эффективной и точной генерации кода.

Существующие модели генерации кода борются с тонким балансом между точностью и эффективностью. Известный игрок в этой области, SantaCoder, хотя и широко используется, имеет ограничения в пропускной способности и потреблении памяти. Именно здесь DeciCoder становится преобразующим решением. Основываясь на основах эффективности искусственного интеллекта Deci, DeciCoder использует передовую архитектуру и собственную технологию автоматического поиска архитектуры нейронной сети AutoNAC. В отличие от ручных, трудоемких подходов, которые часто оказываются неэффективными, AutoNAC автоматизирует процесс генерации оптимальных архитектур. В результате получается впечатляющая архитектура, оптимизированная для графического процессора A10 от NVIDIA, которая не только увеличивает пропускную способность, но и не уступает точности SantaCoder.

Архитектура DeciCoder является свидетельством инноваций. Включение сгруппированного запроса внимания с восьмью ключевыми и значениями упрощает вычисления и использование памяти, достигая гармонии между точностью и эффективностью. В сравнении с SantaCoder, DeciCoder имеет отличительные характеристики – меньше слоев (20 против 24), больше голов (32 против 16) и параллельный размер вложения. Эти особенности, полученные благодаря сложному процессу AutoNAC, лежат в основе мощности DeciCoder.

История DeciCoder отмечена инновациями и неослабевающим вниманием к эффективности. Влияние этого развития является глубоким. Используя DeciCoder вместе с Infery LLM, специализированным движком вывода, пользователи получают значительно большую пропускную способность – впечатляющие 3,5 раза больше, чем у SantaCoder. Рассказ об этой инновации не заканчивается преимуществами в эффективности; он также о сбалансированности в отношении экологии. Подчеркивая экологическую ориентацию Deci, уменьшение выбросов углекислого газа составляет 324 кг CO2 на каждый экземпляр модели на графическом процессоре A10G. Это перспективный шаг в сторону экологически осознанного искусственного интеллекта.

https://deci.ai/blog/decicoder-efficient-and-accurate-code-generation-llm/

DeciCoder не является изолированным предприятием; это часть всестороннего подхода Deci к эффективности искусственного интеллекта. Когда компания открывает новую эру масштабных основных моделей LLM и моделей текст-изображение, разработчики могут ожидать скорого появления генеративного AI SDK, готового переопределить среду настройки, оптимизации и развертывания. Этот всесторонний комплекс преимуществ эффективности распространяется на огромные предприятия и малые игроки, демократизируя потенциал искусственного интеллекта.

История DeciCoder не ограничивается ее архитектурой и показателями; она о власти. Она дает возможность разработчикам и бизнесу через лицензирование с минимальными ограничениями интегрировать DeciCoder в проекты. Гибкость развертывания DeciCoder в коммерческих приложениях соответствует миссии Deci по стимулированию инноваций и роста во всех отраслях. Это история, которая не только о искусственном интеллекте, но и о том, чтобы вызвать положительную трансформацию в технологии и ее воздействии.

https://deci.ai/blog/decicoder-efficient-and-accurate-code-generation-llm/

В целом, DeciCoder – это не просто модель; это реализация потенциала эффективности искусственного интеллекта. Благодаря синергии AutoNAC, Группового внимания к запросу и специализированных движков вывода, он предлагает высокопроизводительную и экологически ответственную модель. Путешествие Deci, описанное вводной частью DeciCoder, является маяком для сообщества искусственного интеллекта – призывом революционизировать технологии, уважая ресурсы нашей планеты. Это не просто код; это код для более устойчивого и эффективного будущего искусственного интеллекта.