Первый родной LLM, совершенствованный для телекоммуникационной отрасли

Первый родной LLM, оптимизированный для телекоммуникационной отрасли

Kinetica была основана в 2016 году в рамках инициативы по инновациям для армии с целью отслеживания и анализа угроз национальной безопасности и предоставления аналитики в реальном времени.

Сегодня они являются пионерами в области аналитики пространственной и временной серии, работающей на базе графических процессоров (GPU). Kinetica только что представила SQL-GPT для Телекома – первое в отрасли решение на основе большой языковой модели, специально разработанное для сектора телекоммуникаций. Эта инновация направлена на предоставление возможностей профессионалам в области телекоммуникаций, позволяя вести разговор на естественном языке с использованием данных в реальном времени для получения ценной информации.

Как объясняет Чад Мели, главный маркетолог Kinetica: “Мы разработали интерфейс на естественном языке для SQL. Это позволяет всем сотрудникам организации использовать временные ряды и пространственные соединения, которые использует телекоммуникационная организация.” Перевод простых английских вопросов в эффективный SQL, адаптированный к типичным наборам данных и сценариям использования в телекоммуникациях, позволяет обходить необходимость в специализированных навыках анализа данных.

Например, техник на месте работы может просто попросить систему “показать оборудование, требующее немедленного внимания” и мгновенно получить приоритизированный список проблем для решения.

• Новый конкурент ChatGPT Gemini от Google
• Встречайте VideoSwap Искусственный Интеллектовый Фреймворк, который настраивает замену объектов на видео с помощью интерактивной семантической точечной корреспонденции.
• Получите управление рабочей силой end-to-end Amazon Forecast и AWS Step Functions

Преодоление преград в аналитике для более быстрых результатов

Одним из главных преимуществ является демократизация доступа к быстрым результатам, способствующим принятию решений. Как поясняет Мели: “Ограниченность ресурсов является преградой для компаний в получении ценности из своих данных. Большинство компаний только начинают проникать в суть вопроса. Поэтому предоставление возможности людям задать прямой вопрос и получить ответ – это освобождающий момент. На первый взгляд вопросы могут показаться несущественно сложными, но потребуют длительного кода для ответа на них. Мы даем возможность компаниям знать ответы на вопросы, на которые раньше не были найдены ответы.”

Филипп Даррингер, вице-президент продукта Kinetica, привел пример клиента, показывающий трансформацию времени до получения информации. В случае сложного геопространственного анализа сетей их решение давало результаты за 30-45 минут, в то время как на традиционных платформах это занимало месяцы или даже годы. Это значительное ускорение позволяет телекоммуникационным компаниям анализировать и реагировать на возникающие проблемы в сети почти в реальном времени до того, как это повлияет на клиентов.

Настройка под данные и жаргон телекоммуникационной отрасли

Как достигается эффект в SQL-GPT? Даррингер объясняет: “Здесь есть пара уровней, начинающихся с базовой модели. Первый шаг – обучение на Kinetica-специфичном синтаксисе и функциях, которые мы предоставляем”. Это обучает искусственный интеллект основным функциям Kinetica.

“Затем мы добавляем возможности, связанные с жаргоном и специфическими знаниями отрасли телекоммуникаций”. Обучение модели терминологии отрасли и типичным схемам данных в телекоммуникациях создает словарный запас, необходимый для ведения естественного диалога, подходящего для решения повседневных вопросов практиков телекоммуникаций.

Создано для быстродействия и масштабируемости

Обработка и производительность на большом масштабе играют важную роль при обработке огромных объемов данных, генерируемых телекоммуникационными компаниями через сети, устройства и датчики. Как поясняет Даррингер: “Так как телекоммуникационные компании очень требовательны к своим данным, модель будет развернута в их среде, будь то их собственный центр обработки данных или облако, виртуальная частная сеть в рамках их собственной среды в публичных облаках”.

Это гарантирует конфиденциальность данных при использовании ускоренной с помощью графических процессоров (GPU) архитектуры Kinetica, о чем говорит Мели: “Мы выполняем расчеты на GPU NVIDIA для вывода SQL. Производительность будет линейно масштабироваться с количеством запросов и их частотой использования для генерации этих запросов.”

Настроенное деплоймент в пределах собственной инфраструктуры также решает проблемы конфиденциальности данных телекоммуникационных компаний с использованием общедоступных языковых моделей. Поскольку тщательно настроенная модель изолируется внутри среды каждой телекоммуникационной компании, их данные остаются полностью приватными. Как суммирует Мели, клиенты высказывали мнение, что “они не хотят передавать какие-либо данные, даже метаданные, через публичный API”.

SQL-GPT для Telecom объединяет простоту естественного языка и производительность в реальном времени при масштабировании, гарантируя безопасность для критичных данных в телекоммуникационной отрасли. Это позволяет проводить более быстрый анализ данных большим числом людей в организации и срочные ответы на запросы, чтобы максимально повысить качество сети и удовлетворенность клиентов.