Новые горизонты в генеративном искусственном интеллекте – далеко от облака

Новые преимущества в генеративном искусственном интеллекте за гранью облаков

В начале был интернет, который навсегда изменил нашу жизнь – способ, которым мы общаемся, делаем покупки, ведем бизнес. И затем из-за задержек, приватности и экономической эффективности интернет перешел на краевую сеть, что привело к возникновению “интернета вещей”.

Теперь есть искусственный интеллект, который делает все, что мы делаем в интернете, проще, более персонализированным и умным. Однако для использования его требуются большие серверы и высокая вычислительная мощность, поэтому он ограничен облачными вычислениями. Но те же факторы – задержка, приватность, экономическая эффективность – побудили компании, такие как Hailo, разрабатывать технологии, позволяющие использовать искусственный интеллект на краю сети.

Безусловно, следующий большой прорыв – это генеративный искусственный интеллект. Генеративный искусственный интеллект имеет огромный потенциал во всех отраслях. Он может использоваться для оптимизации работы и повышения эффективности различных творцов – юристов, контент-писателей, графических дизайнеров, музыкантов и других. Он может помочь открывать новые лекарственные средства или помочь в медицинских процедурах. Генеративный искусственный интеллект может улучшить промышленную автоматизацию, разработать новый программный код и повысить безопасность транспорта через автоматическое синтезирование видео, аудио, изображений и другого.

Однако генеративный искусственный интеллект, таким как он есть сегодня, ограничен технологией, которая его поддерживает. Это потому, что генеративный искусственный интеллект происходит в облаке – в огромных дата-центрах с дорогостоящими, энергоемкими компьютерными процессорами, находящимися вдали от пользователей. Когда кто-то запускает команду в инструменте генеративного искусственного интеллекта, таком как ChatGPT или новом AI-основанном видеоконференц-решении, запрос передается через интернет в облако, где он обрабатывается серверами, прежде чем результаты возвращаются по сети.

• «Склоняясь над пропастью между искусственным интеллектом и нейроморфным вычислением»
• Все о жадных алгоритмах| Руководство для начинающих.
• Для всего мира некоммерческая организация применяет графические процессоры для обучения медицинских работников операциям, спасающим зрение.

При разработке новых приложений генеративного искусственного интеллекта и развертывании их на разных типах устройств – видеокамерах и системах безопасности, промышленных и личных роботах, ноутбуках и даже автомобилях – облако является узким местом в терминах пропускной способности, стоимости и подключения.

И для приложений, таких как помощь водителю, программное обеспечение персонального компьютера, видеоконференции и безопасность, постоянная передача данных по сети может представлять угрозу приватности.

Решение состоит в том, чтобы позволить этим устройствам обрабатывать генеративный искусственный интеллект на краю сети. Генеративный искусственный интеллект на краю сети может быть крайне полезен для множества новых приложений.

Генеративный искусственный интеллект набирает обороты

Вспомните, что в июне компания Mercedes-Benz сообщила, что введет ChatGPT в свои автомобили. Например, в автомобиль Mercedes с ChatGPT водитель может бесплатно спросить рецепт ужина на основе имеющихся у него продуктов. Это, конечно, если автомобиль подключен к интернету. В парковке или удаленном месте все ставки сняты.

За последние пару лет видеоконференции стали для нас делом повседневным. Уже сейчас компании по разработке программного обеспечения интегрируют в видеоконференцию различные формы искусственного интеллекта. Это может быть оптимизация качества аудио и видео в режиме реального времени или “помещение” людей в одно виртуальное пространство. Теперь генеративный искусственный интеллект в видеоконференциях может автоматически создавать протоколы совещаний или получать актуальную информацию из источников компании в режиме реального времени при обсуждении разных тем.

Однако, если умный автомобиль, видеоконференционная система или любое другое устройство на краю сети не может подключиться к облаку, то генеративный искусственный интеллект не может использоваться. Но что, если им не нужно этого делать? На первый взгляд кажется невероятной задачей учитывая огромные вычисления в облаке, но сейчас это становится возможным.

Генеративный искусственный интеллект на краю сети

Уже сейчас существуют инструменты генеративного искусственного интеллекта, которые могут автоматически создавать увлекательные презентации PowerPoint. Однако пользователю требуется возможность работать с системой в любом месте, даже без подключения к интернету.

Аналогично, мы уже видим новый класс помощников “копилотов” на основе генеративного искусственного интеллекта, которые фундаментально изменят способ взаимодействия с нашими вычислительными устройствами, автоматизируя множество рутинных задач, таких как создание отчетов или визуализация данных. Представьте, что вы открываете ноутбук, камера ноутбука распознает вас, а затем автоматически генерирует план действий на день/неделю/месяц на основе ваших наиболее используемых инструментов, таких как Outlook, Teams, Slack, Trello и т. д. Однако для обеспечения конфиденциальности данных и хорошего пользовательского опыта вы должны иметь возможность использовать генеративный искусственный интеллект локально.

Помимо решения проблемы ненадежных подключений и конфиденциальности данных, edge AI может помочь снизить требования к пропускной способности и улучшить производительность приложений. Например, если генеративное приложение AI создает содержимое, богатое данными, такое как виртуальное конференционное пространство, через облако, то процесс может замедляться в зависимости от доступной (и дорогостоящей) пропускной способности. И некоторые типы приложений генеративного искусственного интеллекта, такие как безопасность, робототехника или здравоохранение, требуют высокой производительности и низкой задержки, которыми облачные соединения не могут обеспечить.

В области видеонаблюдения возможность повторно идентифицировать людей, перемещающихся между множеством камер, некоторые из которых расположены в местах, к которым сеть не может достичь, требует моделей данных и обработки искусственного интеллекта в самой камере. В этом случае генеративный искусственный интеллект может быть применен к автоматическим описаниям того, что видят камеры с помощью простых запросов вроде “Найти 8-летнего ребенка с красной футболкой и бейсболкой”.

Это генеративный искусственный интеллект на краю.

Развитие на краю искусственного интеллекта

За счет применения нового класса процессоров искусственного интеллекта и разработки более эффективных, но не менее мощных моделей данных генеративного искусственного интеллекта, устройства на краю могут быть спроектированы для интеллектуальной работы в случаях, когда подключение к облаку невозможно или нежелательно.

Конечно, облачная обработка останется ключевым компонентом генеративного искусственного интеллекта. Например, обучение моделей искусственного интеллекта останется в облаке. Однако использование пользовательского ввода в этих моделях, называемое выводом, может и во многих случаях должно происходить на краю.

Индустрия уже разрабатывает более эффективные и меньшие модели искусственного интеллекта, которые могут быть загружены на устройства на краю. Компании, такие как Hailo, производят специализированные процессоры искусственного интеллекта, предназначенные для обработки нейронных сетей. Такие процессоры не только быстро обрабатывают модели искусственного интеллекта, но и делают это с меньшим энергопотреблением, что делает их энергоэффективными и подходящими для различных устройств на краю, от смартфонов до камер.

Обработка генеративного искусственного интеллекта на краю также может эффективно балансировать растущую нагрузку, позволять приложениям масштабироваться более стабильно, освобождать облачные центры данных от дорогостоящей обработки и помогать им снизить их углеродный след.

Генеративный искусственный интеллект готов изменить вычисления снова. В будущем LLM на вашем ноутбуке может автоматически обновляться так же, как сегодня ваша операционная система и работать таким же образом. Но для этого нам потребуется активировать обработку генеративного искусственного интеллекта на краю сети. Результат обещает большую производительность, энергоэффективность, а также конфиденциальность и безопасность. Все это приведет к применению искусственного интеллекта, меняющему мир, так же сильно, как сам генеративный искусственный интеллект.