Исследователи из Токийского университета представляют новую технику защиты чувствительных приложений на основе искусственного интеллекта от атакующих.

Исследователи из Токийского университета представляют новую технику защиты чувствительных приложений на основе искусственного интеллекта от атакующих.' The condensed version is 'Tокийский университет представляет новую технику защиты чувствительных приложений с использованием искусственного интеллекта от атак.

В последние годы был сделан быстрый прогресс в области искусственного интеллекта (ИИ), что привело к его широкому применению в различных областях, таких как компьютерное зрение, распознавание аудио и другие. Этот всплеск использования революционизировал отрасли, при этом нейронные сети стали лидерами, проявляя замечательный успех и часто достигая уровней производительности, сопоставимых с человеческими способностями.

Однако среди этих достижений в области возникает значительная озабоченность – уязвимость нейронных сетей к атакам с использованием вредоносных входных данных. Эта серьезная проблема в глубоком обучении возникает из-за подверженности сетей введению в заблуждение с помощью тонких изменений во входных данных. Даже малейшие, незаметные изменения могут привести к очевидно неверным прогнозам нейронной сети, часто с необоснованной уверенностью. Это вызывает тревогу относительно надежности нейронных сетей в приложениях, критически важных для безопасности, таких как автономные транспортные средства и медицинская диагностика.

Для противодействия этой уязвимости исследователи отправились на поиски решений. Один заметный подход заключается в внесении контролируемого шума в начальные слои нейронных сетей. Этот новаторский подход имеет цель укрепить устойчивость сети к незначительным изменениям во входных данных, отвлекая ее от незначительных деталей. Принудительное обучение сети более общим и надежным признакам с помощью внесения шума обещает смягчить ее уязвимость к атакам и неожиданным изменениям входных данных. Это развитие имеет большой потенциал в повышении надежности и доверия к нейронным сетям в реальных сценариях.

• Это исследование по искусственному интеллекту представляет собой Owl новую большую языковую модель для IT-операций.
• Исследователи из Университета Калифорнии в Ирвайне (UCI) и Университета Чжэцзян (Zhejiang) представляют ускорение без потерь больших моделей языка с использованием самоуверенного декодирования с помощью стадий черновика и проверки.
• Новые исследования в области машинного обучения от MIT предлагают композиционные модели основы для иерархического планирования (HiP) интеграция языка, зрения и действия для решения задач с долгосрочной перспективой.

Однако возникает новая проблема, когда злоумышленники фокусируются на внутренних слоях нейронных сетей. Вместо тонких изменений эти атаки используют интимное знание внутренней работы сети. Они предоставляют входные данные, которые значительно отклоняются от ожидаемых, но достигают желаемого результата с введением определенных артефактов.

Защита от таких атак на внутренние слои оказывается более сложной. Представление о том, что введение случайного шума во внутренние слои может ухудшить производительность сети в нормальных условиях, представляло существенное препятствие. Однако статья от исследователей из Токийского университета оспаривает это предположение.

Исследовательская группа разработала атаку на внутренние скрытые слои, приводящую к неправильной классификации входных изображений. Эта успешная атака послужила платформой для оценки их новаторской техники – внесения случайного шума во внутренние слои сети. Удивительно, что эта кажущаяся простая модификация сделала нейронную сеть устойчивой к атаке. Этот прорыв позволяет предположить, что внесение шума во внутренние слои может укрепить адаптивность и защитные возможности будущих нейронных сетей.

Хотя этот подход обещает, необходимо отметить, что он решает определенный тип атаки. Исследователи предостерегают о том, что в будущем злоумышленники могут придумать новые подходы для обхода шума в пространстве признаков, рассмотренного в их исследовании. Борьба между атакой и защитой в нейронных сетях – это непрерывная гонка вооружений, требующая постоянного цикла инноваций и улучшений для обеспечения безопасности систем, на которые мы полагаемся ежедневно.

По мере роста зависимости от искусственного интеллекта для критических приложений, устойчивость нейронных сетей к неожиданным данным и преднамеренным атакам становится все важнее. Благодаря непрерывной инновации в этой области, есть надежда на еще более надежные и устойчивые нейронные сети в ближайшие месяцы и годы.