«Искусственные интеллектуальные сети уязвимы для атак»
«Искусственные интеллектуальные сети уязвимость и риски атак»
Тианфу У из Университета Северной Каролины и его коллеги разработали программное обеспечение QuadAttacK для тестирования нейронных сетей на уязвимости для атак.
У объяснил, что обученная система искусственного интеллекта (ИИ), протестированная на чистых данных, будет себя вести, как и ожидалось.
“QuadAttacK наблюдает за этими операциями и учится, как ИИ принимает решения, связанные с данными”, – сказал он. “Это позволяет QuadAttacK определить, как данные могут быть изменены, чтобы обмануть ИИ. Затем QuadAttacK начинает отправлять измененные данные в систему ИИ, чтобы посмотреть, как реагирует ИИ. Если QuadAttacK обнаруживает уязвимость, он быстро заставляет ИИ видеть то, что хочет сам QuadAttacK.”
Исследователи использовали свое программное обеспечение QuadAttacK для тестирования четырех широко используемых нейронных сетей и обнаружили, что все четыре уязвимы. Источник: Новости университета Северной Каролины Посмотреть полную статью
- Берет ли искусственный интеллект кухни на себя? McDonald’s сотрудничает с Google для развертывания GenAI
- Майкрософт представляет Orca2, создавая первого осторожного рассуждающего LLM
- Что такое алгоритм восхождения на холм в искусственном интеллекте?
Аннотации защищены авторским правом © 2023 SmithBucklin, Вашингтон, США 
