NVIDIA оказывает поддержку усилиям Вашингтона по обеспечению безопасности искусственного интеллекта

NVIDIA поддерживает усилия Вашингтона по безопасности искусственного интеллекта.

На мероприятии в Белом доме сегодня NVIDIA объявила о поддержке добровольных обязательств, разработанных администрацией Байдена, чтобы обеспечить безопасность, надежность и доверие продвинутым системам искусственного интеллекта.

В тот же день главный ученый NVIDIA Билл Дэлли выступил перед сенатским подкомитетом США, запрашивая мнения относительно потенциального законодательства, касающегося генеративного искусственного интеллекта. Отдельно основатель и генеральный директор NVIDIA Дженсен Хуанг в среду присоединится к другим лидерам отрасли на закрытом совещании о искусственном интеллекте.

В поддержку восьми соглашений, которые администрация Байдена и Харрис опубликовали в июле с поддержкой Amazon, Anthropic, Google, Inflection, Meta, Microsoft и OpenAI, кроме NVIDIA присоединились семь компаний, включая Adobe, IBM, Palantir и Salesforce.

Как заявило Белое Дом, эти обязательства разработаны для продвижения общих стандартов и передовых практик, чтобы обеспечить безопасность систем генеративного искусственного интеллекта до введения регулирования. Они включают:

• Революционизация классной комнаты Новая эра обучения с использованием искусственного интеллекта
• Правильный способ осуществления вызовов к API ChatGPT
• Понимание алгоритмов машинного обучения Подробный обзор

• Тестирование безопасности и возможностей продуктов искусственного интеллекта до их внедрения,
• Защиту моделей искусственного интеллекта от киберугроз и внутренних угроз,
• Использование искусственного интеллекта для решения важных общественных проблем, от рака до изменения климата.

Дэлли делится опытом NVIDIA

В своем показании Дэлли сказал сенатскому подкомитету, что правительство и отрасль должны сбалансировать поощрение инноваций в области искусственного интеллекта с обеспечением ответственного внедрения моделей.

Прослушивание подкомитета “Надзор за искусственным интеллектом: правила для искусственного интеллекта” является одним из шагов политиков по всему миру, направленных на выявление и решение потенциальных рисков генеративного искусственного интеллекта.

Ранее в этом году подкомитет слушал показания лидеров Anthropic, IBM и OpenAI, а также таких ученых, как Йошуа Бенджио, профессор Университета Монреаля, считающийся одним из отцов-основателей искусственного интеллекта.

Дэлли, руководящий глобальной командой из более чем 300 сотрудников в исследовательском центре NVIDIA, вместе с Брэдом Смитом, президентом и вице-председателем Microsoft, выступил перед комиссией во вторник. В своем показании Дэлли кратко описал уникальную роль NVIDIA в развитии искусственного интеллекта за последние два десятилетия.

Роль Ускоренных Вычислений в Запуске ИИ

Он описал, как NVIDIA изобрела графический процессор (GPU) в 1999 году, а затем в 2006 году использовала программное обеспечение CUDA для расширения его функционала до параллельных вычислений. Со временем разработчики в различных научных и технических областях обнаружили, что эта новая форма ускоренных вычислений может значительно улучшить их работу.

По пути исследователи обнаружили, что GPU также идеально подходят для нейронных сетей искусственного интеллекта, поскольку требуют массового параллельного выполнения.

В 2012 году модель AlexNet, обученная на двух GPU NVIDIA, продемонстрировала возможности распознавания изображений, сравнимые с возможностями человека. Этот результат помог запустить десятилетие быстрого прогресса с использованием GPU, ведущего к моделям генеративного искусственного интеллекта, таким как ChatGPT, которые используются миллионами людей по всему миру.

Сегодня ускоренные вычисления и генеративный искусственный интеллект показывают потенциал для трансформации отраслей, решения глобальных задач и значительной пользы для общества, сказал Дэлли, который ранее возглавлял кафедру компьютерных наук Стэнфордского университета.

Потенциал и Ограничения ИИ

В письменных показаниях Дэлли привел примеры того, как искусственный интеллект дает возможность профессионалам выполнять свою работу лучше, чем они могли себе представить в областях, таких как бизнес, здравоохранение и климатология.

Как и любая технология, продукты и услуги искусственного интеллекта имеют риски и подвержены существующим законам и нормативным актам, направленным на снижение этих рисков.

Отрасль также имеет свою роль в ответственном внедрении искусственного интеллекта. Разработчики устанавливают ограничения для моделей искусственного интеллекта при их обучении и определении их результатов.

Дэлли отметил, что NVIDIA в апреле выпустила программное обеспечение NeMo Guardrails с открытым исходным кодом, которое разработчики могут использовать для направления генеративных приложений искусственного интеллекта на производство точных, соответствующих и безопасных текстовых ответов. Он также сказал, что NVIDIA имеет внутренние руководящие принципы по управлению рисками моделей искусственного интеллекта.

Глаза на горизонте

Дэлли предложил, что регулирование новых и исключительно больших моделей искусственного интеллекта, чтобы они были точными и безопасными, является естественной задачей регуляторов.

Он сказал, что эти “фронтовые” модели разрабатываются на гигантскую шкалу. Они превосходят возможности ChatGPT и других существующих моделей, которые уже хорошо исследовались разработчиками и пользователями.

Дэлли призвал подкомитет сбалансировать взвешенное регулирование с необходимостью поощрения инноваций в сообществе разработчиков искусственного интеллекта, которое включает тысячи стартапов, исследователей и предприятий по всему миру. Он сказал, что инструменты искусственного интеллекта должны быть широко доступны, чтобы обеспечить равные возможности.

Во время опроса сенатор Ами Клобучар (Д-МН) спросила Далли, почему NVIDIA объявила в марте о том, что работает с Getty Images.

«В NVIDIA мы верим в уважение к интеллектуальным правам людей», ответил Далли. «Мы сотрудничаем с Getty для обучения больших языковых моделей с помощью сервиса под названием Picasso, чтобы те, кто предоставил оригинальный контент, получили вознаграждение».

Заключая, Далли подтвердил приверженность NVIDIA к инновациям в области генеративного искусственного интеллекта и ускоренных вычислений в интересах всех.