Ветры перемен как генеративное искусственное интеллектом революционизирует кибербезопасность

Как искусственный интеллект революционизирует кибербезопасность под влиянием ветров перемен

Генеративный искусственный интеллект (GenAI) преобразует бизнес во всех отраслях, и кибербезопасность не является исключением. Как глобальная ИТ-компания, оцениваемая в 30 миллиардов долларов, NTT DATA находится на передовой в освоении возможностей генеративного искусственного интеллекта и управлении рисками, связанными с ним.

Я недавно беседовал с Нитином Баджаджем, вице-президентом по цифровым предложениям в NTT DATA, чтобы узнать, как они осваивают эту новую технологию. Он поделился ценными идеями о перспективе и опасностях использования GenAI для кибербезопасности.

Обеспечение безопасности самого GenAI

Баджадж объяснил, что NTT DATA создала отдельное глобальное подразделение по GenAI, которое разрабатывает стратегии в огромной организации. Их первым приоритетом было внедрение системы управления безопасностью для использования GenAI. “Мы определили политику безопасности GenAI для всех наших компаний, и она была быстро внедрена,” – сказал Баджадж. Это было важно для того, чтобы предотвратить неосмотрительное использование GenAI, которое могло быстро выйти из-под контроля.

С внедренной системой управления, NTT DATA с осторожностью открывает доступ к общедоступным GenAI, таким как ChatGPT. Однако в долгосрочной перспективе планируется разработка собственных моделей, адаптированных к их собственным данным и сценариям использования. “Мы стремимся к приватным реализациям того, что я называю SLMs и MLMs – небольшим и языковым моделям VoAGI, которые обучаются на более специфических наборах данных и могут быть более надежными и обеспечивать более высокий уровень доверия”, – отметил Баджадж.

• Генеративное искусственное интеллект новый инструмент в наборе разработчика
• 10 Сфер применения ИИ в космосе
• Генеративное искусственное интеллект против предиктивного искусственного интеллекта В чем разница?

Расширение человеко-ориентированной безопасности

ChatGPT, возможно, способен генерировать маркетинговые тексты, но миссионерская кибербезопасность требует более надежных решений. “Да, вы можете сократить ложные срабатывания, так как используете модель искусственного интеллекта. Но количество угроз и возможных атак увеличится”, – предупредил Баджадж.

Это связано с тем, что киберпреступники имеют легкий доступ к тем же общедоступным системам GenAI. “Любой из этих акторов имеет доступ к этим инструментам. Они широко распространены, поэтому вероятность атак значительно возрастает”, – сказал Баджадж. GenAI может позволить более сложные, высокотехнологичные и целенаправленные социальные инженерные кампании.

Поэтому, в краткосрочной перспективе, GenAI может создавать больше работы для человеческих аналитиков. “Это приведет к увеличению необходимости во вмешательстве человека для поддержки растущего количества атак, генерируемых GenAI”, – предсказал Баджадж. На долгосрочной перспективе индивидуальные модели искусственного интеллекта могут помочь организациям опережать новые угрозы.

Партнерство и возможности

Баджадж подчеркнул, что партнерство будет ключевым фактором в создании эффективных решений кибербезопасности на основе искусственного интеллекта. NTT DATA сотрудничает с ведущими поставщиками безопасности, которые разрабатывают собственные возможности по GenAI. “Создание рамок безопасности будет требовать партнерского подхода”, – сказал Баджадж.

NTT DATA уже пять лет сотрудничает с MIT по созданию цифровых человеческих аватаров и разговорной искусственной интеллект. Эти возможности в конечном итоге будут работать на базе GenAI, но для этого необходимы тщательные испытания. “Для крупной организации нам необходимо пройти через процесс тестирования, прежде чем представить его на рынок”, – пояснил Баджадж.

Обеспечение безопасности в различных отраслях

Поскольку NTT DATA обслуживает крупные компании из списка Fortune 1000 по всему миру, их решения в области кибербезопасности должны быть адаптируемыми для различных секторов. “Угрозы кибербезопасности обычно являются горизонтальными и менее зависят от конкретной области”, – сказал Баджадж. “Основные принципы безопасности остаются примерно одинаковыми, независимо от того, улучшаете ли вы опыт клиента в сфере транспорта или разворачиваете приложение для медицинских услуг в больнице”.

Это позволяет широко использовать стратегии на разных проектах. Баджадж заявил, что важна сотрудничество “между регионами и клиентами” для оперативного накопления опыта.

Дальнейшие шаги

Несмотря на все риски, Баджадж утверждает, что клиенты стремятся использовать GenAI, о чем свидетельствует “горячее обсуждение” на последнем заседании совета по консультативной деятельности NTT DATA. Однако крупные организации должны заложить правильные основы. “Мы должны построить эту систему управления, эту систему безопасности и протестировать ее внутри нашей компании, прежде чем представить ее клиентам”, – сказал он.

Разработка GenAI-решений, построенных с учетом безопасности, является целью NTT DATA. Это позволит им полностью преобразить бизнес-процессы и взаимодействие с клиентами. Баджадж подвел итог: “Наш фокус на цифровой трансформации и управляемых услугах направляет нас на создание моделей создания ценности, охватывающих весь наш портфель”.

“,
“source”: “https://www.example.com/beauty-and-fashion-article.html”
}

В мире кибербезопасности генеративное искусственное интеллектом (ГИИ) стало явно неотъемлемой сущностью. По мере того, как ГИИ демократизируется все больше, организации должны быть активными в обеспечении безопасности.

С правильным управлением, тестированием и надежными партнерствами, ГИИ может поднять кибербезопасность на новый уровень. Но для этого компании должны эволюционировать свои стратегии и навыки — как, например, делает NTT DATA уже сегодня.