Исследователи Google представляют 𝗦𝘆𝗻𝘁𝗵𝗜𝗗 цифровой инструмент для нанесения водяных знаков и идентификации изображений, созданных с помощью искусственного интеллекта.

Google researchers present 𝗦𝘆𝗻𝘁𝗵𝗜𝗗, a digital tool for watermarking and identifying images created using artificial intelligence.

В быстро меняющемся мире искусственного интеллекта (ИИ) генеративные модели создают фотореалистичные изображения, которые практически неотличимы от тех, что получены традиционными методами. Хотя эта технология открывает огромный творческий потенциал, она также вызывает опасения относительно распространения дезинформации и необходимости различать контент, созданный ИИ, от реальных изображений. Проблема заключается в идентификации этих изображений, созданных ИИ, так как они могут использоваться для распространения как точной, так и ложной информации, размывая границы между реальностью и симуляцией.

В настоящее время идентификация контента, созданного ИИ, представляет собой значительную проблему. Традиционные методы нанесения водяных знаков, такие как печати или полупрозрачные текстовые наложения, могут быть легко изменены или удалены. Метаданные, хотя и полезные, могут быть изменены или потеряны во время редактирования. Существующие решения не обладают достаточной устойчивостью, необходимой для обеспечения целостности медиа в эпоху все более сложной манипуляции контентом.

Познакомьтесь с SynthID, передовым инструментом, совместно разработанным Google DeepMind и Google Research, который предназначен для нанесения водяных знаков и идентификации изображений, созданных ИИ. Эта революционная технология встраивает невидимый цифровой водяной знак непосредственно в пиксели изображения, позволяя его обнаруживать в целях идентификации. SynthID был создан с миссией дать пользователям возможность ответственно взаимодействовать с контентом, созданным ИИ, и повысить доверие к цифровым медиа.

• Google наносит водяные знаки на изображения, созданные искусственным интеллектом, чтобы защититься от дипфейков
• Это исследование искусственного интеллекта решает проблему потери пластичности в системах глубокого обучения при использовании в условиях непрерывного обучения.
• Исследователи из Google и Georgia Tech представляют DiffSeg простой метод послеобработки искусственного интеллекта для создания масок сегментации

SynthID использует силу двух моделей глубокого обучения, одну для нанесения водяных знаков и другую для идентификации, обе обученные на разнообразном наборе изображений. Интегрированная модель оптимизирует несколько целей, включая точную идентификацию водяных знаков и тонкую согласованность водяных знаков с оригинальным изображением. Эта встроенная техника нанесения водяных знаков сохраняет качество изображения, даже после изменений, таких как изменение цвета, фильтры или потери сжатия, характерные для форматов, таких как JPEG.

SynthID предлагает три уровня уверенности в интерпретации результатов идентификации водяных знаков. Если обнаружен цифровой водяной знак, это указывает на то, что часть изображения, вероятно, сгенерирована Imagen. Внутреннее тестирование продемонстрировало эффективность SynthID против обычных манипуляций с изображениями, увеличивая его устойчивость и надежность в реальных сценариях.

В мире, где контент, созданный ИИ, безупречно сливается с реальностью, инструменты, такие как SynthID, представляют собой значительный шаг к установлению доверия и ответственности. Хотя это не является надежным решением против крайних манипуляций, подход SynthID к нанесению водяных знаков и идентификации является многообещающим шагом в направлении идентификации изображений, созданных ИИ. Обязательство Google к ответственному развитию ИИ подчеркивает потенциал этого инструмента для развития вместе с появляющимися моделями ИИ и медиа-модальностями, выходящими за рамки изображений.