Новое исследование ИИ от МИТ показывает, как глубокие нейронные сети не видят мир так, как мы.

Новое исследование МИТ глубокие нейронные сети и наше восприятие мира

В погоне за воссозданием сложной работы человеческих чувствительных систем исследователи в нейронауке и искусственном интеллекте сталкиваются с постоянной проблемой: различиями в инвариантности между вычислительными моделями и человеческим восприятием. Как показано в последних исследованиях, включая одно проведенное группой ученых, искусственные нейронные сети, созданные для имитации различных функций человеческой визуальной и слуховой систем, часто проявляют инварианты, которые не соответствуют тем, которые присутствуют в человеческом восприятии. Это противоречие вызывает вопросы о базовых принципах разработки этих моделей и их применимости в реальных ситуациях.

Исторически попытки решить проблему разногласий инвариантности между вычислительными моделями и человеческим восприятием включали изучение таких областей, как уязвимость модели к адверсальным возмущениям или влияние шума и переводов на суждения модели.

Модельные метамеры: Концепция модельных метамеров вдохновлена перцептивными метамерами человека, которые являются стимулами, которые, хотя и физически различны, вызывают неразличимые реакции на определенных этапах чувствительной системы. В контексте вычислительных моделей модельные метамеры являются синтетическими стимулами с практически идентичной активацией в модели, как в случае естественных изображений или звуков. Ключевым вопросом является то, могут ли люди распознавать эти модельные метамеры как принадлежащие к тому же классу, что и соответствующие им биологические сигналы.

Результаты этого исследования проливают свет на значительное расхождение между инвариантностью, присутствующей в вычислительных моделях, и инвариантностью, присутствующей в человеческом восприятии. Исследовательская группа сгенерировала модельные метамеры из различных моделей глубоких нейронных сетей зрения и слуха, включая модели обучения с учителем и без учителя. В неожиданном открытии модельные метамеры, созданные на поздних стадиях этих моделей, последовательно оказывались неразпознаваемыми для человеческих наблюдателей. Это указывает на то, что многочисленные инварианты в этих моделях не совпадают с человеческой чувствительной системой.

Эффективность этих модельных метамеров в выявлении различий между моделями и людьми также подтверждается их предсказуемостью. Интересно, что возможность человека распознавать модельные метамеры сильно коррелировала с их распознаванием другими моделями, что указывает на то, что разрыв между людьми и моделями заключается в особенных инвариантах, специфичных для каждой модели.

В заключение, введение модельных метамеров является значительным шагом к пониманию разногласий между вычислительными моделями чувствительных систем и человеческим чувствительным восприятием. Эти синтетические стимулы предлагают новую перспективу для преодоления вызовов, с которыми сталкиваются исследователи при создании биологически более правдоподобных моделей. В то время как еще много работы предстоит, концепция модельных метамеров предоставляет обещающую точку отсчета для будущей оценки моделей и потенциала для улучшенных искусственных систем, которые лучше соответствуют сложностям человеческого чувствительного восприятия.