Увеличение невидимого этот метод искусственного интеллекта использует NeRF для визуализации тонких движений в 3D

Этот метод искусственного интеллекта использует NeRF для визуализации тонких движений в 3D.

Мы живем в мире, полном движения, от тонких движений наших тел до крупномасштабных движений Земли. Однако многие из этих движений слишком малы, чтобы быть видимыми невооруженным глазом. Техники компьютерного зрения могут быть использованы для извлечения и увеличения этих тонких движений, что делает их более заметными и понятными.

В последние годы нейронные излучательные поля (NeRF) стали мощным инструментом для восстановления и рендеринга трехмерных сцен. NeRF можно обучить представлять внешний вид трехмерной сцены на основе коллекции изображений, а затем использовать для рендеринга сцены с любой точки обзора.

NeRF представляет внешний вид трехмерной сцены на основе коллекции изображений. NeRF работает, обучая функцию, которая отображает трехмерную точку на соответствующий ей цвет и излучение. Эту функцию можно использовать для рендеринга сцены с любой точки обзора. Эти модели показали свою высокую эффективность в представлении внешнего вида сложных трехмерных сцен. Они были использованы для создания реалистичных трехмерных моделей объектов, сцен и даже людей. NeRF также использовались для разработки новых приложений в виртуальной реальности, дополненной реальности и компьютерной графике.

Что, если мы используем мощь NeRF для увеличения тонких движений в трехмерных сценах? Это не простая задача, так как она имеет несколько вызовов.

Первый вызов заключается в сборе набора изображений сцены с тонкими движениями. Это может быть сложно, так как движения должны быть достаточно малыми, чтобы их не заметить невооруженным глазом, но достаточно большими, чтобы их можно было запечатлеть на камеру.

Второй вызов заключается в обучении NeRF представлять внешний вид сцены на основе собранных изображений. Это может быть сложной задачей, так как NeRF должен быть способен улавливать тонкие временные изменения в сцене.

Третий вызов заключается в проведении эйлерового анализа движения на векторах внедрения точек NeRF. Это может быть вычислительно сложной задачей, так как требуется анализировать временные изменения в пространстве высокой размерности.

Давайте познакомимся с увеличением трехмерного движения, которое умно решает все эти вызовы.

Увеличение трехмерного движения. Источник: https://arxiv.org/pdf/2308.03757.pdf

Увеличение трехмерного движения – это метод искусственного интеллекта, который использует мощь NeRF. Он использует NeRF для представления сцены с ее тонкими временными изменениями. На основе рендера NeRF применяется эйлеров анализ движения для усиления временных изменений в векторах внедрения точек NeRF. Это приводит к увеличенной трехмерной сцене, которая раскрывает тонкие движения, которые ранее были невидимы.

У этого метода есть несколько ключевых шагов, первым из которых является сбор данных и обучение NeRF. Он начинается с сбора набора изображений сцены с тонкими движениями. Изображения должны быть сделаны с разных точек обзора и в разные моменты времени. Затем эти собранные изображения используются для обучения модели NeRF, которая представляет внешний вид сцены на основе собранных изображений. Он обучается минимизировать функцию потерь, которая измеряет разницу между рендерингом изображений и эталонными изображениями.

Обзор предлагаемого подхода. Источник: https://arxiv.org/pdf/2308.03757.pdf

После того, как модель NeRF готова, следующим шагом является проведение анализа Эйлера для движения. Временные изменения в точечных вложениях NeRF усиливаются с использованием анализа Эйлера для движения. Это математическая основа для анализа движения жидкостей и твёрдых тел. Она может быть использована для извлечения временных изменений в любом изменяющемся со временем поле, таком как точечные вложения NeRF. Эти усиленные временные изменения затем используются для увеличения движения в сцене, что достигается путём рендеринга сцены из NeRF с использованием усиленных точечных вложений.