Эта научно-исследовательская работа представляет POYO-1 искусственную интеллектуальную платформу для расшифровки нейронной активности по масштабным наблюдениям с использованием глубокого обучения.
POYO-1 Искусственная интеллектуальная платформа для расшифровки нейронной активности через глубокое обучение на основе масштабных наблюдений научно-исследовательская работа
Исследователи из Института технологии Джорджии, Mila, Университета де Монреаля и Макгиллского университета представляют структуру обучения и архитектуру моделирования динамики нейронной популяции на разнообразных, масштабных нейронных записях. Они применяют токенизацию индивидуальных спайков для захвата тонких временных нейронных активностей и используют кросс-внимание и основную модель PerceiverIO. Крупномасштабная многосессионная модель создана на основе данных из семи животных приматов с более чем 27 000 нейронными единицами и более 100 часами записей. Модель демонстрирует быструю адаптацию к новым сессиям, обеспечивая многозадачный результат в различных задачах, демонстрируя масштабируемый подход для анализа нейронных данных.
Их исследование представляет масштабируемую структуру моделирования динамики нейронной популяции на разнообразных масштабных нейронных записях с использованием Transformer. В отличие от предыдущих моделей, которые работали с фиксированными сессиями с единственным набором нейронов, эта структура может обучаться на разных субъектах и данных из разных источников. Он использует PerceiverIO и слои кросс-внимания для эффективного представления нейронных событий, обеспечивая многозадачный результат для новых сессий. Работа демонстрирует потенциал трансформаторов в обработке нейронных данных и представляет эффективное внедрение для улучшения вычислений.
Недавние достижения в машинном обучении подчеркнули потенциал масштабирования с помощью крупных предварительно обученных моделей, таких как GPT. В нейронауке существует потребность в основной модели, которая связывает различные наборы данных, эксперименты и субъекты для более полного понимания функции мозга. POYO – это структура, которая позволяет эффективно обучаться на различных сеансах нейронной записи, даже при работе с разными наборами нейронов и отсутствии известной корреспонденции. Он использует уникальную схему токенизации и архитектуру PerceiverIO для моделирования нейронной активности, демонстрируя его переносимость и улучшение декодирования мозга по сессиям.
- Познакомьтесь с GROOT мощной средой обучения с имитацией для визуального манипулирования на основе объектно-ориентированных приоритетов 3D с адаптивной обобщенной политикой.
- Оптимизация вычислительных расходов с помощью AutoMix стратегический подход к использованию масштабных языковых моделей из облака с помощью ИИ.
- «Повышение оценки проектирования инженерных систем с помощью всесторонних метрик для глубоких генеративных моделей»
Структура моделирует динамику нейронной активности на различных записях с использованием токенизации для захвата временных деталей и применением кросс-внимания и архитектуры PerceiverIO. Большая многосессионная модель, обученная на огромных наборах данных приматов, может адаптироваться к новым сессиям с неизвестной корреспонденцией нейронов для обучения с использованием малого числа примеров. Поворотные позиционные вложения улучшают механизм внимания трансформатора. Подход использует временные промежутки в 5 мс для нейронной активности и достигает детальных результатов на тестовых наборах данных.
Декодирование нейронной активности набора данных NLB-Maze было успешно продемонстрировано, достигнув R2 0,8952 с использованием структуры. Предварительно обученная модель продемонстрировала конкурентоспособные результаты на том же наборе данных без модификации весов, что свидетельствует о ее многофункциональности. Была продемонстрирована способность быстрой адаптации к новым сессиям с неизвестной корреспонденцией нейронов для эффективной работы с небольшим числом примеров. Большомасштабная многосессионная модель продемонстрировала обнадеживающие результаты в различных задачах, подчеркивая потенциал структуры для комплексного анализа нейронных данных в масштабе.
В заключение, унифицированная и масштабируемая структура для декодирования нейронных популяций обеспечивает быструю адаптацию к новым сессиям с неизвестной корреспонденцией нейронов и демонстрирует высокую производительность в различных задачах. Большомасштабная многосессионная модель, обученная на данных приматов, демонстрирует потенциал структуры для комплексного анализа нейронных данных. Подход предоставляет надежный инструмент для развития анализа нейронных данных и позволяет проводить обучение в масштабе, углубляя понимание динамики нейронных популяций.