TSMixer Последняя модель прогнозирования от Google

TSMixer последняя модель прогнозирования от Google для моды и красоты

Исследуем архитектуру TSMixer и реализуем ее на Python для задачи многомерного прогнозирования с длинным горизонтом

Фото Зденека Махачека на Unsplash

Область прогнозирования временных рядов продолжает находиться в активном развитии, с множеством значимых недавних вкладов, таких как N-HiTS, PatchTST, TimesNet и, конечноже, TimeGPT.

Тем временем, архитектура Transformer обеспечила небывалую производительность в области обработки естественного языка (NLP), однако это не относится к прогнозированию временных рядов.

Фактически, были предложены множество моделей, основанных на архитектуре Transformer, таких как Autoformer, Informer, FEDformer и другие. Эти модели часто требуют длительного времени для обучения, и оказывается, что на многих тестовых наборах данных их превосходят простые линейные модели (см. работу Zheng и др., 2022).

В связи с этим, в сентябре 2023 года исследователи из Google Cloud AI Research предложили модель TSMixer, основанную на многослойном персептроне (MLP), которая фокусируется на смешивании временных и пространственных измерений для достижения более точных прогнозов.

В своей работе TSMixer: An All-MLP Architecture for Time Series Forecasting авторы демонстрируют, что данная модель достигает современной производительности на многих бенчмарках, при этом она остается простой в реализации.

В этой статье мы сначала исследуем архитектуру TSMixer для понимания ее внутреннего устройства. Затем мы реализуем модель на Python и проведем собственный эксперимент для сравнения ее производительности с N-HiTS.

Для получения более подробной информации о TSMixer, обязательно прочтите оригинальную статью.

Узнайте последние техники анализа временных рядов с моим бесплатным шпаргалкой по временным рядам на языке Python! Получите реализацию статистических и глубинных методов обучения, все на Python и TensorFlow!

Приступим!

Исследуем TSMixer

Когда речь идет о прогнозировании, мы интуитивно понимаем, что использование информации, полученной из различных переменных, может помочь достичь более точных прогнозов.

Например, погода и осадки могут влиять на количество посетителей в парке развлечений…