КабинетПоиск
Временные ряды

Temporal Convolutional Network

TCN

новинкаНовое или быстро растущее направление

Направления: Глубокое обучение · Свёрточные сети, Прикладные направления · Временные ряды

причинных свёрток с экспоненциально растущим расширением: длинный контекст без рекуррентности.

Обозначения
  • номер или количество: индекс шага, число соседей, кластеров или позиций
  • функция потерь — то, что минимизируется при обучении
Рецептивное поле стека из L слоёв с ядром k и удвоением dilation: 8 слоёв ядром 3 покрывают 511 отсчётов

Ключевые тезисы

  • Causal-свёртка смотрит только назад — заглянуть в будущее архитектурно невозможно.
  • Dilation удваивается со слоем, поэтому рецептивное поле растёт экспоненциально, а число слоёв — логарифмически.
  • Все позиции считаются параллельно: обучение быстрее , а не идёт через сотни шагов во времени.

Подробный разбор

1 подтема — объяснения, формулы, примеры и интерактивные графики.

  • Causal convolution: использует только текущий и прошлые отсчёты. Реализуется дополнением слева и обрезкой справа — заглянуть в будущее архитектурно невозможно.
  • Dilation: в слое ядро берёт отсчёты через . Рецептивное поле растёт экспоненциально по глубине, а число слоёв — логарифмически по длине контекста.
  • Residual-блоки: каждый уровень оформлен как , поэтому из десятка слоёв обучается устойчиво.
Обозначения
  • номер или количество: индекс шага, число соседей, кластеров или позиций
  • функция потерь — то, что минимизируется при обучении
L = 8 слоёв с ядром k = 3 покрывают 511 отсчётов — больше суток при минутной дискретизации
TCN
Обучениепоследовательно по шагампараллельно по всей длине
через сотни шагов во временичерез глубину сети (десяток слоёв)
Длинный контекстзатухаетзадаётся глубиной и dilation
Память при скрытое состояниебуфер длиной с рецептивное поле
На практике

TCN — сильный и дешёвый для многомерных рядов датчиков: обучается быстрее , устойчивее по и заметно проще в эксплуатации.

Связанные темы

Свёртки и физика в рядах

1D CNN for Time Series80%

Свёртки для временных рядов · Временные ряды

Одномерные свёртки скользят вдоль времени и выделяют локальные формы сигнала независимо от того, когда те случились.

Physics-Informed Neural Networks80%

PINN · Временные ряды

Сеть, у которой в функцию потерь встроены уравнения процесса: решение согласовано с физикой даже там, где данных нет.

Transformer forecasting80%

Трансформеры для прогноза · Временные ряды

Внимание над длинными горизонтами: Informer, Autoformer, PatchTST, TFT.

RNN/LSTM80%

RNN/LSTM для рядов · Временные ряды

Нейросети, обучаемые сразу на множестве связанных рядов, улавливают общие паттерны.

CNN80%

Свёрточные сети · Глубокое обучение

Разделяемые фильтры скользят по изображению, выявляя локальные паттерны с трансляционной инвариантностью.

Следующий шагДальше по связи: 1D CNN for Time SeriesОдномерные свёртки скользят вдоль времени и выделяют локальные формы сигнала независимо от того, когда те случились.Перейти →
← 1D CNN for Time SeriesPhysics-Informed Neural Networks →

Глава «Временные ряды» последний раз правилась . Нашли ошибку — напишите.