Нейронные сети с глубоким обучением для прогнозирования временных рядов

Я начинаю работать над предсказанием интернет-трафика (предсказанием временных рядов) с использованием искусственных нейронных сетей, но у меня мало опыта в этом вопросе.

  1. Кто-нибудь знает, какой метод лучше для этого? (какой тип нейронной сети использовать для прогнозирования временных рядов)

  2. Является ли глубокое обучение с обучением без учителя хорошей идеей для изучения временных рядов?


person Tiago P. O.    schedule 07.05.2014    source источник


Ответы (1)


Вы можете делать предсказания временных рядов с помощью нейронных сетей, но это может быть довольно сложно.

1) Очевидный выбор - рекуррентная нейронная сеть (RNN). Однако их может быть очень сложно обучить, и я бы не рекомендовал RNN, если вы впервые используете нейронные сети. Недавно была проведена интересная работа по упрощению обучения RNN (например, оптимизация без гессиана), но опять же - это, вероятно, не для новичков ;-) В качестве альтернативы вы можете попробовать схему, в которой вы используете стандартную нейронную сеть (т.е. RNN), и попытаться предсказать следующий кадр данных из предыдущего? Это может сработать.

2) Этот вопрос слишком общий, на него нет однозначно правильного ответа. Да, вы можете использовать функцию обучения без учителя как часть вашего решения (например, предварительное обучение вашей модели), но если вашей конечной целью является прогнозирование временных рядов, вам потребуется тоже занимайтесь контролируемым обучением.

Удачи!

person anderso    schedule 20.05.2014
comment
Спасибо за ответ @anderso. Я провел несколько экспериментов и использовал RNN, MLP и SAE (составные автоэнкосеры). И RNN, и MLP показали хорошие результаты, а RNN - немного лучше. Для глубокого обучения я выбрал SAE, потому что он был более простым в использовании и без присмотра в качестве предварительного обучения, но не сильно помог, результаты были хуже, чем у RNN и MLP. Я подумал, что, возможно, BDN и Continuous RBM - хороший метод для прогнозирования временных рядов, я, вероятно, попробую это сделать. - person Tiago P. O.; 22.05.2014