авторегресійна модель
Інший простий процес - процес Юла - AR (2) -процес:
Операторний уявлення [ред]
Для AR (2) -процес можна показати, що умови стаціонарності мають вигляд:.
Стаціонарні AR-процеси допускають розкладання Вольда - подання до вигляді нескінченного MA-процесу.
Перший доданок являє собою математичне очікування AR-процесу. Якщо c = 0, то математичне очікування процесу також дорівнює нулю.
Автокореляційна функція [ред]
Можна показати, що автоковаріаціонная і автокореляційна функції AR (p) -процес задовольняють рекурентним співвідношенням:
При цьому дисперсія процесу дорівнює
Автокореляційна функція експоненціально загасає з можливою осциляцією (осциляції залежать від наявності комплексних коренів у характеристичного полінома). При цьому приватна автокореляційна функція при k> p дорівнює нулю. Ця властивість використовується для ідентифікації порядку AR-моделі по вибіркової приватної автокореляційної функції тимчасового ряду.
У найпростішому випадку AR (1) -процес, математичне сподівання дорівнює, дисперсія, а автокорреляции
Тобто автокореляційна функція - експоненціально загасаюча функція, якщо виконана умова стаціонарності. Приватна автокореляційна функція першого порядку дорівнює r, а для більш високих порядків дорівнює 0.
Оцінка параметрів моделі [ред]
З огляду на парність автокореляційної функції і використовуючи рекурентне співвідношення для перших p автокореляцій, отримуємо систему рівнянь Юла - Уокера [2]
або в матричної формі
За допомогою AR-моделей можна моделювати сезонність. Такі моделі позначають SAR (Seasonal AR). Наприклад, при наявності квартальних даних і припущенні про квартальної сезонності можна побудувати наступну модель SAR (4):
У деяких випадках виявляються корисними сезонні моделі, у яких випадкова помилка, підпорядковується деякого AR-процесу:
Неважко побачити, що таку модель в операторної формі можна записати як:
Таку модель позначають.
Але тоді,, тобто всі величини мають однакові матожиданием і дисперсією.
Тоді можна записати
З властивостей лінійності матожіданія можна записати
Оскільки все матожіданія рівні, запишемо
звідки, де c - матожіданіє шуму.
Обчислити дисперсію трохи складніше.
По-перше, потрібно буде скористатися формулою дисперсії суми двох випадкових величин:, де - коваріація двох випадкових величин.
По-друге, потрібно буде використовувати лінійні і комутативність властивості ковариации:
, де a - якась константа щодо X.
По-третє, ковариация випадкової величини з самою собою дорівнює дисперсії цієї випадкової величини:
По-четверте, врахуємо, що, де a - якась константа щодо X.
По-п'яте, для стаціонарного процесу ковариация не залежить від параметра t, а залежить тільки від різниці індексів t- (t-k) = k. Назвемо автоковаріаціонной функцією (АКФ) величину. Вище було доведено, що ця функція парна.
По-шосте, потрібно врахувати, що шум - білий, а це значить, що він не залежить ні від одного попереднього значення. Математично це означає, що для будь-якого k> 0 вірно. При цьому
, де - дисперсія шуму.
Нарешті, по-сьоме, можна записати:
, де - символ Кронекера. Спрощуючи, отримаємо
,
На практиці набагато простіше користуватися формулою [2]. Вивести її дуже просто - для цього необхідно знайти ковариацию:
Вийшла система рівнянь з трьох рівнянь і з трьома невідомими,,. Вирішивши цю систему відносно,,, можна отримати: