北川源四郎「時系列解析入門」 第 7章

柏野 雄太

バクフー株式会社

June 4, 2015

AR(自己回帰)モデル

ARモデル eq.7.1

yn =m!

i=1

aiyn!i + vn

時系列 y1, ..., yN

m: 自己回帰次数ai: 自己回帰係数vn: 平均 0, 分散 !2 の正規分布に従う白色雑音

目的次数mを決定し，自己回帰係数 a1, ..., am と分散 !2 を推定すること

2 / 12

そもそも ARモデルとは時刻 nにおける yn を，過去の値 yn!1, yn!2, · · · とホワイトノイズ vn で表現する．

yn =m!

i=1

aiyn!i + vn

ynyn!1· · ·

vn

yn!2

Figure: ARモデルの概念図

3 / 12

ARモデルの推定方法

最尤推定法ユール・ウォーカー法 (レビンソン＝ダービンのアルゴリズム)最小二乗法PARCOR法 != 本日はここまで多変量版のユール・ウォーカー法多変量版の最小二乗法

4 / 12

TSSS版 ARモデルの推定

TSSS版 ARモデル推定#␣TSSSにおける ARモデルの推定library("TSSS")data(Sunspot)ywar␣=␣arfit(Sunspot,␣method=1)␣#Yule-Walker␣methodarfit(Sunspot,␣method=2)␣#Least␣squares␣(Householder)arfit(Sunspot,␣method=3)␣#PARCOR␣method␣(Partial␣autoregression)arfit(Sunspot,␣method=4)␣#PARCOR␣method␣(PARCOR)arfit(Sunspot,␣method=5)␣#PARCOR␣method␣(Burg’s␣algorithm)

5 / 12

R Stat版 ARモデルの推定

R Stat版 ARモデル推定#␣R␣statにおける ARモデルの推定mle␣=␣ar(Sunspot,␣method="mle")yw␣=␣ar(Sunspot,␣method="yw")ols␣=␣ar(Sunspot,␣method="ols")

6 / 12

Rで AR推定の通常の手順

Rで ARモデル推定#␣Rで AR推定の通常の手順library("TSSS")data(Sunspot)plot(Sunspot,␣type="l")acf(Sunspot)pacf(Sunspot)res␣=␣ar(Sunspot)res$aic

#␣Ljung-Boxテストで「v_nがホワイトノイズ」という帰無仮説を検定するBox.test(res$res,␣type="Ljung")

7 / 12

Rで AR(2)を生成

AR(2)を生成#␣Rで独自に AR(2)を生成して Plotv␣<-␣rnorm(200)v␣<-␣v[101:200]x␣<-␣filter(v,␣filter=c(0.9*sqrt(3),␣-0.81),␣method="recursive")plot(x)pacf(x)aa$aicar(x)

8 / 12

注意

輪読会では別途書籍をベースに説明したために，これより後のページは暫定的なものになります．時間があるときに追記します．

9 / 12

ARモデルの最尤推定

ARモデルに従う時系列の同時分布は多変量正規分布である．

ARモデル尤度

L(") = p(y1, · · · , yN |")

= (2#)!N2 |!|!

12 exp["1

2yT!!1y]

分散共分散行列 eq.7.2

! =

"

###$

C0 C1 · · · CN!1

C1 C0 · · · CN!2...

... . . . ...CN!1 CN!2 · · · C0

%

&&&'

しかし，このままでは複雑すぎて解けないので，工夫する．10 / 12

ARモデルの最尤推定 2

尤度を乗法定理を用いて条件付き分布の積で表現してから，近似．

ARモデル尤度 eq. 7.4

L(") = p(y1, · · · , yN |")= p(y1, · · · , yN!1|")p(yN |y1, · · · , yN!1, ")

...

=N(

n=1

p(yn|y1, · · · , yn!1, ")

ARモデル AIC eq. 7.5

AIC = "2 logL(") + 2(m+ 1)

11 / 12

ARモデル推定：ユール・ウォーカー法自己共分散関数のユール・ウォーカー方程式から自己回帰係数，!2 を求める．

ユール・ウォーカー方程式

C0 =m!

i=1

aiCi + !2 (1)

Cj =m!

i=1

aiCj!1

一次推定式"

###$

C0 C1 · · · ˆCm!1

C1 C0 · · · ˆCm!2...

... . . . ...ˆCN!1

ˆCN!2 · · · C0

%

&&&'

"

###$

a0a1...am

%

&&&'=

"

###$

C1

C2...

Cm

%

&&&'

12 / 12