Chapter 1Regression with Time-Series Data: Stationary Variables

Asst.Prof.Dr. Woraphon Yamakahttps://wyamaka.wordpress.com

1. Regression model

เพ่ือใชศ้กึษาผลกระทบของสิ่งหนึ่งตอ่อีกสิ่งหนึ่ง ตวัอยา่งเชน่

Microeconomic: : Demand and supply equations

Macroeconomic Production function Cost function

EX. Demand equation

𝑌 = 𝑋′𝛽 + 𝜀

Qd P = +

2.1 Dynamic regression model (Autoregressive (AR model)• คือการศกึษาปัจจยัของตวัมนัเองในอดีตสง่ผลตอ่ตวัมนัเองในปัจจบุนัอย่างไร เราจะเขียนแบบจ าลอง AR(p)

• หรอืเราจะเขียนในสมการอย่างย่อไดว้่า

1 1Q Qd d

t t t tP − −= + +

. 1 . 1 ...t t p t p tY Y Y − −= + + + +

. .

1

P

t p t p t

p

Y Y −

=

= + +

EX. Demand equation

ปกตแิล้วเราจะใช้แบบจ าลองนีเ้พือ่การพยากรณค่์าในอนาคต

2.2 Dynamic regression model (Moving Average (MA) model)

• แบบจ าลองนีค้ลา้ยๆกบั AR model แตแ่ทนที่จะที่จะตวัแปรตามจะเป็น 𝑌𝑡.−𝑝 แบบจ าลองนีจ้ะท าการถดถอยดว้ย 𝜀𝑡−1 แทน ดงันัน้สมการที่เราท าการประมาณ MA(q) คือ

• หรอืเราจะเขียนในสมการอยา่งยอ่ไดว้่า. 1 . 1 ...t t q t q tY − −= + + + +

.

1

Q

t q t q t

q

Y −

=

= + +

ปกตแิล้วเราจะใช้แบบจ าลองนีเ้พือ่การพยากรณค่์าในอนาคตเช่นกัน

2.3 Dynamic regression model (Autoregressive Moving Average (ARMA) model)

• แบบจ าลองนีค้ลา้ยๆกบั AR model แตจ่ะเพ่ิมพจน ์MA ขึน้มาในแบบจ าลองดว้ย หรอืกค็ือแบบจ าลองนีร้วมแบบจ าลอง AR และ แบบจ าลอง MA เขา้ดว้ยกนันั่นเอง ดงันัน้แบบจ าลองARMA(p,q) เขียนไดด้งันี ้

• หรอืเราจะเขียนในสมการอยา่งยอ่ไดว้่า

. 1 . 1 1 . 1... ...t t p t p t q t q tY Y Y − − − −= + + + + + + +

. .

1 1

QP

t p t p q t q t

p q

Y Y − −

= =

= + + +

แบบจ าลองอื่น ๆที่ใชพ้ยากรณใ์นอนาคต เชน่ แบบจ าลอง ARIMA, SARIMA และ AFRIMA

ส่ิงแรกท่ีตอ้งค ำนึงถึงเก่ียวกบักำรประมำณดว้ยแบบจ ำลองเศรษฐมิติต่ำง ๆ คืออะไร• ค าตอบ

นกัเศรษฐมิติตอ้งค านงึถงึหวัขอ้วิจยัเป็นอนัดบัแรก และสิ่งท่ีส าคญัท่ีสดุรองลงมาคือความน่าเช่ือถือของขอ้มลู ซึง่ในทางสถิติหรอืทางเศรษฐมิติเราสามารถท าการเช็คความน่าเช่ือถือขอ้มลู จากการทดสอบความน่ิงของขอ้มลู ซึง่เราจะตอ้งท าการทดสอบขอ้มลูก่อนการประมาณแบบจ าลองทางเศรษฐมิติ โดยเฉพาะแบบจ าลองท่ีเป็น time series และ Panel.

ความน่ิงของขอ้มลูถือว่าเป็นอีกสมมตุิฐานหนึ่งท่ีเราตอ้งเพิ่มขึน้มาอีกขอ้ตอ่จาก Gauss Markov Theorem

Stationary data

ขอ้มลูที่น่ิงคืออะไร? -2-1

01

2

x

02

46

81

2

0 20 40 60 80 100

y

Time

plot simulated time serie data

ขอ้มูลท่ีมีลักษณะท่ีน่ิงคือขอ้มูลท่ีคุณสมบัติ คือ มีค่าเฉลี่ย ค่าความแปรปรวน ท่ีน่ิงนั่นเอง

กำรทดสอบควำมน่ิง หรือ Unit root test

• ในการทดสอบความน่ิงของขอ้มลู time series และ Panel จะมีความแตกตา่งกนัอยูบ่า้ง โดยปัจจบุนัสถิติที่ใชข้องแตล่ะขอ้มลูก็มีหลากหลายวิธีดว้ยกนั แตท่ี่เป็นที่นิยมกนัมาก ก็คือ

• Dickey Fuller (DF) test ( Time series data)

• Augmented Dickey Fuller (ADF) test (Time series data)

• Phillips perron test (PP) test (Time series data)

• Kwiatkowski–Phillips–Schmidt–Shin (KPSS) test (Time series data)

• Levin, Lin, and Chu (LLC) test ( Panel data)

ซึง่การทดสอบข้อมูลเหล่านี ้จะใช้สมการของแบบจ าลอง dynamic regression มาประยุกตใ์ช้ในการทดสอบ

DICKEY–FULLER TEST

1t t ty y u − = +

1t t ty y u − = + +

1t t ty y t u − = + + +

ในการทดสอบแบบ DF test เราสามารถท าได ้3 วิธีดว้ยกนั คือ

กรณีไม่มีคา่คงที่และคา่แนวโนม้

กรณีมีคา่คงที่และไม่มีคา่แนวโนม้เวลา

กรณีมีคา่คงที่และมีคา่แนวโนม้เวลา

โดยที่ 𝛥𝑦𝑡 = 𝑦𝑡- 𝑦𝑡−1𝑡 = 1,2,3,…,T

กำรทดสอบภำยใต ้DICKEY–FULLER TEST

• ในกรณีเราจะดวู่า คา่ 𝛾 =0 หรอืไม่ ดงันัน้เราจะตัง้สมมติุฐานไดว้่า

• จากการทดสอบขา้งตน้เราจะเหน็ว่าเป็นการทดสอบตวัแปรเดียว ดงันัน้เราสามารถใช ้T-test ในการทดสอบว่าเราจะยอมรบัหรอืปฎิเสธ 𝐻0

• สรุปคอื ถา้ ยอมรับ –> ข้อมูลไม่น่ิงถา้ ปฎเิสธ –> ข้อมูลน่ิง

จากสมการทัง้ 3 สมการข้างต้น เราควรท าการทดสอบทัง้ 3 สมการเลย และดูว่าใหผ้ลทางเดยีวกันหรือไม่

0

1

: 0 (nonstationary)

: 0 (stationary)

H

H

=

กำรทดสอบภำยใต ้Augmented DICKEY–FULLER TEST

• อยา่งไรก็ตามการทดสอบความน่ิงของขอ้มลูดว้ยวิธี DF test ถกูมองว่ายงัมีปัญหาอยู ่เน่ืองจากอาจเกิดปัญหา autocorrelation และน าไปสู ่OLS ไม่ BLUE ได ้และท าใหเ้กิด Bias ขึน้ในการประมาณ ดงันัน้ เราจงึตอ้งระมดัระวงัปัญหานีใ้นแบบจ าลอง AR ดว้ย

• Augmented DICKEY–FULLER TEST จงึถกูพฒันาขึน้มา โดยปรบัใหส้มการ

1

1

P

t t p t p t

p

y y y u − −

=

= + +

1

1

P

t t p t p t

p

y y y u − −

=

= + + +

1

1

P

t t p t p t

p

y y y t u − −

=

= + + + +

กรณีไม่มีคา่คงที่และคา่แนวโนม้

กรณีมีคา่คงที่และไม่มีคา่แนวโนม้เวลา

กรณีมีคา่คงที่และมีคา่แนวโนม้เวลา

ปัญหาที่จะเกิดในขอ้มลู time series และ Panel ซึง่จะคลา้ยๆ กบั Heteroscedasticity คือเป็นปัญหาที่ตวัแปรรบกวนมีความสมัพนัธก์บัตวัมนัเองในอดีตนัน้เอง 𝑢𝑡 สมัพนัธก์บั 𝑢𝑡−1 ซึง่กรณีนีเ้ราจะเรยีกว่า First order autocorrelation

ปัญหำ Autocorrelation (คร่ำวๆ)

v

แบบจ ำลอง Regression ท่ีจ ำเป็นตอ้งมีขอ้มูลท่ีน่ิง

• แบบจ าลองทางเศรษฐมิติเกือบทกุแบบจ าลองที่ใชข้อ้มลูแบบ Time series และ Panel จะตอ้งมีการทดสอบความน่ิงของขอ้มลูก่อนที่จะน าไปประมาณผลการศกึษา ถา้ขอ้มลูน่ิงเราก็สามารถใชข้อ้มลูนัน้ไปประมาณในแบบจ าลองตอ่ไปได ้แตถ่า้ขอ้มลูไม่น่ิง เราตอ้งมีการแปลงขอ้มลูใหน่ิ้งก่อนที่จะไปใชใ้นแบบจ าลอง

• การแปลงขอ้มลูสามารถท าไดห้ลายวิธีดว้ยกนั เชน่

• 1) ሻln(𝑦𝑡• 2) ሻln(𝑦𝑡 - ሻln(𝑦𝑡−1• 3) ሻ𝛥 (𝑦𝑡

Program training

• R code

• Eview

R code ➔ Unit root test (DF-test)install.packages("readxl")library(readxl)gnp=read_excel(file.choose())gnp=ts(gnp)lag=0lag1=lag+1z=diff(gnp) n=length(z) z.diff=embed(z, lag1)[,1] z.lag.1=gnp[(lag1):n] tt <- lag1:n# no constant and trendsummary(lm(z.diff~-1+z.lag.1)) # has constant and no trendsummary(lm(z.diff~+1+z.lag.1)) # has constant and trendsummary(lm(z.diff~tt+z.lag.1)) # Use Package urcalibrary(urca)m1=ur.df(gnp,type="none",lags=0)m2=ur.df(gnp,type="drift",lags=0)m3=ur.df(gnp,type="trend",lags=0)summary(m1)

R code ➔ Unit root test (ADF-test)lag=1lag=lag+1z=diff(gnp)n=length(z)z.diff=embed(z, lag)[,1]z.lag.1=gnp[(lag):n]z.diff.lag = embed(z, lag)[, 2:lag]tt <- lag:n

# no constant and trendsummary(lm(z.diff~-1+z.lag.1+z.diff.lag ))# has constant and no trendsummary(lm(z.diff~z.lag.1+z.diff.lag ))# has constant and trendsummary(lm(z.diff~tt+z.lag.1+z.diff.lag ))# Use Package urcalibrary(urca)m11=ur.df(gnp,type="none",lags=1)m22=ur.df(gnp,type="drift",lags=1)m33=ur.df(gnp,type="trend",lags=1)m11

R code ➔ แบบจ ำลอง AR, MA และ ARMA

# To create a time-series objectgnp1=ts(gnp,frequency=4,start=c(1947,2))par(mfrow=c(1,1))plot(gnp1)points(gnp1,pch="*")# Find the AR orderm1=ar(gnp,method="mle")m1$orderm2=arima(c(gnp1),order=c(3,0,0))m2

EVIEWs → Unit root test (1)

EVIEWs → Unit root test (2)

Double click

EVIEWs → Unit root test

View

EVIEWs → Unit root test

ตรงนีคื้อใหเ้ราเลือกวา่จะเช็ค Unit root test แบบใด

EVIEWs → Unit root test ผลกำรศึกษำ

P value

ขอบเขตวกิฤต

EVIEWs → AR model

EVIEWs →MA model

พิมพ ์code ค าสั่ง ในตวัอย่างนีคื้อ AR(1) หรือ 𝑌𝑡 = 𝛼 + 𝛽𝑌𝑡−1 + 𝑢

EVIEWs → AR model ผลกำรศึกษำ

EVIEWs →MA model

พิมพ ์code ค าสั่ง ในตวัอย่างนีคื้อ MA(1) หรือ 𝑌𝑡= 𝛼 + 𝛾𝜇𝑡−1 + 𝜇𝑡

EVIEWs →MA model ผลกำรศึกษำ

EVIEWs → ARMA model

พิมพ ์code ค าสั่ง ในตวัอย่างนีคื้อ ARMA(1,1) หรือ𝑌𝑡= 𝛼 + 𝛽𝑌𝑡−1 + 𝛾𝜇𝑡−1 + 𝜇𝑡

EVIEWs → ARMA model ผลกำรศึกษำ

แบบฝึกหดั1) Dynamic regression และ regression เหมือนหรอืตา่งกนัอยา่งไร และจงยกตวัอยา่งหวัขอ้วิจยัท่ีใช้

แบบจ าลอง Dynamic regression และ regression

2) ปัญหาความไมน่ิ่งของขอ้มลู เป็นปัญหาที่ผูวิ้จยัตอ้งค านงึถึงเมื่อใชข้อ้มลู cross section และ Time series ใช้หรอืไม ่ และเหตใุดเราจึงจ าเป็นตอ้งตรวจสอบความนิ่งของขอ้มลู ก่อนการประมาณแบบจ าลอง

3) จากขอ้มลู SET ท่ีใชเ้ป็นตวัอยา่งในบทนี ้อยากใหท้ดสอบตวามนิ่งของขอ้มลูในทกุรูปแบบ โดยใชวิ้ธีการทดสอบ ADF test และ Phillipis-Perron test และแสดงผลการศกึษาในตารางใหพ้อเขา้ใจ (ดตูวัอยา่งจากบทความวิจยัในอดีตว่าแสดงผลการศกึษาอยา่งไร ) พรอ้มทัง้แปลผลการศกึษา

4) ในการพยากรณ ์SET เราจะใชแ้บบจ าลองรูปแบบใด เป็นแบบจ าลองในการพยากรณอ์นาคต (ทดสอบไมเ่กิน lag 3)