Metode Nonlinear Least Square (NLS) untuk Estimasi...

17
p-ISSN 1979 3693 e-ISSN 2477 0647 MEDIA STATISTIKA 10(1) 2017: 47-63 http://ejournal.undip.ac.id/index.php/media_statistika Media Statistika 10(1) 2017: 11-22 47 Metode Nonlinear Least Square (NLS) untuk Estimasi Parameter Model Wavelet Radial Basis Neural Network (WRBNN) Oleh: Rukun Santoso 1 dan Sudarno 2 1 Departemen Statistika FSM Undip, email: [email protected] 2 Departemen Statistika FSM Undip, email: [email protected] ABSTRAK The use of wavelet radial basis model for forecasting nonlinear time series is introduced in this paper. The model is generated by artificial neural network approximation under restriction that the activation function on the hidden layers is radial basis. The current model is developed from the multiresolution autoregressives (MAR) model, with addition of radial basis function in the hidden layers. The power of model is compared to the other nonlinear model existed before, such as MAR model and generalized autoregressives conditional heteroscedastic (GARCH) model. The simulation data which be generated from GARCH process is applied to support the aim of research. The sufficiency of model is measured by sum squared of error (SSE). The computation results show that the proposed model has a power as good as GARCH model to carry on the heteroscedastic process. Key words: wavelet, radial basis, heteroscedastic model, neural network model 1 Pendahuluan Aktivitas ekonomi seperti pasar modal, pasar komoditas, dan kurs mata uang memiliki ukuran kuantitas yang dapat dinyatakan sebagai suatu variabel random. Contoh dari kuantitas-kuantitas dimaksud adalah keuntungan saham, index harga saham, jumlah produk komoditas, jumlah permintaan komoditas, harga komoditas, nilai tukar antar mata uang, dan lain-lain. Jika kuantitas tersebut diukur menurut periode waktu tertentu maka hasil pengukurannya akan membentuk data runtun waktu. Metode analisis runtun waktu terus berkembang sejak Box dan Jenkins [3] mengawali pembahasannya dalam Time Series Analysis: Forecas ting and Control (1976). Metode Box-Jenkins dapat bekerja dengan baik jika data sampel diambil dari proses yang stasioner atau dapat dibawa ke bentuk stasioner [23] . Model yang terbentuk termasuk dalam kelas model l inier. Pada perkembangannya ditemukan fakta bahwa data ekonomi pada umumnya memiliki sifat nonlinear serta varian yang berubah dari waktu ke waktu (heteroskedastik). Dalam kondisi ini metode Box-Jenkins mungkin memberikan jawaban yang kurang memuaskan. Beberapa metode untuk mengatasi masalah nonlininearitas dalam data antara lain model TAR (Threshold Autoregressives ), model SETAR (self-exiciting TAR), model STAR (smoth transition aoutoregressives ) dan lai-lain. Model TAR dan SETAR antara lain dibahas oleh Tong (1990) [22] sedangkan model STAR diusulkan oleh Terasvirta (1994) [20] . Engel (1982) [6] mengusulkan model runtun waktu yang dapat mengakomodasi masalah heteroskedastik dalam data. Model tersebut diberi nama model ARCH (autoregressives conditional heteroskedasticity). Generalisasi model ARCH di-usulkan oleh Bolerslev (1986) dan diberi nama model GARCH (Generalized ARCH). Secara umum model ARCH dan GARCH memiliki

Transcript of Metode Nonlinear Least Square (NLS) untuk Estimasi...

Page 1: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

p-ISSN 1979 – 3693 e-ISSN 2477 – 0647

MEDIA STATISTIKA 10(1) 2017: 47-63

http://ejournal.undip.ac.id/index.php/media_statistika

Media Statistika 10(1) 2017: 11-22 47

Metode Nonlinear Least Square (NLS) untuk Estimasi Parameter Model Wavelet Radial Basis

Neural Network (WRBNN)

Oleh: Rukun Santoso1 dan Sudarno2

1 Departemen Statistika FSM Undip, email: [email protected] 2 Departemen Statistika FSM Undip, email: [email protected]

ABSTRAK

The use of wavelet radial basis model for forecasting nonlinear time series is

introduced in this paper. The model is generated by artificial neural network

approximation under restriction that the activation function on the hidden layers is

radial basis. The current model is developed from the multiresolution autoregressives

(MAR) model, with addition of radial basis function in the hidden layer s. The power

of model is compared to the other nonlinear model existed before, such as MAR

model and generalized autoregressives conditional heteroscedastic (GARCH) model.

The simulation data which be generated from GARCH process is applied to support

the aim of research. The sufficiency of model is measured by sum squared of error

(SSE). The computation results show that the proposed model has a power as good

as GARCH model to carry on the heteroscedastic process.

Key words: wavelet, radial basis, heteroscedastic model, neural network model

1 Pendahuluan Aktivitas ekonomi seperti pasar modal, pasar komoditas, dan kurs mata uang memiliki

ukuran kuantitas yang dapat dinyatakan sebagai suatu variabel random. Contoh dari

kuantitas-kuantitas dimaksud adalah keuntungan saham, index harga saham, jumlah produk

komoditas, jumlah permintaan komoditas, harga komoditas, nilai tukar antar mata uang, dan

lain-lain. Jika kuantitas tersebut diukur menurut periode waktu tertentu maka hasil

pengukurannya akan membentuk data runtun waktu. Metode analisis runtun waktu terus

berkembang sejak Box dan Jenkins[3]

mengawali pembahasannya dalam Time Series Analysis:

Forecasting and Control (1976). Metode Box-Jenkins dapat bekerja dengan baik jika data

sampel diambil dari proses yang stasioner atau dapat dibawa ke bentuk stasioner[23]

. Model yang

terbentuk termasuk dalam kelas model linier.

Pada perkembangannya ditemukan fakta bahwa data ekonomi pada umumnya memiliki

sifat nonlinear serta varian yang berubah dari waktu ke waktu (heteroskedastik). Dalam kondisi

ini metode Box-Jenkins mungkin memberikan jawaban yang kurang memuaskan. Beberapa

metode untuk mengatasi masalah nonlininearitas dalam data antara lain model TAR

(Threshold Autoregressives), model SETAR (self-exiciting TAR), model STAR (smoth

transition aoutoregressives) dan lai-lain. Model TAR dan SETAR antara lain dibahas oleh

Tong (1990)[22]

sedangkan model STAR diusulkan oleh Terasvirta (1994)[20]

. Engel (1982)[6]

mengusulkan model runtun waktu yang dapat mengakomodasi masalah heteroskedastik dalam

data. Model tersebut diberi nama model ARCH (autoregressives conditional

heteroskedasticity). Generalisasi model ARCH di-usulkan oleh Bolerslev (1986) dan diberi

nama model GARCH (Generalized ARCH). Secara umum model ARCH dan GARCH memiliki

Page 2: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

48 Rukun Santoso (Metode Nonlinear Lesat Square)

dua bagian model yaitu model mean dan model varian. Sebagai model parametrik, model

ARCH dan GARCH mengasumsikan bahwa sesatan model berdistribusi normal dengan varian

yang berubah bergantung waktu.

Alternatif lain dari model parametrik adalah model non-parametrik. Model-model non-

parametrik yang terkini antara lain model jaringan syaraf tiruan[8]

, model wavelet[10],[17]

, model

fuzzy dan model gabungan (hibrid) seperti model wavelet-jaringan syaraf tiruan[16],[19]

, dan

model wavelet-fuzzy[14]

. Metode non-parametrik tidak bergantung pada asumsi distribusi random

variabel tertentu tetapi bekerja berdasarkan data, sehingga analisisnya tidak terlalu rumit.

Kelemahan metode non-parametrik pada umumnya adalah melibatkan perhitungan numerik

yang banyak. Dengan pesatnya perkembangan teknologi komputer hal ini tidak menjadi kendala

yang berarti. Uji keberadaan sifat nonlinear dalam data merupakan bagian awal sebelum

membangun model nonlinear. Uji dimaksud antara lain dibahas oleh Brock, Dechert dan

Scheinkman (1987) yang dikenal dengan uji BDS. Teraesvirta, Lin dan Granger (1993)[21]

mengusulkan suatu uji nonlinearitas dengan pendekatan model jaringan syaraf tiruan. Metode

pendekatan JST juga diusulkan oleh Lee, White dan Granger (1993)[9]

dengan nilai awal bobot

random.

Tulisan ini mengusulkan model baru yang diberi nama model Wavelet Radial Basis Neural

Network (WRBNN). Wavelet telah dikenal sebagai alat yang unggul untuk mengurangi gangguan

dalam data[11]

. Radial basis telah dikenal sebagai fungsi pembangkit pendekatan nonlinear yang

dapat mengakomodasi kondisi lokal[12][18]

. Jaringan syaraf tiruan telah banyak digunakan untuk

melakukan klasifikasi dan mencari nilai pendekatan fungsi. Keunggulan metode ini adalah

kemampuannya untuk melakukan perbaikan model sehingga dapat dicapai keadaan optimal[8]

.

Model WRBNN sebagai interaksi wavelet, radial basis dan jaringan syaraf tiruan diharapkan

membentuk model hibrida yang lebih baik. Perangkat lunak komputer yang memadai juga

diperlukan dalam penelitian ini. Hal ini didasarkan atas kebutuhan perhitungan dan analisis data

yang khas, rumit dan banyak. Salah satu perangkat lunak yang memadai adalah paket program

R[15]

, dan didukung modul tambahan fGarch[24]

dan wavelets[1]

.

2 Model Runtun Waktu Nonlinear

Box dan Jenkins (1976) adalah pelopor yang memodelkan runtun waktu secara matematis,

dengan nama model Autoregressives Moving Average (ARMA)[3]

. Metode Box-Jenkins dapat

bekerja dengan baik pada proses yang stasioner. Model yang terbentuk termasuk dalam

kelompok model linear. Tahapan kerja metode ini meliputi tahap persiapan data, pemilihan

model, pendugaan parameter, pemeriksaan model dan peramalan. Persiapan data termasuk

diferensi dan transformasi dilakukan agar stasioneritas proses terpenuhi. Model umum ARMA

dapat diliaht pada persamaan 1.

(1)

dengan variabel acak normal dengan rata-rata dan varian proses konstan.

Fakta membuktikan bahwa ketergantungan runtun waktu terhadap informasi historis

tidak selalu bersifat linear. Hal ini menjadikan ketertarikan peneliti untuk mengkaji model

runtun waktu nonlinear. Salah satu bentuk hubungan nonlinear yang banyak dikaji adalah adanya

sifat heteroskedastik, yaitu varian proses yang berubah bergantung waktu. Model heteroskedastik

yang pertama diperkenalkan oleh Engle[6]

yang diberi nama model ARCH (Autoregressives

Conditional Heteroscedasticity ). Ide dasarnya adalah mengasumsikan bahwa suku sesatan dari

persamaan (1) berpola nonlinear terhadap sesatan yang lampau, seperti dimodelkan pada

persamaan (2).

Page 3: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

49 Rukun Santoso (Metode Nonlinear Lesat Square)

(2)

dengan vt variabel acak N(0,1) dan dapat dinyatakan seperti pada persamaan (3).

(3)

Bollerslev (1986)[2]

mengembangkan model ARCH pada persamaan (3) menjadi model

GARCH (Generalized ARCH) seperti pada persamaan (4).

(4)

Keberadaan sifat heteroskedastik dalam data dapat diketahui dengan uji Multiplikator

Lagrange (LM test) yang antara lain dikemukakan oleh Lee[9]

sebagai pengembangan dari metode

Breusch dan Pagan. Model nonlinear dapat pula berupa ketergantungan nonlinear terhadap

informasi pengamatan terdahulu, yang secara umum dapat dituliskan dalam persamaan (5).

(5)

dengan Φ fungsi nonlinear seperti fungsi logistik, fungsi eksponensial, fungsi polinomial,dan

fungsi radial basis. Pembahasan khusus dalam hal Φ merupakan fungsi radial basis dapat

ditemukan pada Orr[12]

dan Haykin[8]

.

3 Model Runtun Waktu Berbasis Wavelet Wavelet atau juga disebut wavelet ibu adalah fungsi gelombang kecil yang dapat

membangun basis orthonormal pada ruang L2 (R)[5]

. Setiap jenis wavelet ibu memiliki pasangan

wavelet ayah atau juga disebut fungsi skala yang khas. Biasanya wavelet disimbolkan dengan

sedangkan fungsi skala disimbolkan dengan . Untuk membangun basis pada L2(R) wavelet

membentuk keluarga wavelet berupa bentuk dilatasi dan translasi seperti yang tertulis pada

persamaan (6)

(6)

Ide pembentukan basis wavelet untuk ruang L2(R) terilhami oleh pembentukan basis

untuk ruang menggunakan fungsi sines dan kosines[11]

. Dalam hal ini setiap

fungsi dalam dapat dinyatakan sebagai kombinasi linear dari fungsi sines dan kosines. Bentuk ini dikenal sebagai deret Fourier. Seperti halnya fungsi sines dan cosines,

wavelet memiliki sifat-sifat yang mendukung sebagai pembangkit basis seperti tertulis pada persamaan (7).

(7)

Wavelet dan fungsi skala bersama-sama dapat membangun ruang multiresolusi, sehingga setiap

fungsi f ∈ L2 (R) dapat dinyatakan sebagai kombinasi linier dari wavelet dan fungsi skala seperti

disajikan pada persamaan (8).

Page 4: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

50 Rukun Santoso (Metode Nonlinear Lesat Square)

(8)

Ruang multiresolusi yang memuat persamaan (8) pada tingkat dapat dituliskan dengan

persamaan (9).

(9)

dengan ⊕ menyatakan operasi jumlahan ortogonal dua ruang vektor. Koefisien-koefisien pada

persamaan (8) dapat dihitung menggunakan persamaan (10).

(10)

3.1 Transformasi Wavelet Diskrit

Transformasi wavelet akan menghasilkan bagian Smooth (S) dan Detil (D). Bagian S

menggambarkan pola utama dari data sedangkan bagian D menggambarkan pola fluktuasinya. Dari

suatu wavelet terdapat sebanyak berhingga genap nilai-nilai dengan sifat istimewa. Himpunan

nilai-nilai dimaksud disebut filter wavelet, yang biasa dituliskan seperti pada persamaan (11)

dengan sifat seperti dituliskan pada persamaan (12)[13]

.

(11)

yang memenuhi sifat-sifat berikut

(12)

Sebagai pasangan dari filter wavelet terdapat filter skala yang dituliskan sebagai

Antara h dan g terdapat hubungan seperti dituliskan pada persamaan (13).

(13)

Filter yang diulas pada paragraf sebelumnya adalah filter pada tingkat pertama, selanjutnya

dinotasikan dengan . Sebelum membangun filter pada tingkatan yang lebih tinggi terlebih

dulu dibentuk up-sampled dari filter tingkat sebelumnya yaitu dengan cara menyisipkan 0 di

antara nilai filter yang tidak sama dengan 0. Jadi up-sampled dari (11) adalah seperti tercantum

pada persamaan (14)

(14)

Filter pada tingkat ke-2 dibentuk dengan rumus pada persamaan (15).

(15)

dengan ∗ menyatakan operasi konvolusi. Secara umum filter wavelet dan filter skala pada tingkat

dibentuk dengan rumus pada persamaan (16).

Page 5: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

51 Rukun Santoso (Metode Nonlinear Lesat Square)

(16)

Filter wavelet dan filter skala secara bersama-sama dapat membangun matriks transformasi

wavelet diskrit. Hal ini berakibat setiap realisasi diskrit dari fungsi dalam dengan jeda

waktu yang sama dapat didekomposisi (dipecah) ke dalam bagian halus (S) dan bagian-bagian

detil (D). Proses untuk memperoleh S dan D disebut transformasi wavelet diskrit (Discrete Wavelet

Transform = DWT). Misalkan suatu runtun waktu dengan dan untuk

suatu . Transformasi wavelet diskrit pada tingkat dapat dituliskan seperti pada

persamaan (17).

(17)

adalah matriks transformasi tingkat ke- berukuran N × N dan D adalah hasil dekomposisi

yang disebut juga sebagai matriks koefisien dengan ukuran N × 1.

Baris pertama samapai dengan baris ke- dari matriks adalah bentuk periodisai dua

langkah dari seperti tersaji dalam matriks pada persamaan (18)

(18)

Baris ke- sampai baris ke- pada matriks merupakan bentuk periodisasi dua langkah dari

seperti tertera dalam matriks pada persamaan (19).

(19)

Matriks transformasi dibangun dengan cara mendekomposisikan (memecah) matriks menjadi

matriks dan yang masing-masing merupakan bentuk periodisasi 4 langkah dari filter wavelet

dan filter skala tingkat 2. Proses dapat dilanjutkan sampai dengan tingkat ke- , untuk .

Dalam hal ini dan masing-masing merupakan bentuk periodisasi langkah dari filter

wavelet dan filter skala tingkat . Lebih lanjut persamaan (17) dapat dituliskan kembali seperti

pada persamaan (20).

(20)

3.2 Transformasi Wavelet Diskrit Tak Menurun

Transformasi wavelet tak menurun (Undecimated Wavelet Transform =UDWT)

dipandang memiliki keunggulan dibandingkan dengan DWT untuk analisis data runtun

waktu[6],[13]

. Keunggulan tersebut antara lain, ukuran sampel tidak harus berbentuk dan

banyaknya koefisien wavelet yang didapat pada setiap tingkat dekomposisi adalah tetap yaitu

sama banyak dengan ukuran sampelnya. Diberikan notasi untuk filter wavelet dan filter skala untuk

Page 6: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

52 Rukun Santoso (Metode Nonlinear Lesat Square)

UDWT berturut-turut adalah dan . Antara filter DWT dan filter UDWT terdapat

hubungan sebagai berikut,

dan

Rumusan UDWT dapat ditulis seperti pada persamaan (21)

(21)

Pada transformasi tingkat matriks berukuran . Selanjutnya dinotasikan

baris pertama dari dengan , N baris berikutnya dengan , proses dilanjutkan sehingga

pada tingkat diperoleh , dan N baris terakhir dinotasikan dengan . Untuk setiap indeks ,

sub matriks dan masing-masing merupakan bentuk periodisasi satu langkah filter wavelet

dan filter skala tingkat . Sebagai contoh sub matriks dapat disajikan dengan persamaan (22)

(22)

Dengan cara yang sepadan akan diperoleh sebagai bentuk periodisasi satu langkah dari filter

skala. Pada UDWT tingkat 2, sub matriks akan terpecah menjadi dan yang masing-

masing merupakan bentuk periodisasi satu langkah filter wavelet dan filter skala tingkat 2. Lebih

lanjut cara yang sepadan dengan persamaan (20) untuk menuliskan proses UDWT adalah seperti

tertulis pada persamaan (23).

3.3 Model Peramalan Runtun Waktu dengan UDWT

Pada umumnya peramalan merupakan tujuan utama dari proses pemodelan. Banyak cara

dapat digunakan untuk melakukan peramalan, mulai dari model sederhana (naive model) hingga

model yang rumit. Tulisan ini terinspirasi penggunaan hasil transformasi wavelet diskrit untuk

peramalan runtun waktu yang dibahas oleh Murtagh (2004)[10]

. Pembahasan yang lain juga

dapat ditemukan dalam Renaud et.al. (2003)[16]

, dan Ciancio (2007)[4]

. Murtagh mengasumsikan

peramalan satu langkah ke depan bergantung kepada hasil UDWT data sebelumnya. Model yang

dihasilkan lazim disebut sebagai model wavelet. Model yang ditawarkan dapat dinyatakan

dengan persamaan (24)

(24)

Tingkat dekomposisi tertinggi dinyatakan dengan . Banyaknya koefisien yang dipilih pada

tingkat dinyatakan dengan . Sebagai contoh jika diambil dan untuk

maka persamaan (24) dinyatakan sebagai persamaan (25)

Page 7: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

53 Rukun Santoso (Metode Nonlinear Lesat Square)

(25)

Penduga parameter dari persamaan (25) dapat dihitung dengan metode kuadrat terkecil, dan

jika distribusi diketahui maka dapat dihitung dengan metode likelihood maksimum.

4 Model Wavelet Radial Basis Neural Network Fungsi radial basis telah digunakan sebagai pengolah pada lapisan tersembunyi dari

jaringan syaraf tiruan. Hal ini antara lain telah dibahas oleh Haykin[8]

, Samarasinghe[8]

dan Orr[12]

.

Input yang berjarak dekat dengan pusat radial basis akan menghasilkan nilai fungsi yang besar.

Sebaliknya input yang jauh dengan pusat radial basis akan menghasilkan nilai fungsi yang kecil.

Hal ini menjadikan fungsi radial basis sebagai pemilah input ke dalam kelompok-kelompok yang

lebih homogen. Jika X adalah variabel yang akan diproses dengan fungsi radial basis, maka

biasanya dinyatakan dalam bentuk baku relatif terhadap parameter lokasi dan parameter

skala seperti pada persamaan (26)

(26)

Beberapa fungsi radial basis dapat dilihat pada persamaan (27), (28), dan (29)

Fungsi Gaussian :

(27)

Fungsi Multiquadric

(28)

Fungsi Multiquadric invers

(29)

Penggunaan fungsi radial basis pada jaringan syaraf tiruan (neural network) sebagai

model nonlinear antara lain dibahas oleh Haykin[8]

dan Orr[12]

. Hal ini memberikan pemikiran

untuk mengembangkan model pada persamaan (24) menjadi model wavelet radial basis neural

network (WRBNN). Ide dasarnya adalah menggunakan hasil UDWT sebagai variabel input

serta penggunaan fungsi nonlinear dalam hal ini radial basis sebagai fungsi aktivasi pada

lapis tersembunyi. Hal ini untuk mengantisipasi kemungkinan adanya sifat nonlinear pada hasil

transformasi wavelet. Model yang dihasilkan dapat digunakan untuk menyelidiki adanya sifat

nonlinear sekaligus dapat digunakan untuk peramalan.

Tanpa mengurangi keumuman, akan dibangun model WRBNN dengan input koefisien

hasil transformasi wavelet tak menurun pada tingkat dan untuk semua level

(lihat persamaan (25)). Tahap-tahap pembentukan model WRBNN dapat dijelaskan seperti tertera

di bawah ini.

1. Mengelompokan ke dalam cluster dengan pusat , dan deviasi

standar . Metode k-means dapat digunakan untuk kepentingan tersebut.

Page 8: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

54 Rukun Santoso (Metode Nonlinear Lesat Square)

2. Melakukan transformasi UDWT terhadap (diambil tingkat transformasi )

3. Membentuk matrix input dari hasil transformasi yang terpilih seperti pada bagian 3.3.

Elemen baris ke- dari untuk dapat dituliskan sebagai

4. Merancang model linear , dengan parameter

5. Merancang model pada hidden unit , dengan ,

6. Merancang model penduga pada lapis output

dengan

Bentuk rancang bangun model WRBNN dapat ditunjukan dengan Gambar 1. Secara matematis

model populasinya dapat dituliskan selaras dengan hasil langkah ke-6 yaitu

(30)

Gambar 1: Rancang Bangun dari Model WRBNN

Untuk menyederhanakan pembahasan tanpa mengurangi keumuman masalah, akan

ditinjau untuk dengan fungsi radial basis gaussian sehingga model penaksir yang sesuai

dengan persamaan (30) dengan penyesuaian indeks dapat dituliskan dengan persamaan (31).

(31)

Parameter-parameter model diduga sedemikian hingga meminimumkan fungsi objektif pada

persamaan (32) berikut ini,

(32)

dengan dianggap sebagai fungsi nonlinear dari

dengan adalah vektor koefisien pada model penduga.

Agar metode kuadrat terkecil dapat digunakan maka fungsi nonlinear pada

persamaan (32) diekspansikan ke dalam deret Taylor. Metode ini disebut sebagai metode kuadrat

terkecil nonlinear atau Nonlinear Least Square (NLS). Persamaan (33), (34) dan (35) masing-masing merupakan hasil ekspansi Taylor dari dan di sekitar titik awal yang

dipotong pada suku derajat satu. Pemotongan dilakukan dengan asumsi suku-suku derajat

tinggi pada ekspansi Taylor cukup kecil sehingga dapat diabaikan.

Page 9: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

55 Rukun Santoso (Metode Nonlinear Lesat Square)

(33)

(34)

(35)

Penjumlahan dari persamaan (33), (34) dan (35) merupakan ekspansi Taylor di sekitar .

Karena model yang terbentuk linear dalam maka penaksir yang meminimumkan persamaan

(32) dapat dicari dengan metode LSE. Selanjutnya dilakukan perbaikan terhadap setiap

menggunakan persamaan (36)

(36)

5. Hasil Simulasi dan Pembahasan Data runtun waktu nonlinear diperlukan untuk memberikan gambaran penggunaan metode

WRBNN. Hampir setiap paket library dalam perangkat lunak R menyediakan pilihan contoh data

yang mungkin cocok untuk mengembangkan suatu metode. Biasanya kumpulan data tersebut

telah terseleksi untuk penelitian terkait sifat-sifat tertentu. Cara lain memperoleh data dengan

sifat tertentu adalah melalui pembangkitan data dengan simulsi komputer. Cara simulasi dipilih

dalam pembehasan penerapan metode WRBNN karena lebih menjamin tersedianya sifat nonlinear

dalam data. Pada Bagian 2 telah dibahas bahwa runtun waktu heteroskedastik merupakan salah satu

perwujudan dari sifat nonlinear. Secara simulatif data dimaksud dapat dibangkitkan dengan

library fGarch. Data hasil pembangkitan dari model ARMA-GARCH akan digunakan untuk

membangun model WRBNN. Penentuan model simulatif seperti pada persamaan (37) tidak

memeiliki tujuan lain kecuali menyediakan data runtun waktu heteroskedastik.

Tabel 1: Estimasi Parameter Model ARMA+GARCH

Parameter Estimasi Nilai t Prob.

Page 10: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

56 Rukun Santoso (Metode Nonlinear Lesat Square)

µ

γ1

α0

α1

β1

1

0.4951

0

0.1267

0.7859

2952.948

2229.454

2.040

3.441

11.704

0

0

0.041395

0.000579

0

(37)

dengan

Table 2: Estimasi Parameter Model Wavelet Variabel Koefisien Nilai t Prob.

d1,t

d3,t

d5,t

d7,t

c9,t

c10,t−16

0.07472

0.08022

0.08201

0.09631

0.06513

0.06513

6.195

6.569

7.342

4.201

12.025

3.330

0

0

0

0

0

0.000925

Table 3: Estimasi Parameter Model WRBNN Variabel Koefisien Nilai t Prob.

d1,t

d3,t

d5,t

d7,t

c9,t

c10,t−16

Φ1

0.502293

0.500346

0.596003

0.317993

0.839897

0.167675

-0.016140

6.635

6.225

7.305

3.151

12.345

2.494

-2.725

0

0

0

0.00171

0

0.01291

0.00662

Enam ratus titik sampel telah diambil dan hasilnya disajikan pada Lampiran 1. Input model WRBNN adalah hasil UDWT dari data hasil simulasi. Proses UDWT dapat

dilakukan menggunakan library wavelets dalam perangkat lunak R[1]

. Hasil estimasi parameter model ARMA dan GARCH pada persamaan (37) dapat disajikan dalam Tabel 1. Hasil estimasi parameter model yang tercantum pada Tabel 1 nampak telah mendekati parameter model pada

persamaan (37). Hasil estimasi parameter model wavelet dengan data simulasi untuk persamaan (37) disajikan dalamTabel 2 yang memuat 6 penduga parameter model wavelet yang signifikan

dari 10 parameter seperti yang tercntum dalam persamaan (25). Hasil estimasi parameter model WRBNN dengan pencocokan pada data simulasi persamaan (37) disajikan dalam Tabel 3 yang

memperlihatkan bahwa 6 variabel terpilih pada model wavelet masih dapat dipertahankan

sebagai bagian linear dari model WRBNN, meskipun ada penurunan signifikansi pada dan

. Model yang terbentuk hanya memuat satu fungsi radial basis sebagai bagian nonlinear

dari model WRBNN. Kode listing program R untuk mendapatkan nilai penduga koefisien model

WRBNN tersaji pada Lampiran 2. Hasil perhitungan jumlah sesatan kuadarat (SSE) dari model GARCH, Wavelet dan WRBNN serta hasil uji normalitas Kolmogorov-Smirnov disajikan pada Tabel 4.

Page 11: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

57 Rukun Santoso (Metode Nonlinear Lesat Square)

Table 4: SSE dan Uji Normalitas K-S Model SSE N σ2 Prob K-S

GARCH

Wavelet

WRBNN

0.006808593

0.006785685

0.006704714

600

583

583

0.000011364

0.00001165925

0.00001152013

0.6099

0.4264

0.4567

6 Kesimpulan

Hasil estimasi parameter model GARCH, Wavelet dan WRBNN menunjukkan bahwa ketiganya

memberikan hasil jumlah sesatan kuadrat yang tidak jauh berbeda untuk kasus data

heteroskedastik. Percobaan dengan model yang berbeda-beda mungkin perlu dilakukan untuk

mendapatkan perbandingan yang lebih luas, serta perlu ada kajian lebih jauh menggunakan data

hasil pengamatan nyata. Disamping itu, sebagai tindak lanjut penyelidikan simulatif perlu

dikembangkan penyelidikan aspek teoritik menyangkut sifat matematis dari model Wavelet dan

WRBNN. Aspek teoritik tersebut menyangkut sifat-sifat baik dari penduga parameter yang

terkait dengan model tersebut.

DAFTAR PUSTAKA

[1] Aldrich E 2009 A package of Functions for Computing Wavelet Filters, Wavelet Transforms and Multiresolution Analyses http://www.ealdrich.com/wavelets/.

[2] Bollerslev T 1986 generalized autoregressive conditional heteroskedasticity J. Of Econometrics 31 307-27

[3] Box G E P and Jenkins G M 1976 Time Series Analysis: Forecasting and Control (San

Francisco: Holden-Day)

[4] Ciancio A 2007 analysis of time series with wavelets Int. J. of Wavelets, Multiresolution and

Information Processing 5(2) 241-56

[5] Daubhechies I 1992 Ten Lecture on Wavelets (Philadelphia: SIAM )

[6] Engel R F 1982 autoregressive conditional heteroscedasticity with estimates of the variance of

united kingdom inflation, J. Econometrica 50 987-1008

[7] Fugal D L 2009 Conceptual Wavelets in Digital and Signal Processing (Space and Signals Technologies LLC)

[8] Haykin S 1999 Neural Networks: A Comprehensive Foundation Prentice Hall

[9] Lee, T. H., White, H. dan Granger, J. W. J., 1993. Testing for neglected nonlinearity in time

series models: a comparison of neural network methods and alternative tests. J. of Econometrics, 56:269–290

[10] Murtagh F, Starck J L and Renaud O 2004 on neuro wavelet modeling Decision Support

System 37 475-90

[11] Ogden, R. T., 1997. Essential wavelets for statistical applications and data analysis.

Birkhauser, Berlin

[12] Orr, M. J. L., 1996. Introduction to Radial Basis Function Networks. Centre for Cognitive Science, University of Edinburgh

[13] Percival D B and Walden A T 2000 Wavelet methods for time series analysis (Cambridge: CU Press )

Page 12: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

58 Rukun Santoso (Metode Nonlinear Lesat Square)

[14] Popoola, A. O., 2007. Fuzzy-wavelet method for time series analysis. PhD thesis, Surey

University Disertasi submitted for the degree of doctor of philosophy in Surey University.

[15] R core team., 2016. R: A Language and environment for statistical computing. R Foundation

for Statistical Computing, Vienna, Austria URL: http://www.R- project.org/.

[16] Renaud, O., Starck, J. L., dan Murtagh, F., 2003. Prediction based on a multiscale decomposition. Int. J. of Wavelets Multiresolution and Information Processing, 1 (2):217–232

[17] Rukun S, Subanar, Rosadi D, and Suhartono 2011 heteroscedastic time series model by

wavelet transform Proc. of ”The 6th SEAMS-UGM Conference 2011”

[18] Samarasinghe S 2006 Neural Network for Applied Science and Engineering (New York: Auerbach Pub)

[19] Starck J L, Jalal F and Murtagh F 2007 the undicimated wavelet decomposition and its reconstruction, IEEE on Image Processing 16(2) 297-309

[20] Terasvirta. T., 1996. Power properties of linearity tests for time series, Studies in Nonlinear

Dynamics and Econometrics, 1(1), April 1996

[21] Terasvirta, T., Lin, C. F., dan Granger, C. W. J., 1993. Power of the neural network linearity

test. J. of Time Series Analysis, 14(2):209–220

[22] Tong, H., 1990. Nonlinear Time Series: A Dynamic System Approach. Clarendon Press, Oxford

[23] Wei William W S 1994 Time Series Analysis: Univariate and Multivariate methods (Canada: Addison-Wesley)

[24] Wuertz, D. dan Chalabi, Y. 2016 fGarch: Rmetrics Autoregressive Conditional Heteroskedastic Modelling. R package version 3010.82.1. https://CRAN.R-

project.org/package=fGarch

Lampiran 1

Data Hasil Simulasi SET DATA

2.003979 2.009791 2.003151 2.006777 2.000278 2.001569 1.99751 2.001901 2.003169 1.997668 2.001348 1.999821 1.997654 1.998076 2.000357 2.001371 1.994325 1.99572 2.002571 2.004215 2.003481 1.999877 1.997553 1.993204 2.001703 1.994054 1.990701 1.988522 1.995735 1.992752 1.990777 1.992157 1.996347 1.997101 2.002339 2.000787 1.998845 1.998855 1.994443 1.998365 2.001895 1.996921 2.004624 2.00216 2.001331 2.002566 2.004484 2.001101 2.011151 2.013801 2.005247 2.000059 2.007414 2.000729 2.000253 2.002933 2.003962 2.00382 2.003723 2.003733 2.001338 2.001408 2.000064 1.99677 2.00208 1.998999 1.999575 2.00109 1.998542 1.998569 2.002621 2.004598

Page 13: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

59 Rukun Santoso (Metode Nonlinear Lesat Square)

2.00567 1.997313 1.997494 1.997514 2.009385 2.006515

2.003314 2.009795 2.009821 2.007068 2.005677 2.003296 2.003146 2.000441 2.002528 2.004314 2.002874 2.002457 2.000898 2.003282 2.003188 2.001033 1.996621 1.998072 1.998233 1.994196 1.995168 1.995377 1.998892 2.001334 1.999412 1.996833 1.999067 2.001789 1.996841 1.998452 1.999412 2.000651 2.001979 2.002823 2.000785 2.00026 1.996404 1.995316 1.995634 1.995704 2.003376 2.004232 1.999649 1.999134 2.002501 2.001442 2.000206 1.997335 2.000334 1.996349 1.996949 1.998015 1.998297 1.9961 1.996572 2.001929 2.005908 1.999871 1.996594 2.001016 1.997057 2.000606 2.004876 2.001986 2.00129 2.001855 2.001171 1.995446 1.998991 2.006435 2.0066 1.988187 1.988811 1.988509 1.990507 1.999175 1.991719 2.006724 2.004599 2.011095 1.998725 2.009788 2.010096 1.993624 2.002739 1.998617 2.000001 2.005619 2.001921 2.003303 1.99675 1.994934 2.003434 2.005161 1.999819 1.988216 1.992812 2.000359 2.002286 2.008452 2.007356 1.999568 2.003274 2.003634 2.006132 2.002031 2.003404 2.001473 2.002073 1.992945 1.995452 1.999296 1.996229 2.00271 2.006565 2.005011 2.005861 2.001891 1.998675 2.002389 2.00445 2.000418 2.003668 2.003212 2.002962 2.003585 2.001091 2.000331 2.002249 2.00213 1.999976 1.999213 1.99827 1.999924 1.996176 1.999274 1.996772 2.002542 2.002186 2.000026 2.002937 2.001519 2.00212 1.996622 1.993912 1.996818 2.001392 1.999025 2.00191 1.998497 1.99637 2.001074 2.001804 2.00382 2.002298 2.002546 2.001738 2.004475 2.003603 2.003204 1.998765 1.998811 1.998314 2 1.99934 1.999395 2.002955 2.004624 2.002967 2.00483 1.999557 1.998567 1.998918 1.997215 1.994763 1.992201 1.999429 1.995648 1.995155 2.001205 1.997336 1.999563 1.999878 1.996633 2.002837 2.001915 1.999421 1.996854 2.002401 2.003366 1.999896 1.998186 1.998853 1.995356 1.999147 1.996145 2.000264 1.998412 2.004309 2.00814 2.013944 2.011031 2.009775 2.00401 2.004295 1.992028 1.996127 2.001164 1.997902 2.001423 1.994977 1.9982 2.002721 2.004043 2.005261 2.004244 1.996701 2.002743 1.996961 1.997822 2.000604 2.00676 2.004894 2.009614 1.999679 2.004011 1.999253 2.006063 1.998335 1.99697 1.995972 1.997314 1.997492 1.999266 2.002306 1.998799 1.999204 1.999003 1.995428 1.99751 2.001211 2.004824 1.99619 1.999824 2.003127 2.002031 2.000144 1.999607 2.001008 1.999751 1.99708 2.001507 2.005272 2.00369 2.004662 2.003992 2.000586 1.998483 2.00128 1.998011 1.9915 2.003845 1.997482 1.988174 1.998764 1.992698 2.004105 2.000278 2.00389 2.000407 2.000752 2.000009 2.004733 2.002313 2.003365 2.002463 1.996233 2.001025 1.999401 1.997556 2.001306 2.002735 2.001882 2.001966 2.00094 2.001842 2.000554 2.006327

Page 14: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

60 Rukun Santoso (Metode Nonlinear Lesat Square)

2.002486 1.998231 1.997357 2.000018 2.003465 2.00363

2.003502 1.997254 1.999694 1.997818 2.00219 1.999303 1.996082 1.993262 1.995322 1.993596 1.994022 1.997127 1.995617 2.000082 1.998289 2.003718 2.002577 2.0034 1.999571 1.995304 1.995783 1.997194 2.000211 2.004591 1.999001 1.998847 1.995748 1.994376 1.99402 2.00125 2.003651 1.99592 1.99892 1.997478 1.996381 2.000244 1.998335 2.005113 2.009299 2.003156 1.998741 1.997239 1.996415 2.000197 1.998028 1.992684 1.993013 1.990767 1.992993 1.992783 1.999572 1.99911 1.999201 2.000278 2.004795 2.001304 2.005245 1.997389 1.99585 1.998841 1.997159 1.995299 1.994949 1.998201 1.996571 1.99557 1.997494 2.005813 2.005874 2.000943 2.000823 1.999291 2.000998 2.003277 1.997716 1.99954 1.998806 1.99883 1.996768 1.994228 1.997085 1.999531 2.005856 2.004908 2.004045 1.999661 2.001404 1.999214 1.997999 1.994118 1.994897 1.997243 1.996666 1.995359 1.996342 1.999396 2.001807 1.998456 2.001437 1.99871 1.996634 1.999105 2.002598 2.000018 1.998805 2.001239 2.000017 2.000686 1.998854 1.996944 1.998646 1.998419 2.001055 1.99757 1.997974 1.997271 1.996942 1.995924 2.000142 1.996205 2.00115 2.005637 2.004327 1.998696 1.999576 2.002132 1.999595 1.995742 1.997123 2.001463 2.000717 2.001202 1.999259 2.002475 2.000363 2.003137 2.001255 1.996251 1.998649 1.997741 2.00139 1.998881 1.998132 2.000577 2.002824 2.000678 1.999597 1.998908 2.002387 2.000421 1.998916 1.996481 1.99472 1.995691 2.001394 1.994178 1.997796 1.996575 1.99657 1.99891 2.000892 2.004338 2.003081 2.003655 2.00334 2.000122 2.001039 2.000449 2.001617 2.00052 2.001355 2.00153 2.001243 2.003737 2.000236 1.995965 1.996601 1.99876 2.003424 1.995293 1.996449 1.997091 1.994698 2.000712 2.006154 2.006613 2.001574 1.994913 1.998242 1.999145 1.994911 1.997912 1.999145 2.005361 2.003133 1.997775 2.000651 1.998391 2.000158 1.996217 1.99724 1.998973 1.997496 1.98977 1.996246 1.998994 2.001572 2.00099 2.000346 1.999432 1.998324 1.9972 1.999912 1.99866 1.99751 1.999516 2.003607 1.999308 1.998588 1.995671 2.000616 1.996972 1.99629 1.999209 2.004266 2.003069 2.00558 2.000851

LAMPIRAN 2 Listing Program Model WRBNN ############################# ## BEBERAPA KODE LISTING R ## ############################# rbf.prg=function (x,w=’haar’,j=4) { n=length(x)

Page 15: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

61 Rukun Santoso (Metode Nonlinear Lesat Square)

minx=min(x)

maxx=max(x)

x.modwt=modwt(x,w,j)

d1=x.modwt@W$W1

d2=x.modwt@W$W2

d3=x.modwt@W$W3

d4=x.modwt@W$W4

v4=x.modwt@V$V4

m=NULL for (i in 1:(n-17)) {

m=c(m,d1[i+16],d1[i+14],d2[i+16],d2[i+12],d3[i+16], d3[i+8],d4[i+16],d4[i],v4[i+16],v4[i])

} y=x[18:n] M=matrix(m,nrow=10) nkol=ncol(M) Mdist=matdist(M) ijdist=rep(0,nkol) tau=2*max(Mdist) Mz=(Mdist+t(Mdist))/tau rbf.d=exp(-0.5*Mz^2) lm.y=lm(y~M[1,]+M[2,]+M[3,]+M[4,]+M[5,]+M[6,]+M[7,]+ M[8,]+M[9,]+M[10,] sse=sum((lm.y$residuals)^2) Mres=rep(0,nkol) for (i in 1:nkol){ lm.y=lm(y~M[1,]+M[2,]+M[3,]+M[4,]+M[5,]+M[6,]+M[7,]+ M[8,]+M[9,]+M[10,]+rbf.d[i,])

sse2= sum((lm.y$residuals)^2) if (sse-sse2>0) { Mres[i]= sse-sse2 } } return(order(Mres, decreasing=T)) } ################## ## Matrik Jarak ## ################## matdist=function (m) {

nkol=ncol(m)

nbar=nrow(m) mdist=matrix(0,nrow=nkol,ncol=nkol) for(i in 1:nkol){

for ( j in 1:i){

mdist[i,j]=vecdist(m[,i], m[,j]) }

} return(mdist) }

Page 16: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

62 Rukun Santoso (Metode Nonlinear Lesat Square)

######################

## Jarak dua vektor ## ###################### vecdist=function (a,b) { ab=a-b l=vecnorm(ab) return (l)

} ################# ## Norm Vektor ## ################# vecnorm=function (a) { l=sqrt(sum(a^2)) return(l)

}

########################## ## Estimasi Model WRBNN ## ########################## rbf2.prg=function (x,w=’haar’,j=4) {

n=length(x) minx=min(x) maxx=max(x) x.modwt=modwt(x,w,j) d1=x.modwt@W$W1 d2=x.modwt@W$W2 d3=x.modwt@W$W3 d4=x.modwt@W$W4 v4=x.modwt@V$V4 m=NULL for (i in 1:(n-17)){

m=c(m,d1[i+16],d1[i+14],d2[i+16],d2[i+12],d3[i+16], d3[i+8],d4[i+16],d4[i],v4[i+16],v4[i]) }

y=x[18:n] M=matrix(m,nrow=10) nkol=ncol(M) Mdist=matdist(M) tau=2*max(Mdist) Mz=(Mdist+t(Mdist))/tau rbf.d=exp(-0.5*Mz^2) Mres=rep(0,nkol) lm.y=lm(y~M[1,]+M[2,]+M[3,]+M[4,]+M[5,]+M[6,]+M[7,]+ M[8,]+M[9,]+M[10,]+rbf.d[101,]+rbf.d[106,]+rbf.d[116,]) predx=lm.y$fitted

minx=min(minx, min(predx)) maxx=max(maxx,max(predx))

predx<-c(rep(0,17), predx) ts.plot(x,xlim=c(0,n+10), ylim=c(minx,maxx), xlab="", ylab="", type= ’l’) par(new=T) ts.plot(predx, xlim=c(0,n+10), xlab="TIME",ylab="VALUE",

ylim=c(minx,maxx), col=2, lty=2) return(lm.y)

} ######################## ## Membangkitkan Data ## ######################## simarch.prg=function () { spec = garchSpec(model = list(mu=1,ar = 0.5))

Page 17: Metode Nonlinear Least Square (NLS) untuk Estimasi ...eprints.undip.ac.id/54937/1/Artikel_Rukun_Santoso_dan_Sudarno.pdfRadial basis telah dikenal sebagai fungsi pembangkit pendekatan

63 Rukun Santoso (Metode Nonlinear Lesat Square)

simGarch.dat=garchSim(spec, n = 600) myDat=simGarch.dat[1:600]

return(myDat) }