PENERAPAN JARINGAN SYARAF TIRUAN RBF DAN...
Transcript of PENERAPAN JARINGAN SYARAF TIRUAN RBF DAN...
Fifi Maria Ulfah
1209201722
Pembimbing:
Prof. Dr. Mohammad Isa Irawan, M.T
Dr. Imam Mukhlash, S.Si, M.T
Program Magister Matematika
Institut Teknologi Sepuluh Nopember Surabaya
Tesis
PENERAPAN JARINGAN SYARAF TIRUAN RBF DAN METODE PCA
DALAM MEMPREDIKSI RISIKO PEMBERIAN KREDIT
Rabu, 6 Juli 2011 1/22TesisFifi Maria Ulfah
Abstrak
Evaluasi risiko kredit merupakan salah satu teknik analisis penilaian risiko kredit dalam
manajemen risiko keuangan. Evaluasi risiko kredit sangat bermanfaat bagi pihak bank atau
lembaga pembiayaan dalam mengambil keputusan pemberian kredit. Pada pengambilan
keputusan tersebut lembaga pembiayaan wajib melaksanakan prinsip kehati-hatian untuk
memperkecil risiko dalam pemberian kredit. Pada kasus permohonan kredit oleh nasabah,
seorang decision maker pada suatu perbankan harus mampu mengambil keputusan yang
tepat untuk menerima atau menolak permohonan kredit tersebut.
Jaringan syaraf tiruan (JST) telah banyak digunakan dalam banyak aplikasi, salah satunya
adalah pada permasalahan klasifikasi. Dalam penelitian ini, jaringan syaraf tiruan Radial
Basis Function (RBF) digunakan untuk memprediksi risiko pemberian kredit tersebut.
Implementasi RBF dipadukan dengan metode analisis komponen utama atau Principal
Component Analysis (PCA) untuk meningkatkan performansi. Hasil simulasi jaringan RBF
terhadap dataset kredit yang direduksi dengan PCA menggunakan software Matlab 7.8
menunjukkan bahwa waktu komputasi selama proses training lebih singkat dari dimensi
input asli yaitu 2,7768 detik dan akurasi mencapai 77,33%.
Kata kunci: Jaringan Syaraf Tiruan, RBF, PCA, Risiko Kredit.
ABSTRAK Abstrak
Rabu, 6 Juli 2011 2/22TesisFifi Maria Ulfah
o Latar Belakang
Pengambilan keputusan pemberian kredit pada perbankan/lembaga pembiayaan
Isi formulir
Lengkapi Berkas
Diterima atau Ditolak
Penilaian permohonan
Kredit
Algoritma Pembelajaran
untuk
pengklasifikasian pola
Metode klasifikasi
secara statistika
Metode Diskriminan
Linear
JST/ANN
Jaringan syaraf tiruan RBF PCA
Diterima atau Ditolak
PENDAHULUAN
Rabu, 6 Juli 2011 3/22TesisFifi Maria Ulfah
a. Bagaimana tingkat akurasi klasifikasi risiko kredit berbasis jaringan syaraf tiruan Radial
Basis Function (RBF) dengan menggunakan input asli (tanpa reduksi PCA)?
b. Bagaimana tingkat akurasi klasifikasi risiko kredit berbasis jaringan syaraf tiruan Radial
Basis Function (RBF) dengan menggunakan input hasil reduksi PCA?
c. Bagaimana perbandingan tingkat akurasi dan waktu training jaringan syaraf tiruan RBF
pada klasifikasi risiko kredit dengan menggunakan input asli dan input hasil reduksi
PCA?
PENDAHULUAN
Fifi Maria Ulfah
o Perumusan dan Batasan Masalah
Rabu, 6 Juli 2011 4/22Tesis
Perumusan Masalah
Batasan Masalah
a. Data yang digunakan untuk pelatihan dan pengujian dalam penelitian ini adalah dataset
kredit yang berasal dari database UCI repository machine learning dan dapat diakses di
http://archive.ics.edu/ml/machine-learning-databases/satlog/german/.
b. Simulasi penelitian menggunakan software Matlab 7.8
a. Untuk mengetahui tingkat akurasi klasifikasi risiko kredit berbasis jaringan syaraf tiruan
Radial Basis Function (RBF) dengan menggunakan input asli (tanpa reduksi PCA).
b. Untuk mengetahui tingkat akurasi klasifikasi risiko kredit berbasis jaringan syaraf tiruan
Radial Basis Function (RBF) dengan menggunakan input hasil reduksi PCA.
c. Untuk mengetahui perbandingan tingkat akurasi dan waktu training jaringan syaraf
tiruan Radial Basis Function (RBF) pada klasifikasi risiko kredit dengan menggunakan
input asli dan input hasil reduksi PCA.
Fifi Maria Ulfah
PENDAHULUAN o Tujuan dan Manfaat Penelitian
Rabu, 6 Juli 2011 5/22Tesis
Tujuan Penelitian
a. Dapat memberikan referensi tentang salah satu metode klasifikasi penilaian risiko
kredit berbasis jaringan syaraf tiruan.
b. Sebagai bahan pembanding bagi peneliti lanjutan yang tertarik mengembangkan atau
membandingkannya dengan algoritma lainnya.
c. Kontribusi penelitian ini adalah memberikan metode baru pada lembaga pembiayaan
atau perbankan untuk memprediksi risiko kredit.
Manfaat Penelitian
o Jaringan RBF
Arsitektur Jaringan RBF
Input Layer Hidden Layer Output Layer
��
����
����
⋮
����
����
����
⋮ ⋮
ΣΣ
ΣΣ
ΣΣ
Fifi Maria Ulfah
KAJIAN PUSTAKA
Rabu, 6 Juli 2011 6/22Tesis
Jaringan Syaraf Tiruan Radial Basis Function
� ∈ �
�� � ����, ���, ⋯ , ���� ��
Output jaringan RBF dengan �hidden neuron untuk suatu vektor input � ∈ � diberikan dengan persamaan berikut:
��� � � ����������
����� � ����, ���, ⋯ , ����� adalah bobot yang menghubungkan hidden neuron ke-i
dengan neuron output, dan ����� adalah output hidden neuron ke-i dengan
persamaan Gaussian sebagai berikut:
�� � � � �� , �� , � � exp " � " ��2��
�� � ����, ���, ⋯ , ����� adalah pusat hidden neuron ke-i dan �� adalah lebar.
o Jaringan RBF
Fifi Maria Ulfah
KAJIAN PUSTAKA
Rabu, 6 Juli 2011 7/22Tesis
�� , $�� �� � ����, ���, ⋯ , �����∈ � $ � �$ , $ ,⋯ , $ ��∈ ��
Untuk N sampel berbeda (�� , $�� dengan �� � ����, ���, ⋯ , �����∈ � dan
$� � �$��, $��, ⋯ , $����∈ ��, RBF dengan � hidden neuron dapat dimodelkan secara
matematis.
����� �% � &%,' � 1,⋯ , ��
���
RBF standard dengan � hidden neuron dapat mengapproksimasi N sampel dengan
error rata-rata bernilai nol, ∑ &% " $% � 0��%�� , yaitu terdapat �� , �� dan ��sedemikian sehingga:
∑ �� exp " +,-./0
�1/� $%,' � 1,⋯ ,����� (1)
o Jaringan RBF
Fifi Maria Ulfah
KAJIAN PUSTAKA
Rabu, 6 Juli 2011 8/22Tesis
Persamaan 1 dapat dituliskan secara lengkap:
2� � 3
Dengan:
2 �� , ⋯ , ��� , ��, ⋯ , ��� , ��, ⋯ , ��� �� ��, ��, �� ⋯ � ��� , ��� , ��
⋮ ⋯ ⋮� ��, ��, �� ⋯ � ��� , ��� , �� �+��
� ����⋮���� ��+�
3 �$��⋮$�� �+�
H disebut matriks output pada lapisan tersembunyi, kolom ke-i dari H adalah output
dari � hidden neuron ke-i yang bersesuaian dengan input ��, ��, ⋯ , ��.
o Jaringan RBF
Fifi Maria Ulfah
KAJIAN PUSTAKA
Rabu, 6 Juli 2011 9/22Tesis
Analisis Komponen Utama (Principal Component Analysis)
Metode Principal Component Analysis (PCA) merupakan suatu metode untuk
mengambil ciri penting dari sekumpulan data set dengan mereduksi data tersebut
menjadi data yang tidak saling berkorelasi. Sasaran PCA adalah menjelaskannya
suatu kumpulan data dengan variabel yang lebih kecil, ciri khusus dari kumpulan
data tersebut dapat digambarkan dengan lebih baik [Jahne,(1993)].
o Principal Component Analysis
Fifi Maria Ulfah
KAJIAN PUSTAKA
Rabu, 6 Juli 2011 10/22Tesis
� Diberikan 4 adalah data input berukuran 5× 7 dimana 5 adalah banyaknya variabel data dan 7 banyaknya dataset
kredit
� Menentukan Nilai rata-rata (mean) dari 4, 48 � ∑ 9/:/;<�
� Menentukan Matriks Kovariansi
=> � ��??�
? � 4 " 48� Menentukan nilai eigen dan vektor eigen dari =>. Nilai eigen yang diperoleh lalu diurutkan berdasarkan
nilai terbesar sedemikian @� > @� > @� > ⋯ > @ � Melakukan kombinasi linear berdasarkan Eigenvalue terbesar sedemikian sehingga: �B " �̅ � �D�E�E7$EFG <
I
���
� Melakukan Transformasi Linear ℜ� → ℜID�D�⋯DI
�E��E��⋯EI�
� " �̅ � L� � " �̅
KAJIAN PUSTAKA o Risiko Kredit
Penilaian yang umum dan harus dilakukan oleh bank untuk mendapatkan nasabah yang
benar-benar layak untuk diberikan kredit, dilakukan dengan analisis 5C (Kasmir, 2000).
Character 1
2 Capacity
3 Capital
4 Collateral
5 Condition
Fifi Maria Ulfah Rabu, 6 Juli 2011 11/22Tesis
o Tahapan Penelitian
1. Identifikasi Permasalahan
2. Pre-processing Data
3. Implementasi Metode RBF
4. Analisa dan Pembahasan
Fifi Maria Ulfah
METODE PENELITIAN
Rabu, 6 Juli 2011 12/22Tesis
o Diagram Proses Penelitian
Identifikasi Permasalahan dan Kajian Literatur
Pre-processing Data (Transformasi attribute
kategori menjadi nilai numerik, Reduksi
dimensi input dengan PCA
Implementasi pada JST RBF
Simulasi dengan software Matlab 7.8
Analisa dan Pembahasan
Fifi Maria Ulfah
METODE PENELITIAN
Rabu, 6 Juli 2011 13/22Tesis
o Processing Data
Dataset Kredit
Variabel data set
berupa data kategori
Variabel data set
berupa data kategori
Transformasi data
kategori menjadi numerik
Transformasi data
kategori menjadi numerik
A1=A11 A11= 4
A2= 6 A12= A121
A3= A34 A13= 67
A4= A43 A14= A143
A5= 1169 A15= A152
A6= A65 A16= 2
A7= A75 A17= A173
A8= 4 A18= 1
A9= A93 A19= A192
A10= A101 A20= A201
A1=1 A11= 4
A2= 6 A12= 1
A3= 4 A13= 67
A4= 3 A14= 3
A5= 12 A15= 2
A6= 5 A16= 2
A7= 5 A17= 3
A8= 4 A18= 1
A9= 3 A19= 2
A10= 1 A20= 1
A1= status of existing checking account
A2= duration in month
A3= credit history
A4= purpose
A5= credit amount
dst
KategoriKategori numeriknumerik
Fifi Maria Ulfah
HASIL PENELITIAN DAN PEMBAHASAN
Rabu, 6 Juli 2011 14/22Tesis
o Implementasi Pada Jaringan Syaraf Tiruan RBF
Algoritma pada jaringan RBF
Fifi Maria Ulfah
HASIL PENELITIAN DAN PEMBAHASAN
Rabu, 6 Juli 2011 15/22Tesis
Diberikan suatu himpunan data pelatihan ℵ � �� , $� |�� ∈ � , $� ∈ ��O � ⋯ , dengan � menyatakan banyaknya neuron tersembunyi.
Langkah pada Proses Training:
Inisialisasi Center µ dan Lebar σ
Hitung Nilai Fungsi Gauss φ�µ,σ, ��Nyatakan φ�µ,σ, �� ke dalam matriks H
Hitung Bobot β menggunakan persamaan
β � H-�TH-� � HRH -�H
1
2
3
4
o Hasil Klasifikasi Tanpa Reduksi Dimensi Input
No
Hidden
Neuron
Waktu Training
(detik) Akurasi (%)
1 30 5,3508 73,6667
2 35 5,4912 73,6667
3 40 5,7408 74,0000
4 45 6,8640 74,0000
5 50 11,7937 75,6667
6 55 6,7080 73,3333
7 60 7,8313 72,6667
Tabel : Performansi RBF berdasarkan Jumlah
Hidden Neuron yang digunakan
Grafik Performansi RBF berdasarkan Jumlah
Hidden Neuron yang digunakan
Fifi Maria Ulfah
HASIL PENELITIAN DAN PEMBAHASAN
Rabu, 6 Juli 2011 16/22Tesis
o Hasil Klasifikasi Menggunakan Input Hasil Reduksi
Dimensi InputJumlah Hidden Neuron
10 15 20 25 30 35 40 45 50
10 72,33% 75,00% 75,00% 73,67% 74,33% 74,67% 73,33% 77,33% 75,00%
12 73,33% 73,33% 76,67% 73,33% 73,33% 73,33% 73,33% 73,33% 73,33%
15 73,33% 73,33% 74,33% 73,33% 73,33% 73,33% 73,33% 73,33% 73,33%
17 73,33% 75,33% 76,00% 73,33% 73,33% 73,33% 73,33% 73,33% 73,33%
20 (Asli) 73,33% 73,67% 73,33% 72,67% 73,67% 73,67% 74,00% 74,00% 75,67%
Perbandingan Akurasi hasil klasifikasi RBF antara input asli dengan hasil reduksi PCA
Fifi Maria Ulfah
HASIL PENELITIAN DAN PEMBAHASAN
Rabu, 6 Juli 2011 18/22Tesis
Dimensi
Input
Jumlah Hidden Neuron
10 15 20 25 30 35 40 45 50
10 1,7004 1,8408 1,9344 2,0748 2,4024 2,4336 2,8080 2,7768 2,9796
12 1,6692 1,7316 1,8720 2,0124 2,0436 2,2932 2,3868 2,6364 2,9016
15 1,6068 1,7160 1,8876 1,9188 2,0748 2,2308 2,3244 2,4960 2,5896
17 1,6224 1,7316 1,7940 1,9812 2,1060 2,2620 2,3712 2,4648 2,6676
20 (Asli) 2,6988 3,1200 3,6816 4,8516 5,3508 5,4912 5,7408 6,8640 11,7937
Perbandingan Waktu Training antara Input asli dengan hasil reduksi PCA
o Hasil Klasifikasi Menggunakan Input Hasil Reduksi
Fifi Maria Ulfah
HASIL PENELITIAN DAN PEMBAHASAN
Rabu, 6 Juli 2011 19/22Tesis
o Kesimpulan
Jaringan syaraf tiruan RBF dan metode PCA mampu memprediksi risiko pemberian
kredit.
Akurasi klasifikasi jaringan RBF untuk memprediksi risiko pemberian kredit pada
penelitian ini dengan menggunakan input asli (tanpa reduksi PCA) mencapai 75,67%
dan waktu training selama 11,7937 detik. Akurasi klasifikasi pada jaringan RBF
menggunakan input hasil reduksi PCA untuk memprediksi risiko pemberian kredit
mencapai 77,33% dan waktu training selama 2,7768 detik. Hal ini menunjukkan
adanya peningkatan performansi akurasi jaringan RBF dalam memprediksi risiko
pemberian kredit sebesar 1,67% dan reduksi waktu training selama 9,0169 detik
terhadap penggunaan input asli.
Penggunaan hidden neuron berbanding lurus dengan waktu training namun tidak
berlaku pada tingkat akurasinya, sehingga penentuan jumlah hidden neuron yang
tepat turut menentukan performansi jaringan.
Fifi Maria Ulfah
PENUTUP
Rabu, 6 Juli 2011 20/22Tesis
Kesimpulan
1
2
3
o Saran
Untuk pengembangan penelitian ini lebih lanjut bisa dilakukan yaitu dengan membuat
atau menciptakan suatu program yang user friendly, untuk pemanfaatannya lebih
mudah digunakan, khususnya oleh pihak perbankan.
Penelitian model jaringan RBF masih mungkin untuk dikaji dan dikembangkan, atau
bisa juga dengan mengaplikasikannya pada studi kasus yang lain.
PENUTUP
Rabu, 6 Juli 2011 21/22TesisFifi Maria Ulfah
Saran
1
2
• Anton, H. (1987). Elementary Linear Algebra, John Wiley Sons, INC.
• Dhaneswara, G., Moertini, V. W. (2004), “Jaringan Syaraf Tiruan Propagasi Balik untuk Klasifikasi Data”, Integral, FMIPA Unpar, vol.9 no.3,
Nov. 2004
• Du, K.L. dan Swamy, M.N.S., (2006), Neural Networks in a Softcomputing Framework, Springer-Verlag, London, Inggris
• Fausett, L. (1994), Fundamental of Neural Network architecture, Algorithms, and Applications, Prentice-Hall, USA.
• German Credit Dataset, Database http://archive.ics.edu/ml/machine-learning-databases/satlog/german/ diakses pada tanggal 16
Desember 2010
• Huang, G. B. dan Siew, C.-K.(2004). “Extreme Learning Machine: Theory and Applications”, Neurocomputing (70): 489-501.
• Jahne, B. (1993). Digital Image Processing - Concepts, Algorithms and Scientific Applications, Springer-Verlag.
• James, B. (1985). Statistical Decision Theory and Bayesian Analysis,Springer Series in Statistics(2nd edition), Springer Series in Statistics
2nd edition.
• Kamaruddin, M. (2010), Peningkatan Performansi Pengklasifikasian Pola Sidik Jari Berbasis Jaringan ELM-RBF dengan Kombinasi FFT dan
PCA, Tesis- Magister Jurusan Matematika, ITS Surabaya.
• Khashman, A., (2010), “Neural network for credit risk evaluation: Investigation of different neural models and learning schemes”, Expert
system with applications 37 (2010) 6233-6239.
• Kusumadewi. S., Hartati, S., Harjoko, A., dan Wardoyo, R., (2006), Fuzzy Multi-Attribute Decision Making (Fuzzy MADM), Graha Ilmu,
Yogyakarta.
• Purwodarminto, WJS. (2003), Kamus Umum Bahasa Indonesia, Lembaga Pusat Bahasa Departemen Pendidikan Nasional, balai Pustaka
Jakarta.
• Sanchez, M.S. dan Swierenga, H. dan Sarabia, L.A. dan Derks, E. dan Buydens, L. (1996), “Performance of Multi Layer FeedForward and
Radial Base Function Neural Networks in Classification and Modelling”, Journal of Chemometrics and Intelligent Laboratory System 33,
101-119.
• Sarimveis, H. dan Doganis, P. dan Alexandridis, A. (2006), “A Classification Technique Based on Radial Basis Function Neural Networks”,
Journal of Advance in Engineering Software 37, 218-221.
• Scholkopf, B., Christopher, B. C. J. dan Alexander, S. J. (1999). Advances in Kernel Methods: Support Vector Learning, MIT Press.
• Sharma, A. dan Paliwal, K. K. (2007), “Fast Principal Component Analysis Using Fixed-point Algorithm, Pattern Recognition Letters” (28):
1151-1155
• Shelns, J. (2009), A Tutorial on Principles Component Analysis, http:// www.csnet.otago.ac.nz diakses tanggal 22 Desember 2010
• Simon, H. (1999). Neural networks: A comprehensive foundation, New Jersey:Prentice Hall.
• Sutikno, T., Pujianta, A., Supanti, Y. T., “Prediksi Risiko Kredit dengan Jaringan Syaraf Tiruan Backpropagation” Seminar Nasional Aplikasi
Teknologi Informasi 2007 (SNATI 2007) ISSN: 1907-5022 Yogyakarta, 16 Juni 2007
• Yeung, D. S., Cloete, I. dan Shi, D. (2009), “Sensitivity Analysis for Neural Networks”, Springer
Fifi Maria Ulfah Rabu, 6 Juli 2011 22/22Tesis
DAFTAR PUSTAKA