Hebb Rule Training Algorithms
description
Transcript of Hebb Rule Training Algorithms
Hebb RuleHebb RuleTraining AlgorithmsTraining Algorithms
Algoritma PembelajaranAlgoritma Pembelajaran
Algoritma PelatihanAlgoritma Pelatihan
PengertianPengertian
Training/pelatihan Training/pelatihan langkah langkah penting.penting.
Prinsip:Prinsip: Training Training menentukan bobot koneksi menentukan bobot koneksi
Algoritma training Algoritma training memodifikasi memodifikasi bobot koneksi.bobot koneksi.
Jaringan sama, training bisa berbeda.Jaringan sama, training bisa berbeda.
Jenis pelatihanJenis pelatihan
Unsupervised:Unsupervised: Input diberikan, output tidak ditentukan.Input diberikan, output tidak ditentukan.
Supervised:Supervised: Input diberikan, output ditentukan.Input diberikan, output ditentukan.
UnsupervisedUnsupervised
Cocok untuk:Cocok untuk: KlasifikasiKlasifikasi Data miningData mining
KlasifikasiKlasifikasi
Pola data diberikan Pola data diberikan diolah oleh JST diolah oleh JST salah satu neuron pada output salah satu neuron pada output layer aktif.layer aktif.
Pola tersebut diklasifikasikan kepada Pola tersebut diklasifikasikan kepada neuron yang aktif tsb.neuron yang aktif tsb.
Contoh klasifikasiContoh klasifikasi
Jaringan KohonenJaringan Kohonen
Input: dot/pixel pada gambar tulisan Input: dot/pixel pada gambar tulisan tangan.tangan.
Output: 26 neuron mewakili alpabet.Output: 26 neuron mewakili alpabet. Jaringan Kohonen meng-klasifikasi Jaringan Kohonen meng-klasifikasi
input menjadi 26 klas.input menjadi 26 klas.
Data MiningData Mining
Data sangat banyak Data sangat banyak mana mana informasi yg penting ?informasi yg penting ?
JST mengelompokan JST mengelompokan kita kita mengambil informasi penting. mengambil informasi penting.
SupervisedSupervised
Output ditentukan sesuai harapan Output ditentukan sesuai harapan pelatih.pelatih.
Perbedaan output perhitungan dgn Perbedaan output perhitungan dgn output harapan output harapan parameter parameter modifikasi.modifikasi.
Contoh supervisedContoh supervised
BackpropagationBackpropagation
Simulated annealingSimulated annealing
Genetic algorithmGenetic algorithm
Error CalculationError Calculation
Error digunakan untuk mengukur Error digunakan untuk mengukur seberapa tepat output yg seberapa tepat output yg diharapkan.diharapkan.
Algoritma pelatihan berhenti bila:Algoritma pelatihan berhenti bila: Error < nilai yg ditentukanError < nilai yg ditentukan Looping (epoch) mencapai nilai yg Looping (epoch) mencapai nilai yg
ditentukan.ditentukan.
Training AlgorithmTraining Algorithm
Salah satu algoritma pelatihan yang Salah satu algoritma pelatihan yang terkenal adalah terkenal adalah Hebb’s Rule. Hebb’s Rule.
Dikembangkan oleh Dikembangkan oleh Donald Hebb Donald Hebb untuk untuk jenis pelatihanjenis pelatihan supervised supervised..
Hebbs rulHebbs rule ditulis secara matematise ditulis secara matematis: :
adalahadalah learning rate learning rate aaii dandan a ajj adalahadalah a aktifasi untuk setiap neuronktifasi untuk setiap neuron
jiij aaW
Heb AlgorithmsHeb Algorithms
Step0Step0Inisialisasi semua bobot:Inisialisasi semua bobot:wwii = 0 = 0 (i = 1 to n)(i = 1 to n)
Step1Step1Untuk setiap pasangan input-target (s:t), Untuk setiap pasangan input-target (s:t), do Steps 2-4:do Steps 2-4:
Step2Step2 Isi input dgn data pelatihan:Isi input dgn data pelatihan:xxii = s = sii (i = 1 to n)(i = 1 to n)
Step3Step3 Isi output dgn data target:Isi output dgn data target:y = ty = t
Step4Step4 Modifikasi bobot:Modifikasi bobot:wwii(new) = w(new) = wii(old) + x(old) + xiiyy (i=1 to (i=1 to
n)n)Modifikasi bias:Modifikasi bias:
b(new) = b(old) + yb(new) = b(old) + y
PenyederhanaanPenyederhanaan
WW(new) = (new) = WW(old) + (old) + WW WW = = XYXY
ww11 = x = x11tt (t=target)(t=target)
ww22 = x = x22tt
Contoh AplikasiContoh Aplikasi
1
x1
x2
y
b
w1
w2
u
uuf
0
1)(
bwxwxu 2211
Gerbang ANDGerbang AND
INPUTINPUT TARGETTARGET
xx11 xx22 11 tt
11 11 11 11
11 00 11 00
00 11 11 00
00 00 11 00
Langkah PerhitunganLangkah Perhitungan
INPUTINPUT TARGETTARGET Weight Weight changeschanges
WeightsWeights
xx11 xx22 11 tt ww11 ww22 bb ww11 ww22 bb
00 00 00
11 11 11 11 11 11 11 11 11 11
11 00 11 00 00 00 00 11 11 11
00 11 11 00 00 00 00 11 11 11
00 00 11 00 00 00 00 11 11 11
Hasil AkhirHasil Akhir
Setelah pelatihan selesai, diperoleh:Setelah pelatihan selesai, diperoleh: w1 = 1w1 = 1 w2 = 1w2 = 1 b = 1b = 1
Dengan hasil yg diperoleh tersebut, Dengan hasil yg diperoleh tersebut, kemudian diadakan pengujian atau kemudian diadakan pengujian atau simulasisimulasi
Pengujian / simulasiPengujian / simulasi
Pengujian atau simulasi adalah Pengujian atau simulasi adalah memasukkan data input baru pada memasukkan data input baru pada bobot koneksi hasil pelatihan.bobot koneksi hasil pelatihan.
Kalau output sesuai dengan target, Kalau output sesuai dengan target, maka pelatihannya disebut sukses.maka pelatihannya disebut sukses.
Contoh simulasiContoh simulasi
Dari hasil pelatihan diperoleh:Dari hasil pelatihan diperoleh: w1 = 1w1 = 1 w2 = 1w2 = 1 b = 1b = 1
Data baru misalnya x1 = 1 dan x2 = Data baru misalnya x1 = 1 dan x2 = 0 maka: 0 maka:
U = (1)(1)+(0)(1)+1U = (1)(1)+(0)(1)+1
U = 2U = 2
Agar hasilnya sesuai dgn target maka Agar hasilnya sesuai dgn target maka nilai Ɵ harus dipilih secara cermat. nilai Ɵ harus dipilih secara cermat. Dalam kasus ini nilai Ɵ misalnya 3.Dalam kasus ini nilai Ɵ misalnya 3.
Maka f(u) = f(2) = 0Maka f(u) = f(2) = 0
bwxwxu 2211
Gerbang ORGerbang OR
INPUTINPUT TARGETTARGET
xx11 xx22 11 tt
11 11 11 11
11 00 11 11
00 11 11 11
00 00 11 00
Langkah PerhitunganLangkah Perhitungan
INPUTINPUT TARGETTARGET Weight Weight changeschanges
WeightsWeights
xx11 xx22 11 tt ww11 ww22 bb ww11 ww22 bb
yy xx11yy xx22yy yy 00 00 00
11 11 11 11
11 00 11 11
00 11 11 11
00 00 11 00
Diskusi kelompokDiskusi kelompok
Dgn Heb rule, hitunglah bobot Dgn Heb rule, hitunglah bobot koneksi dan nilai bias-nya.koneksi dan nilai bias-nya.
Tentukan nilai Ɵ agar jaringan Tentukan nilai Ɵ agar jaringan berfungsi sbg gerbang OR.berfungsi sbg gerbang OR.