Jst Metode Backpropagation
Transcript of Jst Metode Backpropagation
-
7/26/2019 Jst Metode Backpropagation
1/47
JARINGAN SARAF TIRUANBACKPROPAGATION
OLEH
Dr. ANAK AGUNG NGURAH
GUNAWAN,MT
JURUSAN FISIKA
UNIVERSITAS UDAYANA
2015
-
7/26/2019 Jst Metode Backpropagation
2/47
Arsitektur JST Backpropagation
Contoh Arsitekstur JST Backpropagation dengan:n unit masukkan
p unit layer tersembunyi
m unit masukkan
1
Y1
Y2
Ym
Z1
Z2
Zp
1
1
2
n
!1"!2"
!p0
!11
!p1!21
!12
!m2
!22
!1n
!pn
!2m
#1"#2"
#m"
#11
#m1
#21
#12
#m2
#22
#1p
#mp
#2p
$ayer %asukkan $ayer $ayer &eluaran
-
7/26/2019 Jst Metode Backpropagation
3/47
'ungsi Akti(asi
'ungsi akti(asi yang digunakan pada backpropagationyaitu sigmoid biner dan sigmoid bipolar
-
7/26/2019 Jst Metode Backpropagation
4/47
'ungsi Akti(asi
-
7/26/2019 Jst Metode Backpropagation
5/47
Algoritma )elatihanBackpropagation
Algoritma )elatihan Backpropagation dengan satu layertersembunyi dan dengan menggunakan (ungsi akti*asisigmoid biner
L!"#$ 0 % +nisialisasi semua bobot dengan bilanganacak kecil,
L!"#$ 1 %Jika kondisi penghentian belum terpenuhi-lakukan langkah 2 sampai dengan .,
L!"#$ 2% /ntuk setiap pasang data pelatihan-
lakukan langkah 0 sampai dengan .
1
Y1
Y2
Y
m
Z1
Z2
Zp
1
1
2
n
!1"!2"!p
0
!11
!p1!21
!12
!m
2
!22
!1n
!pn
!2
m
#1"#2"#m"
#11
#m1
#2
1
#12
#m2
#22
#1p
#mp
#2p
-
7/26/2019 Jst Metode Backpropagation
6/47
Algoritma )elatihanBackpropagation
'ase +: )ropagasi %au
L!"#$ &
Tiap unit masukkan menerima sinyal dan meneruskan ke unit tersembunyi
L!"#$ '
itung semua keluaran di unit tersembunyi 3Z14:
1
Y1
Y2
Y
m
Z1
Z2
Zp
1
1
2
n
!1"!2"!p
0
!11
!p1!21
!12
!m
2
!22
!1n
!pn
!2
m
#1
"
#2"#m"
#11
#m1#2
1
#12
#m2#22
#1p
#mp
#2p
-
7/26/2019 Jst Metode Backpropagation
7/47
Algoritma )elatihanBackpropagation
L!"#$ 5
itung semua aringan di unit keluaran 3yk4
1
Y1
Y2
Y
m
Z1
Z2
Zp
1
1
2
n
!1"!2"!p
0!11
!p1!21
!12
!m
2
!22
!1n
!pn
!2
m
#1
"
#2"#m"
#11
#m1#2
1#12
#m2#22
#1p
#mp
#2p
-
7/26/2019 Jst Metode Backpropagation
8/47
Algoritma )elatihanBackpropagation
'ase ++ : )ropagasi %au
L!"#$ (
itung (actor unit keluaran berdasarkan kesalahan setiap unit keluaran yk3k51-2-06,4
#)*+#-# /*-!+#) *+#-# -#*1-#
kmeruapakan unit kesalahan yang akan dipakai dalam perubahan bobot layer diba8ahnya 3lankah
94
itung suku perubahan bobot #kdengan lau perubahan
34#) 6 #7 8 #)1,2,&,9,: 8 )0,1,2,9,;
1
Y1
Y2
Y
m
Z1
Z2
Zp
1
1
2
n
!1"!2"!p
0!11
!p1!21
!12
!m
2
!22
!1n
!pn
!2
m
#1
"
#2"#m"
#11
#m1#2
1#12
#m2#22
#1p
#mp
#2p
-
7/26/2019 Jst Metode Backpropagation
9/47
Algoritma )elatihan Backpropagation
L!"#$ ?T> S>A$
Buat aringan sara( tiruan untuk (ungsi logika>@ 2 input sesuai tabel berikut,
1 2 Tr"+
" " "" 1 1
1 " 1
1 1 "
-
7/26/2019 Jst Metode Backpropagation
14/47
Arsitektur aringan 3gambardiba8ah4 di set sebagai berikut
1 input layer- dengan 2 neuron 3 1 dan 241 hidden layer dengan = neuron 3;1-;2-;0
dan ;=4
unakan (ungsi akti*asi sigmoid 5
1 output layer dengan 1 neuron
unakan (ungsi akti*asi sigmoid
-
7/26/2019 Jst Metode Backpropagation
15/47
Arsitektot (t backpropagation(ungsi logika >@
-
7/26/2019 Jst Metode Backpropagation
16/47
Ja8ab
+nisialisasi bobot?ilaiDnilai bobot dan bias a8al ditentukan
sebagai berikut:
Bobot a8al input ke hidden layer:
!115"-1 *125"-2 *105"-0 *1=5"-=
!125"-1 *225"-2 *205"-0 *2=5"-=
Bobot a8al bias ke hidden layer:
!"15"-1 *"25"-2 *"05"-0 *"=5"-=
-
7/26/2019 Jst Metode Backpropagation
17/47
Bobot a8al hidden layar ke output layer:#15"-1 825"-2 805"-0 8=5"-=
Bobot a8al bias ke output layer:
#"5"-E/ntuk kebutuhan pelatihan aringan
ditentukan pula:
$earning rate3 4 5 1
%aksimum epoch 5 1E""Target eror5"-"2
-
7/26/2019 Jst Metode Backpropagation
18/47
)elatihan aringan:epoch ke 1:
Fata ke 1 31 5 "- 25"- target T5"4Tahap perambatan mau 3(or8ard
propagation4
>perasi pada hidden layer:
Zin15 *"1G *11H1G *21H25"-1G"-1H"G"-1H"5"-1
Zin25 *"2G *12H1G *22H2
5"-2G"-2H"G"-2H"5"-2Zin05 *"0G *10H1G *20H2
5"-0G"-0H"G"-0H"5"-0
Zin15 *"=G *1=H1G *2=H2
5"-=G"-=H"G"-=H"5"-=
-
7/26/2019 Jst Metode Backpropagation
19/47
'ungsi akti*asi pada hiden layer:
-
7/26/2019 Jst Metode Backpropagation
20/47
>perasi pada output layer:
Yin 5 8"G81H;1G82H;2G80H;0G8=H=5
"-EG"-1H"-E2E"G"-2H"-E=I.G"-0H"-E9==G"-=H"-EI.9
5 1-"9=0
'ungsi akti*asi pada output layer:
-
7/26/2019 Jst Metode Backpropagation
21/47
Check error 3iterasi berhenti bila error K"-"1
-
7/26/2019 Jst Metode Backpropagation
22/47
Tahap perambatan balik3backpropagation4
-
7/26/2019 Jst Metode Backpropagation
23/47
-
7/26/2019 Jst Metode Backpropagation
24/47
-
7/26/2019 Jst Metode Backpropagation
25/47
-
7/26/2019 Jst Metode Backpropagation
26/47
Tahap perubahan bobot danbias
-
7/26/2019 Jst Metode Backpropagation
27/47
-
7/26/2019 Jst Metode Backpropagation
28/47
/ntuk data kedua dilakukan operasi yangsama dengan data pertama- hanya saa
nilaiDnilai bobot dan bias a8al yangdigunakan adalah nilaiDniulai bobot danbias baru dari hasil perhitungan datapertama,
Femikian seterusnya sampai data keempat3 1 epoch4, )roses ini diteruskan hinggamaksimum epoch ke 1E"" atau kuadraterorr K "-"2 3target erorr4 baru berhenti,
-
7/26/2019 Jst Metode Backpropagation
29/47
%isalnya setelah akhir iterasi diperolehnilai bobot dan bias akhir berikut,
-
7/26/2019 Jst Metode Backpropagation
30/47
-
7/26/2019 Jst Metode Backpropagation
31/47
Sekarang kita ui aringan tersebut untuksetiap data, )enguian terhadap data keD1315" 25" target T5"4
-
7/26/2019 Jst Metode Backpropagation
32/47
-
7/26/2019 Jst Metode Backpropagation
33/47
-
7/26/2019 Jst Metode Backpropagation
34/47
-
7/26/2019 Jst Metode Backpropagation
35/47
-
7/26/2019 Jst Metode Backpropagation
36/47
-
7/26/2019 Jst Metode Backpropagation
37/47
-
7/26/2019 Jst Metode Backpropagation
38/47
-
7/26/2019 Jst Metode Backpropagation
39/47
-
7/26/2019 Jst Metode Backpropagation
40/47
-
7/26/2019 Jst Metode Backpropagation
41/47
-
7/26/2019 Jst Metode Backpropagation
42/47
-
7/26/2019 Jst Metode Backpropagation
43/47
)enguian terhadap data keD=3151 251 target T5"4
-
7/26/2019 Jst Metode Backpropagation
44/47
-
7/26/2019 Jst Metode Backpropagation
45/47
-
7/26/2019 Jst Metode Backpropagation
46/47
-
7/26/2019 Jst Metode Backpropagation
47/47