Implementasi Jaringan Syaraf Tiruan Backpropagation dan … · metode backpropagation adalah eror...
Transcript of Implementasi Jaringan Syaraf Tiruan Backpropagation dan … · metode backpropagation adalah eror...
Implementasi Jaringan Syaraf Tiruan Backpropagation danSteepest Descent untuk Prediksi Data Time Series
Oleh: ABD. ROHIM (1206 100 058)
Dosen Pembimbing: Prof. Dr. M. Isa Irawan, MT
Jurusan MatematikaFakultas Matematika dan Ilmu Pengetahuan Alam
Institut Teknologi Sepuluh NopemberSurabaya
2011
Latar Belakang
Jaringan Syaraf TiruanBackpropagation dan Steepest Descent
Perkembanganteknologi informasi
Prediksi data time series (harga
penutupan saham)
Kebutuhaninformasi secaracepat dan akurat
1. Bagaimana mengimplementasikan metode backpropagation untuk prediksidata time series
2. Bagaimana mengimplementasikan metode steepest descent untuk prediksidata time series
3. Bagaimana perbandingan hasil prediksi data time series antara metodebackpropagation dengan steepest descent
Rumusan Masalah
1. Data yang digunakan adalah data harian harga penutupan saham padaperiode tanggal 4 Januari 2010 sampai tanggal 30 Desember 2010
2. Analisis yang dilakukan terhadap data time series bersifat teknikal. Artinya,identifikasi terhadap faktor-faktor fundamental seperti: faktor ekonomi,politik, reaksi investor, dan lain-lain, diabaikan
3. Untuk mengukur error dalam prediksi data time series digunakan MeanSquared Error (MSE)
4. Sistem dibuat dengan menggunakan bahasa pemrograman Java NetbeansIDE 6.8 beserta beberapa komponen tambahannya
Batasan Masalah
1. Mengimplementasikan metode backpropagation untuk prediksi data timeseries
2. Bagaimana mengimplementasikan metode steepest descent untuk prediksidata time series
3. Membandingan hasil prediksi data time series antara metodebackpropagation dengan steepest descent
Tujuan
1. Memberikan informasi/panduan yang praktis untuk sistem prediksi data
time series menggunakan metode backpropagation dan steepest descent
2. Dapat dijadikan sebagai acuan dalam pemilihan metode prediksi data time
series untuk pengembangan penelitian selanjutnya.
Manfaat
Time series adalah himpunan nilai-nilai hasil pengamatan X(t) yang diamati
berdasar periode waktu dan disusun untuk melihat pengaruh perubahan
dalam rentang waktu tertentu [7].
Prediksi data time series adalah pendugaan data yang akan datang yang
dilakukan berdasarkan nilai data masa lalu dari suatu variabel [5].
Prediksi data time series dapat diterapkan bila terdapat tiga kondisi berikut
[5]:
• Tersedia informasi tentang masa lalu.
• Informasi dapat dikuantitatifkan dalam bentuk data numerik.
• Dapat diasumsikan bahwa beberapa aspek pola masa lalu akan terus
berlanjut di masa mendatang
Time Series
Jaringan Syaraf Tiruan
Jaringan syaraf tiruan (JST) merupakan suatu model matematis yang berupa
sistem pengolah informasi yang mengimitasi jaringan syaraf biologis.
Jaringan syaraf biologis yang ditunjukkan pada Gambar 2.1 yang merupakan
kumpulan dari sel-sel syaraf (neuron) yang mempunyai tugas mengolah
informasi. Komponen-komponen utama dari sebuah neuron sebagai berikut
[7]:
a. Dendrit yang bertugas untuk menerima informasi
b. Badan sel (soma), berfungsi sebagai tempat pengolahan informasi
c. Akson (neurit), mengirimkan impuls-impuls ke sel syaraf lainnya.
Gambar 2.1 Sel syaraf biologis
Arsitektur JST
Gambar 2.2 menunjukkan arsitektur dasar dari JST satu neuron yang
menganalogikan sel syaraf biologis, dan model arsitektur dasar dari JST
tersebut dapat diamsusikan sebagai berikut:
1. Masukan sebagai input yang berfungsi sebagai penerima sinyal.
2. Bobot koneksi untuk menyimpan informasi.
3. Bias yang berfungsi mengatur daerah nilai ambang.
4. Elemen pemroses (J) dan fungsi aktifasi untuk memroses informasi.
5. Keluaran sebagai output yang akan menyampaikan hasil pemrosesan
informasi ke sel berikutnya.
Gambar 2.2 Analogi sel biologis dengan satu neuron tiruan
Metode Backpropagation
Secara garis besar, training jaringan dengan metode backpropagation
meliputi 3 (tiga) tahap [2]:
1. Tahap maju (feedforward)
2. Tahap perhitungan eror propagasi-balik (backpropagation of error)
3. Tahap pembaharuan bobot dan bias (adjustment of the weights and
biases)
Fungsi aktivasi
Fungsi aktivasi digunakan adalah fungsi sigmoid biner yang mempunyai
interval [0 , 1] dan difenisikan sebagai berikut [2]:
dengan:
Metode Steepest Descent
Metode Steepest Descent dikenal sebagai metode gradient dan merupakan
teknik meminimalisasi untuk fungsi yang mempunyai ruang input
multidimensional [3].
Algoritma steepest descent diterapkan dalam JST multilayer feedforward
dengan 3 layer, yaitu input layer, hidden layer, dan output layer dan
algoritma yang dipilih untuk implementasinya adalah algoritma
backpropagation [3].
Selama proses training jaringan, algoritma steepest descent
diimplementasikan dalam tahap perhitungan eror propagasi-balik
(backpropagation of error), dan tahap pembaharuan bobot dan bias
(adjustment of the weights and biases).
Media yang Digunakan
Spesifikasi Perangkat Keras (Hardware)
1. Prosesor Intel(R) Core(TM)2 Duo T6600 2,20 GHz
2. Memory 2 GB DDR2
3. Harddisk ST9320423AS ATA 320 GB
Spesifikasi Perangkat Lunak (Software)
1. Sistem operasi Microsoft Windows 7 Ultimate
2. Bahasa pemrograman menggunakan Java Netbeans IDE 6.8 beserta
beberapa komponen tambahannya
Proses Prediksi Data
1. Pengumpulan Data
Data yang digunakan adalah data harian harga penutupan saham PT.
Indofood Sukses Makmur, Tbk dan PT. Gudang Garam, Tbk. Data tersebut
didapat dari http://finance-yahoo.com. Data diambil pada periode tanggal 4
Januari 2010 sampai tanggal 30 Desember 2010.
2. Preprosesing Data
Preposesing data merupakan tahap menganalisis variabel input dan output
yang membantu jaringan dalam mempelajari pola-pola yang relevan [4].
Variabel input data yang digunakan untuk prediksi akan diskala pada selang
[0,1], dengan menggunakan persamaan sebagai berikut:
3. Struktur Data Input
Banyak data input pada proses training sebanyak 90 % awal dari data
keseluruhan dan pada proses testing sebanyak 10% terakhir dari data
keseluruhan.
4. Arsitektur Jaringan
Penentuan arsitektur jaringan yang digunakan sebagai berikut:
a. Menentukan jenis jaringan, yaitu jaringan syaraf tiruan multilayer
feedforward.
b. Menentukan jumlah layer pada jaringan yaitu 3 (tiga) layer, yang terdiri
dari 1 input layer, 1 hidden layer, dan 1 output layer.
c. Menentukan jumlah node pada tiap layer, yaitu 25 node pada input layer,
5 node pada hidden layer, dan 1 node pada output layer.
Proses Prediksi Data
Uji Coba Sistem
Uji Coba Data PT. Indofood Sukses Makmur, Tbk
Dari hasil uji coba untuk mencari MSE yang minimum, didapatkan nilai
parameter yang digunakan proses training dan testing untuk metode
backpropagation adalah eror minimum = 0.001, learning rate = 0.4,
maksimum iterasi = 1000 dan untuk metode steepest descent adalah eror
minimum = 0.001, learning rate = 0.03, maksimum iterasi = 1000.
Uji Coba Data PT. Gudang Garam, Tbk
Dari hasil uji coba untuk mencari MSE yang minimum, didapatkan nilai
parameter yang digunakan proses training dan testing selanjutnya untuk
metode backpropagation adalah eror minimum = 0.001, learning rate = 0.3,
maksimum iterasi = 1000 dan steepest descent adalah eror minimum =
0.001, learning rate = 0.03, maksimum iterasi = 1000.
Perbandingan
Perbandingan MSE antara metode backpropagation dengan steepest descent
pada data harga penutupan saham PT. Indofood Sukses Makmur, Tbk
Perbandingan MSE antara metode backpropagation dengan steepest descent
pada data harga penutupan saham PT. Gudang Garam, Tbk
Perbandingan hasil prediksi data short term antara metode backpropagation
dengan steepest descent pada data harga penutupan saham PT. Indofood
Sukses Makmur, Tbk
Perbandingan hasil prediksi data short term antara metode backpropagation
dengan steepest descent pada data harga penutupan saham PT. Gudang
Garam, Tbk
Perbandingan
Kesimpulan
1. Data harga penutupan saham PT. Indofood Sukses Makmur, Tbk
menghasilkan MSE terkecil dengan nilai learning rate = 0.4 untuk metode
backpropagation, dan learning rate = 0.03 untuk metode steepest descent.
Sedangkan data harga penutupan saham PT. Gudang Garam, Tbk
menghasilkan MSE terkecil dengan nilai learning rate = 0.3 untuk metode
backpropagation, dan learning rate = 0.03 untuk metode steepest descent.
2. Untuk kedua data harga penutupan saham yang diambil sampel, hasil MSE
dengan metode backpropagation lebih baik (lebih kecil) dari pada hasil MSE
dengan metode steepest descent.
3. Data hasil prediksi dengan metode backpropagation pada kedua data harga
penutupan saham lebih baik (mendekati nilai data aktual) dari pada data
hasil prediksi dengan metode steepest descent.
Saran
1. Menambahkan perameter, misal momentum pada algoritma
backpropagation untuk mengetahui bagaimana pengaruh terhadap kinerja
jaringan syaraf pada nilai MSE dan hasil prediksi data.
2. Mengimplementasikan metode backpropagation dan steepest descent untuk
permasalahan yang lain, misal pengenalan wajah.
[1] Adeli, H. (1994). ”An Adaptive Conjugate Gradient LearningAlgorithm for Efficient Training of Neural Networks”, Elsevier ScienceInc. New York, USA
[2] Fausett, L. (1994), “Fundamental of Neural Networks: Architectures,Algorithms dan Aplications”, Prentice-Hall Inc., USA
[3] Jang, J. (1997). “Neuro-Fuzzy and Soft Computing: A ComputationalApproach to Learning and Machine Intelligence”, Prentice-Hall, Inc.USA
[4] Kaastra, I. (1996). ”Designing a Neural Network for ForecastingFinancial and Economic Time Series”, Elsevier Science B.V., Canada
[5] Makridakis, S. (1999), “Metode dan Aplikasi Peramalan”, BinarupaAksara, Jakarta
[6] Paul, D. (2005). “Neural Networks in Finance: Gaining Predictive Edgein the Market”, Elsevier Inc. All rights reserved, USA.
[7] Sumarno, (2009). “Aplikasi Wavelet Recurrent Neural Network UntukPrediksi Data Time Series”, Matematika ITS, Surabaya.
[8] Galuh, U. (2006). “Penggunaan Algoritma Genetika dan ArtificialNeural Network untuk Peramalan Harga Saham”, Teknik danManajemen Industri ITB, Bandung.
[9] “Yahoo Finansial”, http://finance-yahoo.com, 31 Desember 2010.