ESTIMASI PARAMETER DAN INTERVAL KREDIBEL ...SENDIKMAD 2012 1 ESTIMASI PARAMETER DAN INTERVAL...

10
SENDIKMAD 2012 1 ESTIMASI PARAMETER DAN INTERVAL KREDIBEL DENGAN MODEL REGRESI LINIER BERGANDA BAYESIAN Vania Mutiarani a , Adi Setiawan b , Hanna Arini Parhusip c a Program Studi Matematika FSM UKSW Jl. Diponegoro 52-60 Salatiga, [email protected] b Program Studi Matematika FSM UKSW Jl. Diponegoro 52-60 Salatiga, [email protected] c Program Studi Matematika FSM UKSW Jl. Diponegoro 52-60 Salatiga, [email protected] ABSTRAK Regresi linier berganda merupakan model regresi linier dengan satu variabel dependen dan lebih dari satu variabel independen. Dalam makalah ini, diambil data SUSENAS (Survey Sosial Ekonomi Nasional) tahun 2011 dari BPS Salatiga yaitu pendapatan sebagai variabel dependen dan pengeluaran masyarakat Salatiga (pengeluaran untuk konsumsi makanan dan pengeluaran untuk konsumsi non makanan) sebagai variabel independen dengan sampel = 135. Hubungan antar variabel tersebut membentuk garis lurus yang tidak dapat ditentukan secara tepat dan membutuhkan taksiran parameter yang dapat dicari menggunakan model regresi linier Bayesian yaitu dengan merancang rantai Markov dari distribusi posterior (dari model regresi linier Bayesian) dengan bantuan Gibbs sampling. Sehingga dengan mencari rata-rata dari sebanyak 4500 nilai Gibbs sampler diperoleh hasil taksiran parameter yaitu 2 = 0.032, 0 = 1.44, 1 = 0.355, dan 2 = 0.493 dan dihasilkan pula fungsi densitasnya. Dari fungsi densitas tersebut dihasilkan interval kredibel 95% untuk masing-masing taksiran parameter 2 , 0 , 1 , dan 2 berturut-turut yaitu (0.025, 0.041), (0.596, 2.271), (0.176, 0.543) dan (0.365, 0.621). Kata Kunci : model regresi linier berganda Bayesian, estimasi parameter, interval kredibel. ABSTRACT Multiple linear regression is a linear regression model using one dependent variable and more than one independent variable. In this paper, data are taken SUSENAS (National Socio- Economic Survey) from BPS Salatiga in 2011. The income is supposed as the dependent variable and expenditure of Salatiga society (expenditure for food consumption and non-food consumption expenditure) as an independent variable with sample size of = 135. The relationship between these variables form a straight line that can not be precisely determined and requires estimates of parameters using the Bayesian linear regression model. Markov chain design can be constructed based on the posterior distribution (Bayesian linear regression model) using Gibbs sampling. So by finding the average of the 4500 of the Gibbs sampler values, point estimation of parameters can be found i.e. 2 = 0.032 , 0 = 1.44 , 1 = 0.355 , and 2 = 0.493 and also its density function. Based on the density function can be found 95% credible intervals for each parameter estimates 2 , 0 , 1 , and 2 respectively are (0.025, 0.041), (0.596, 2.271), (0.176, 0.543) and (0.365, 0.621) . Keywords : Bayesian multiple linear regression model, parameter estimates, credible intervals.

Transcript of ESTIMASI PARAMETER DAN INTERVAL KREDIBEL ...SENDIKMAD 2012 1 ESTIMASI PARAMETER DAN INTERVAL...

  • SENDIKMAD 2012 1

    ESTIMASI PARAMETER DAN INTERVAL KREDIBEL DENGAN

    MODEL REGRESI LINIER BERGANDA BAYESIAN

    Vania Mutiarania, Adi Setiawan

    b, Hanna Arini Parhusip

    c

    a Program Studi Matematika FSM UKSW

    Jl. Diponegoro 52-60 Salatiga, [email protected] b Program Studi Matematika FSM UKSW

    Jl. Diponegoro 52-60 Salatiga, [email protected] c Program Studi Matematika FSM UKSW

    Jl. Diponegoro 52-60 Salatiga, [email protected]

    ABSTRAK

    Regresi linier berganda merupakan model regresi linier dengan satu variabel dependen dan

    lebih dari satu variabel independen. Dalam makalah ini, diambil data SUSENAS (Survey Sosial

    Ekonomi Nasional) tahun 2011 dari BPS Salatiga yaitu pendapatan sebagai variabel dependen dan

    pengeluaran masyarakat Salatiga (pengeluaran untuk konsumsi makanan dan pengeluaran untuk

    konsumsi non makanan) sebagai variabel independen dengan sampel 𝑛 = 135. Hubungan antar variabel tersebut membentuk garis lurus yang tidak dapat ditentukan secara tepat dan

    membutuhkan taksiran parameter yang dapat dicari menggunakan model regresi linier Bayesian

    yaitu dengan merancang rantai Markov dari distribusi posterior (dari model regresi linier Bayesian)

    dengan bantuan Gibbs sampling. Sehingga dengan mencari rata-rata dari sebanyak 4500 nilai

    Gibbs sampler diperoleh hasil taksiran parameter yaitu 𝜍2 = 0.032, 𝛽0 = 1.44, 𝛽1 = 0.355, dan 𝛽2 = 0.493 dan dihasilkan pula fungsi densitasnya. Dari fungsi densitas tersebut dihasilkan interval kredibel 95% untuk masing-masing taksiran parameter 𝜍2 , 𝛽0 , 𝛽1 , dan 𝛽2 berturut-turut yaitu (0.025, 0.041), (0.596, 2.271), (0.176, 0.543) dan (0.365, 0.621).

    Kata Kunci : model regresi linier berganda Bayesian, estimasi parameter, interval kredibel.

    ABSTRACT

    Multiple linear regression is a linear regression model using one dependent variable and

    more than one independent variable. In this paper, data are taken SUSENAS (National Socio-

    Economic Survey) from BPS Salatiga in 2011. The income is supposed as the dependent variable

    and expenditure of Salatiga society (expenditure for food consumption and non-food consumption

    expenditure) as an independent variable with sample size of 𝑛 = 135. The relationship between these variables form a straight line that can not be precisely determined and requires estimates of

    parameters using the Bayesian linear regression model. Markov chain design can be constructed

    based on the posterior distribution (Bayesian linear regression model) using Gibbs sampling. So by

    finding the average of the 4500 of the Gibbs sampler values, point estimation of parameters can be

    found i.e. 𝜍2 = 0.032 , 𝛽0 = 1.44 , 𝛽1 = 0.355 , and 𝛽2 = 0.493 and also its density function. Based on the density function can be found 95% credible intervals for each parameter estimates 𝜍2, 𝛽0, 𝛽1, and 𝛽2 respectively are (0.025, 0.041), (0.596, 2.271), (0.176, 0.543) and (0.365, 0.621) .

    Keywords : Bayesian multiple linear regression model, parameter estimates, credible intervals.

  • SENDIKMAD 2012 2

    Pendahuluan

    Analisis regresi merupakan alat

    statistik yang banyak digunakan dalam

    berbagai bidang yang bertujuan untuk

    mengetahui hubungan antara variabel

    dependen dan variabel independen

    (Suwarno, 2009). Hubungan antara

    variabel dependen dan independen

    membentuk garis lurus yang disebut juga

    garis regresi yang tidak dapat ditentukan

    secara tepat sehingga diperlukan taksiran

    parameter untuk model regresi linier.

    Untuk memperoleh taksiran parameter

    tersebut, biasanya dicari dengan metode

    kuadrat terkecil. Namun, ada cara lain

    yaitu dengan model regresi linier

    Bayesian.

    Pada makalah terdahulu

    (Mutiarani dkk., 2012) telah dijelaskan

    tentang penerapan model regresi linier

    Bayesian untuk mengestimasi parameter

    dan interval kredibel dengan mengambil

    data SUSENAS tahun 2011 yang

    diperoleh dari BPS Salatiga yaitu

    pendapatan dan pengeluaran masyarakat

    Salatiga dengan sampel 𝑛 = 30 . Untuk

    mengestimasi parameter garis regresi

    dengan model regresi linier Bayesian,

    dirancang rantai Markov dari distribusi

    posterior yaitu dengan bantuan Gibbs

    sampling sebanyak 5000 iterasi dan

    diperoleh taksiran parameter yang

    merupakan rata-rata dari nilai Gibbs

    sampler yaitu 𝜍2 = 0.0057 , 𝛽0 = 2.101

    dan 𝛽1 = 0.708 sehingga persamaan

    garis regresi dugaan : 𝑦𝑖 = 2.101 +

    0.708 π‘₯𝑖 dengan 𝑦𝑖 adalah dugaan untuk

    pendapatan masyarakat dan π‘₯𝑖 adalah

    pengeluaran masyarakat. Dari nilai-nilai

    Gibbs sampler yang telah didapatkan,

    dihasilkan fungsi densitas untuk masing-

    masing parameter sehingga interval

    kepercayaan Bayesian (interval kredibel)

    95% untuk taksiran parameter 𝜍2 adalah

    (0.0034, 0.0097), untuk 𝛽0 yaitu (1.607,

    2.601) dan (0.6282, 0.7879) untuk

    parameter 𝛽1.

    Dalam penelitian ini dilakukan

    pengembangan dari makalah sebelumnya

    yaitu dengan model regresi linier

    berganda. Regresi linier berganda

    merupakan model regresi linier dengan

    satu variabel dependen dan lebih dari satu

    variabel independen. Dalam makalah ini

    akan digunakan model regresi linier

    berganda dalam konteks Bayesian.

    Dengan mengambil data SUSENAS

    (Survey Sosial Ekonomi Nasional) tahun

    2011 dari BPS Salatiga yaitu pendapatan

    dan pengeluaran masyarakat Salatiga

    (pengeluaran untuk konsumsi makanan

    dan pengeluaran untuk konsumsi non

    makanan) dengan sampel 𝑛 = 135, akan

    dijelaskan bagaimana mengestimasi

    parameter dan interval kepercayaan

    Bayesian (interval Kredibel) dengan

    model regresi linier berganda Bayesian.

  • SENDIKMAD 2012 3

    Dasar Teori

    1. Regresi Linier Berganda Bayesian

    Dalam statistik, regresi linier

    Bayesian merupakan pendekatan untuk

    regresi linier dimana analisis statistik

    yang dilakukan dalam konteks inferensi

    Bayesian (Web 1). Saat model regresi

    memiliki error yang berdistribusi normal,

    dan jika bentuk khusus dari distribusi

    prior diasumsikan, hasil eksplisit tersedia

    untuk distribusi probabilitas posterior

    dari parameter model.

    Analisis regresi linier berganda

    adalah pengembangan dari analisis

    regresi linier sederhana. Analisis regresi

    linier berganda ialah suatu alat analisis

    peramalan nilai pengaruh dua atau lebih

    variabel independen terhadap variabel

    dependen untuk membuktikan ada atau

    tidaknya hubungan fungsi atau hubungan

    kausal antara dua variabel atau lebih

    𝑋1 , 𝑋2, 𝑋3, … , 𝑋𝑛 dengan satu variabel

    dependen (Suwarno, 2009).

    Persamaan regresi ganda dengan

    dua variabel bebas dirumuskan:

    𝑦𝑖 = 𝛽0 + 𝛽1π‘₯1𝑖 + 𝛽2π‘₯2𝑖 + πœ€π‘–

    dengan 𝑖 = 1, 2, … , 𝑛 dan galat

    πœ€π‘–~𝑁(0, 𝜍2).

    Fungsi likelihood :

    𝑝 𝐲 𝐗, 𝜷, 𝜍2 ∝ 𝜍2 βˆ’π‘›/2 exp βˆ’1

    2𝜍2 𝐲 βˆ’ π—πœ· 𝑇 𝐲 βˆ’ π—πœ· .

    dengan 𝐗 = 𝟏 π‘₯1𝑖 π‘₯2𝑖 ; 𝜷 = 𝛽0 , 𝛽1 , 𝛽2 T.

    1.1. Distribusi Prior Konjugat

    Prior konjugat adalah suatu prior

    yang jika dikombinasikan dengan fungsi

    likelihood akan menghasilkan suatu

    posterior dengan distribusi yang sama

    dengan distribusi prior (Gelman, 2006).

    Dengan 𝜷 = 𝛽0, 𝛽1, 𝛽2 T , bentuk untuk

    prior :

    𝑝 𝜷, 𝜍2 = 𝑝 𝜍2 𝑝 𝜷 𝜍2

    dengan 𝜍2 berdistribusi Inv βˆ’

    Gamma(π‘Ž0, 𝑏0) dengan π‘Ž0 = 𝑣0/2 dan

    𝑏0 = 𝑣0𝑠02 dengan 𝑣0 = 1 dan 𝑠0

    2 = 1 .

    Kepadatan prior ditulis sebagai

    𝑝 𝜍2 ∝ 𝜍2 βˆ’ 𝑣0/2+1 exp βˆ’π‘£0𝑠0

    2

    2𝜍2 .

    Lebih lanjut, prior bersyarat 𝜷|𝜍2

    berdistribusi 𝑁(𝝁0, 𝜍2𝚲0

    βˆ’1) . Pada

    makalah ini, 𝝁0 = 𝛽0(0)

    , 𝛽1(0)

    , 𝛽2 0

    T

    =

    0, 0, 0 T , 𝚲0 = I dan memiliki kepadatan

    prior bersyarat :

    𝑝(𝜷|𝜍2) ∝ 𝜍2 βˆ’π‘˜/2exp βˆ’1

    2𝜍2 𝜷 βˆ’ 𝝁0

    T𝚲0 𝜷 βˆ’ 𝝁0

    dengan 𝜷 βˆ’ 𝝁0 T𝚲0 𝜷 βˆ’ 𝝁0 yang

    dijabarkan sebagai berikut :

    𝛽0𝛽1𝛽2

    βˆ’

    𝛽0 0

    𝛽1 0

    𝛽2 0

    T

    I3Γ—πŸ‘

    𝛽0𝛽1𝛽2

    βˆ’

    𝛽0 0

    𝛽1 0

    𝛽2 0

    = 𝛽0 βˆ’ 𝛽0 0

    , 𝛽1 βˆ’ 𝛽1 0

    , 𝛽2 βˆ’ 𝛽2 0 I3Γ—πŸ‘

    𝛽0 βˆ’ 𝛽0 0

    𝛽1 βˆ’ 𝛽1 0

    𝛽2 βˆ’ 𝛽2 0

    = 𝛽0βˆ’ 𝛽

    0 0

    𝟐+ 𝛽

    1βˆ’ 𝛽

    1 0

    𝟐+ 𝛽

    2βˆ’ 𝛽

    2 0

    𝟐

    Sehingga kepadatan prior bersyarat

    menjadi :

  • SENDIKMAD 2012 4

    𝑝(𝜷|𝜍2) ∝ 𝜍2 βˆ’π‘˜/2 exp βˆ’1

    2𝜍2 𝛽0 βˆ’ 𝛽0

    0 𝟐

    + 𝛽1 βˆ’ 𝛽1 0

    𝟐+ 𝛽2 βˆ’ 𝛽2

    0 𝟐

    1.2. Distribusi Posterior

    Posterior dapat dinyatakan

    sebagai distribusi normal dikalikan

    dengan distribusi invers-gamma dan

    diparameterisasi sebagai berikut :

    𝑝(𝜷, 𝜍2|𝐲, 𝐗) ∝ 𝑝(𝜷|𝜍2, 𝐲, 𝐗)𝑝 𝜍2|𝐲, 𝐗

    dengan kedua faktor sesuai dengan

    kepadatan dari distribusi

    𝑁 𝝁𝑛 , 𝜍2 𝐗T𝐗 + 𝚲0

    βˆ’1 dan

    Inv βˆ’ Gamma(π‘Žπ‘› , 𝑏𝑛) dengan

    parameternya diberikan oleh

    π‘Žπ‘› =1

    2(𝑛 + 𝑣0) , (pada makalah ini

    𝑣0 = 1 dan 𝑛 = 135)

    𝑏𝑛 = 𝑏0 +1

    2(𝐲T𝐲 + 𝝁0

    T𝚲0𝝁0 βˆ’ 𝝁𝑛Tπš²π‘›ππ‘›),

    𝝁𝑛 = 𝐗T𝐗 + 𝚲0

    βˆ’1 𝐗T𝐲 + 𝚲0𝝁0 ,

    𝚲0 = I.

    Pada makalah ini, 𝐗T𝐗 bertipe 3 Γ— 3

    sehingga 𝚲0 bertipe 3 Γ— 3 yaitu I3Γ—3.

    1.3. MCMC (Markov Chain Monte Carlo)

    Salah satu cara untuk merancang

    rantai Markov yaitu dari distribusi

    posterior dengan

    𝑝 𝜍2|𝐲, 𝐗 ~Inv βˆ’ Gamma(π‘Žπ‘› , 𝑏𝑛) dan

    𝑝 𝜷 𝜍2 , 𝐲, 𝐗 ~𝑁 𝝁𝑛 , 𝜍2 𝐗T𝐗 + 𝚲0

    βˆ’1

    yaitu dengan Gibbs Sampling yang

    menghasilkan rantai Markov oleh

    sampling dari distribusi bersyarat.

    Jika 𝜍2~Inv βˆ’ Gamma(π‘Žπ‘› , 𝑏𝑛), maka :

    𝜍2|𝐲, 𝐗~Inv βˆ’ Gamma 1

    2 𝑛 + 𝑣0 , 𝑏0 +

    1

    2 𝐲T𝐲 + 𝝁0

    T𝚲0𝝁0 βˆ’ 𝝁𝑛Tπš²π‘›ππ‘› (*)

    Jika

    𝛽0𝛽1𝛽2

    ~𝑁3

    πœ‡1πœ‡2πœ‡3

    , Ξ£11 Ξ£12Ξ£21 Ξ£22

    ,

    (Jennings et al., 2010) maka distribusi

    dari 𝛽0 bersyarat pada 𝛽1 0 , 𝛽2

    0 :

    𝛽0|𝛽1 0 , 𝛽2

    0 ~𝑁 πœ‡1 + Ξ£12Ξ£22βˆ’1

    𝛽1 0

    𝛽2 0

    βˆ’ πœ‡2πœ‡3

    ,

    Ξ£11 βˆ’ Ξ£12Ξ£22βˆ’1Ξ£12

    β€² . (**)

    dengan Σ11 = 𝜍11 , Σ12 = 𝜍12 𝜍13 ,

    Σ22 = 𝜍22 𝜍23𝜍23 𝜍33

    .

    Diberikan 𝜍2 dan vektor 𝜷 yang tidak

    diketahui : 𝜷 = 𝛽0 , 𝛽1 , 𝛽2 T

    1. Dipilih nilai awal 𝜍2(0)

    , 𝛽0 0 , 𝛽1

    0 , 𝛽2 0

    .

    2. Sampel 𝜍2(1)

    dari 𝑝 𝜍2(1)

    𝐲, 𝐗

    sehingga 𝜍2(1)

    |𝐲, 𝐗 memenuhi (*).

    Sampel 𝛽0 1

    dari

    𝑝 𝛽0 1

    𝜍2(1)

    , 𝛽1 0 , 𝛽2

    0 , 𝐲, 𝐗 sehingga

    𝛽0 1 |𝜍2

    1 , 𝛽1

    0 , 𝛽2 0

    memenuhi (**).

    3. Langkah 2 diulangi sebanyak bilangan

    besar B, misalnya 5000 kali.

    4. Akhirnya didapatkan sampel dari

    𝑝 𝜍2|𝐲, 𝐗 dan 𝑝(𝜷|𝜍2, 𝐲, 𝐗) dalam

    bentuk rantai Markov.

    1.4. Interval Kredibel (Interval

    Kepercayaan Bayesian)

    Dalam statistik Bayesian, interval

    kredibel 1 βˆ’ 𝛼 100% merupakan

  • SENDIKMAD 2012 5

    interval di dalam domain dari distribusi

    probabilitas posterior yang digunakan

    untuk penaksiran interval (Web 2).

    Salah satu metode untuk

    mengestimasi interval kredibel yang

    paling mudah digunakan adalah interval

    kredibel dua ekor (Johnson, 2009).

    Interval kredibel dua ekor disusun dengan

    menemukan kuantil 𝛼/2 dan 1 βˆ’ 𝛼/2

    dengan tingkat signifikansi 𝛼.

    Metode Penelitian

    Data yang digunakan dalam

    penelitian adalah nilai logaritma dari data

    SUSENAS (Survey Sosial Ekonomi

    Nasional) masyarakat Salatiga tahun

    2011 dari BPS Salatiga yaitu pendapatan

    sebagai variabel dependen 𝐲 terhadap

    pengeluaran untuk konsumsi makanan

    sebagai variabel independen π—πŸ dan

    pengeluaran untuk konsumsi non

    makanan sebagai variabel independen π—πŸ

    dengan sampel 𝑛 = 135 . Dalam

    melakukan perhitungan, digunakan alat

    bantu program WinBUGS 1.4.3.

    Langkah-langkah penyelesaian

    untuk mengestimasi parameter dan

    interval kredibel menggunakan model

    regresi linier Bayesian sebagai berikut :

    1. Merancang rantai Markov dari

    distribusi posterior 𝑝(𝜷, 𝜍2|𝐲, 𝐗) ∝

    𝑝 𝜍2|𝐲, 𝐗 𝑝(𝜷|𝜍2, 𝐲, 𝐗) dengan

    𝑝 𝜍2|𝐲, 𝐗 ~Inv βˆ’ Gamma(π‘Žπ‘› , 𝑏𝑛)

    dan 𝑝(𝜷|𝜍2, 𝐲, 𝐗)~𝑁(𝝁𝑛 , 𝜍2 𝐗T𝐗 +

    𝚲0 βˆ’1) yaitu dengan Gibbs Sampling

    yang menghasilkan 4 rantai Markov

    dengan iterasi sebanyak 5000 yaitu

    untuk taksiran parameter 𝜍2 , 𝛽0 , 𝛽1

    dan 𝛽2.

    2. Taksiran parameter 𝜍2 , 𝛽0 , 𝛽1 dan 𝛽2

    diperoleh dengan mencari rata-rata

    dari nilai Gibbs sampler.

    3. Dari nilai-nilai Gibbs sampler

    tersebut, dihasilkan fungsi densitas

    untuk 𝜍2 berdistribusi invers-gamma

    dan 𝛽0 , 𝛽1 dan 𝛽2 berdistribusi

    normal.

    4. Mencari interval kredibel 95% untuk

    masing-masing taksiran parameter

    berdasarkan pada fungsi densitas

    dengan tingkat signifikansi 𝛼 = 0.05.

    Hasil dan Pembahasan

    Pada Gambar 1 diperlihatkan

    diagram pencar untuk data logaritma

    pendapatan (𝐲) terhadap data logaritma

    pengeluaran untuk konsumsi makanan

    (π—πŸ ), sedangkan Gambar 2 merupakan

    diagram pencar untuk data logaritma

    pendapatan (𝐲) terhadap data logaritma

    pengeluaran untuk konsumsi non

    makanan (π—πŸ).

  • SENDIKMAD 2012 6

    Gambar 1. Diagram Pencar Data

    Logaritma Pendapatan (𝐲) Terhadap Data Logaritma Pengeluaran Untuk Konsumsi

    Makanan (π—πŸ)

    Gambar 2. Diagram Pencar Data

    Logaritma Pendapatan (𝐲) Terhadap Data Logaritma Pengeluaran

    Untuk Konsumsi Non Makanan (π—πŸ)

    Selanjutnya untuk mendapatkan

    estimasi parameter 𝜍2 dan 𝜷 =

    𝛽0, 𝛽1, 𝛽2 T dengan model regresi linier

    berganda Bayesian, dirancang rantai

    Markov dari distribusi posterior

    𝑝(𝜷, 𝜍2|𝐲, 𝐗) ∝ 𝑝 𝜍2|𝐲, 𝐗 𝑝(𝜷|𝜍2 , 𝐲, 𝐗)

    dengan

    𝑝 𝜍2|𝐲, 𝐗 ~Inv βˆ’ Gamma(π‘Žπ‘› , 𝑏𝑛) dan

    𝑝(𝜷|𝜍2 , 𝐲, 𝐗)~𝑁(𝝁𝑛 , 𝜍2 𝐗T𝐗 + 𝚲0

    βˆ’1)

    dengan 𝝁𝑛 = 1.431, 0.355, 0.494 T dan

    kovarians

    𝜍2 𝐗T𝐗 + 𝚲0 βˆ’1 =

    0.175 βˆ’0.029 0.0001βˆ’0.029 0.009 βˆ’0.0040.0001 βˆ’0.004 0.004

    yaitu dengan Gibbs sampling sebanyak

    5000 iterasi.

    1. Taksiran Parameter 𝜍2 dan Interval

    Kredibel 𝜍2

    Untuk mendapatkan taksiran

    parameter 𝜍2 yang berdistribusi

    invers-gamma, dilakukan Gibbs

    sampling sebanyak 5000 iterasi

    dengan memilih nilai awal 𝜍2 0

    = 1.

    Kemudian 500 iterasi pertama

    dipotong dan diperoleh rantai Markov

    yang konvergen pada Gambar 3.

    Gambar 3. Rantai Markov untuk

    Taksiran Parameter 𝜍2

    Diperoleh hasil taksiran parameter

    𝜍2 = 0.032 dengan mencari rata-rata

    dari 4500 nilai Gibbs sampler. Dari

    nilai Gibbs sampler tersebut dihasilkan

    fungsi densitas pada Gambar 4

    sehingga interval kredibel 95% untuk

    taksiran 𝜍2 adalah (0.025, 0.041).

    5.2 5.4 5.6 5.8 6 6.2 6.4 6.6 6.85.4

    5.6

    5.8

    6

    6.2

    6.4

    6.6

    6.8

    7

    4.5 5 5.5 6 6.5 75.4

    5.6

    5.8

    6

    6.2

    6.4

    6.6

    6.8

    7

  • SENDIKMAD 2012 7

    Gambar 4. Fungsi Densitas Taksiran

    Parameter 𝜍2

    2. Taksiran Parameter 𝛽0 dan Interval

    Kredibel 𝛽0

    Dengan memilih nilai awal 𝛽0 0 = 0,

    lalu dilakukan Gibbs sampling

    sebanyak 5000 iterasi. Setelah

    memotong 500 iterasi pertama untuk

    taksiran 𝛽0 yang berdistribusi normal,

    didapatkan rantai Markov yang

    konvergen pada Gambar 5.

    Gambar 5. Rantai Markov untuk

    Taksiran Parameter 𝛽0

    Dengan mencari rata-rata dari 4500

    nilai Gibbs sampler yang ada,

    diperoleh hasil taksiran 𝛽0 = 1.44 dan

    dihasilkan fungsi densitas pada

    Gambar 6 sehingga interval kredibel

    95% adalah (0.596, 2.271).

    Gambar 6. Fungsi Densitas Taksiran

    Parameter 𝛽0

    3. Taksiran Parameter 𝛽1 dan Interval

    Kredibel 𝛽1

    Untuk memperoleh taksiran parameter

    𝛽1 yang berdistribusi normal, dipilih

    nilai awal 𝛽1 0 = 0 kemudian dengan

    melakukan Gibbs sampling sebanyak

    5000 iterasi dan memotong 500 iterasi

    pertama, diperoleh rantai Markov

    yang konvergen pada Gambar 7.

    Gambar 7. Rantai Markov untuk

    Taksiran Parameter 𝛽1

    Dari 4500 nilai Gibbs sampler yang

    ada pada Gambar 7 di atas, setelah

    dicari rata-ratanya didapat hasil

  • SENDIKMAD 2012 8

    taksiran 𝛽1 = 0.355. Nilai-nilai Gibbs

    sampler tersebut menghasilkan fungsi

    densitas pada Gambar 8 sehingga

    interval kredibel 95% adalah (0.176,

    0.543).

    Gambar 8. Fungsi Densitas Taksiran

    Parameter 𝛽1

    4. Taksiran Parameter 𝛽2 dan Interval

    Kredibel 𝛽2

    Dipilih nilai awal untuk 𝛽2 0 = 0 .

    Kemudian dilakukan Gibbs sampling

    sebanyak 5000 iterasi, dan memotong

    500 iterasi pertama sehingga diperoleh

    rantai Markov yang konvergen pada

    Gambar 9.

    Gambar 9. Rantai Markov untuk

    Taksiran Parameter 𝛽2

    Selanjutnya dengan mencari rata-rata

    dari 4500 nilai Gibbs sampler yang

    ada, diperoleh hasil taksiran 𝛽2 =

    0.493 . berdasarkan nilai-nilai Gibbs

    sampler tersebut dihasilkan fungsi

    densitas pada Gambar 10 dan interval

    kredibel 95% (0.365, 0.621).

    Gambar 10. Fungsi Densitas Taksiran

    Parameter 𝛽2

    Dengan estimasi parameter yang

    telah diperoleh yaitu

    𝜷 = 1.44, 0.355, 0.493 T dibentuk

    persamaan garis regresi linier berganda

    dugaan :

    𝑦𝑖 = 1.44 + 0.355 π‘₯1𝑖 + 0.493 π‘₯2𝑖 .

    Gambaran penggunaan:

    Dipilih nilai π‘₯1 = 6.15 dan π‘₯2 = 5.96 ,

    kemudian nilai-nilai tersebut

    disubstitusikan ke dalam persamaan

    regresi linier berganda di atas, sehingga

    didapatkan hasil dugaan 𝑦 = 6.56 .

    Artinya, dalam nilai logaritma, dengan

    pengeluaran untuk konsumsi makanan

    sebesar 6.15 dan pengeluaran untuk

    konsumsi non makanan sebesar 5.96,

    dugaan untuk pendapatan sebesar 6.56

    atau Rp 3.643.594,183. Sedangkan

  • SENDIKMAD 2012 9

    pendapatan pada data asli sebesar

    Rp 3.550.000, sehingga error (galat)

    dalam persamaan garis regresi dugaan

    pada titik data tersebut yaitu

    𝑒 = 𝑦 βˆ’ 𝑦 = 3550000 βˆ’ 3643594.183 =

    βˆ’93594.183 = 93594.183 atau sebesar

    2.64 %.

    Sebagai perbandingan, dengan program R

    2.15.1., diperoleh hasil estimasi sebagai

    berikut :

    Coefficients:

    Estimate Std. Error t value Pr(>|t|)

    (Intercept) 1.43890 0.42138 3.415 0.000849 ***

    x1 0.35401 0.09423 3.757 0.000257 ***

    x2 0.49355 0.06422 7.686 3.08e-12 ***

    ---

    Signif. codes: 0 β€ž***β€Ÿ 0.001 β€ž**β€Ÿ 0.01 β€ž*β€Ÿ 0.05 β€ž.β€Ÿ 0.1 β€ž

    β€Ÿ 1

    Jadi, hasil estimasi parameter 𝛽0, 𝛽1, dan

    𝛽2 signifikan karena berdasarkan uji t,

    nilai p masing-masing parameter lebih

    kecil dari tingkat signifikansi 𝛼 = 0.05.

    Kesimpulan

    Berdasarkan pembahasan, dengan

    mengambil data SUSENAS masyarakat

    Salatiga tahun 2011 dari BPS Salatiga

    dengan sampel 𝑛 = 135 sebagai

    simulasi, dapat disimpulkan bahwa:

    1. Dengan merancang rantai Markov dari

    distribusi posterior dengan bantuan

    Gibbs sampling sebanyak 5000 iterasi,

    lalu memotong 500 iterasi pertama

    agar tidak mengacaukan hasil taksiran

    dan diperoleh hasil taksiran untuk

    masing-masing parameter yang tidak

    diketahui, yaitu 𝜍2 = 0.032 , 𝛽0 =

    1.44, 𝛽1 = 0.355, dan 𝛽2 = 0.493.

    2. Dari sebanyak 4500 nilai Gibbs

    sampler yang ada, dihasilkan fungsi

    densitas untuk taksiran parameter 𝜍2

    berdistribusi invers-gamma dan

    taksiran parameter 𝛽0 , 𝛽1 , dan 𝛽2

    berdistribusi normal. Sehingga dengan

    tingkat signifikansi 𝛼 = 0.05 ,

    diperoleh interval kredibel 95% untuk

    taksiran parameter 𝜍2 , 𝛽0 , 𝛽1 , dan 𝛽2

    berturut-turut yaitu (0.025, 0.041),

    (0.596, 2.271), (0.176, 0.543) dan

    (0.365, 0.621).

    Pustaka

    Gelman, A. 2006. Bayesian Analysis.

    Department of Statistics and

    Department of Political Science :

    Columbia University.

    Hair, J. F. 2010. Multivariate Data

    Analysis Seventh Edition. USA :

    Pearson Prentice Hall.

    Johnson, M. S. 2009. Introduction to

    Bayesian Statistics with

    WinBUGS. New York : Columbia

    University.

    Johnson, R. A. and Wichern, Dean W.

    1982. Applied Multivariate

    Statistical Analysis. New Jersey :

    Prentice Hall.

    Mutiarani, V., Setiawan, A., & Parhusip,

    H. A. 2012. Penerapan Model

    Regresi Linier Bayesian Untuk

    Mengestimasi Parameter Dan

    Interval Kredibel. Prosiding

    Seminar Nasional Matematika

    dan Pendidikan Matematika UNY

    tanggal 10 November 2012.

    Supranto. 2004. Analisis Multivariat: Arti

    dan Interpretasi. Jakarta : Rineka

    Cipta.

  • SENDIKMAD 2012 10

    Suwarno, B. 2009. Rumus dan Data

    dalam Analisis Statistika.

    Bandung : Alfabeta.

    Widyaningsih, N. 2010. Statistika dan

    Probabilitas. Universitas Mercu

    Buana : Fakultas Teknik Sipil dan

    Perencanaan.

    Pustaka Internet

    Jennings, R., Wakeman-Linn, M., &

    Zhao, Xin. 2010. β€œMultivariate

    Normal Distribution” tersedia di

    http://www.colorado.edu/economi

    cs/morey/7818/jointdensity/Notes

    OnMultivariateNormal/Multivaria

    te%20Normal%20Distribution_W

    akeman-LinnJenningsZhao.pdf.

    Diakses tanggal 12 November

    2012.

    Web 1 : http://en.wikipedia.org/wiki/

    Bayesian_linear_regression

    Bayesian Linear Regression

    Diunduh pada 28 Agustus 2012

    Web 2 : http://en.wikipedia.org/wiki/

    Credible_interval

    Credible Interval

    Diunduh pada 5 September 2012

    Wijayanto, A. 2003. β€œAnalisis Regresi

    Linear Berganda” tersedia di

    http://eprints.undip.ac.id/ANALIS

    IS_REGRESI_LINEAR_BERGA

    NDA/, Diakses tanggal 21

    November 2012.

    http://www.colorado.edu/economics/morey/7818/jointdensity/NotesOnMultivariateNormal/Multivariate%20Normal%20Distribution_Wakeman-LinnJenningsZhao.pdfhttp://www.colorado.edu/economics/morey/7818/jointdensity/NotesOnMultivariateNormal/Multivariate%20Normal%20Distribution_Wakeman-LinnJenningsZhao.pdfhttp://www.colorado.edu/economics/morey/7818/jointdensity/NotesOnMultivariateNormal/Multivariate%20Normal%20Distribution_Wakeman-LinnJenningsZhao.pdfhttp://www.colorado.edu/economics/morey/7818/jointdensity/NotesOnMultivariateNormal/Multivariate%20Normal%20Distribution_Wakeman-LinnJenningsZhao.pdfhttp://www.colorado.edu/economics/morey/7818/jointdensity/NotesOnMultivariateNormal/Multivariate%20Normal%20Distribution_Wakeman-LinnJenningsZhao.pdfhttp://en.wikipedia.org/wiki/%20Bayesian_linear_regressionhttp://en.wikipedia.org/wiki/%20Bayesian_linear_regressionhttp://en.wikipedia.org/wiki/%20Bayesian_linear_regressionhttp://en.wikipedia.org/wiki/%20Credible_intervalhttp://en.wikipedia.org/wiki/%20Credible_intervalhttp://en.wikipedia.org/wiki/%20Credible_intervalhttp://eprints.undip.ac.id/ANALISIS_REGRESI_LINEAR_BERGANDA/http://eprints.undip.ac.id/ANALISIS_REGRESI_LINEAR_BERGANDA/http://eprints.undip.ac.id/ANALISIS_REGRESI_LINEAR_BERGANDA/