Analisis Regresi Berganda
Analisis Regresi Berganda
Analisis Regresi Berganda
ANALISIS MULTIVARIAT
Bahasan: ANALISIS REGRESI LINIER
BERGANDA
Analisis Multivariat
PENGUJIAN PARAMETER (1)
O Uji Linieritas Secara Serentak (Simultan)
O H0 : Variabel X1, X2, …, Xk tidak berpengaruh terhadap
variabel Y
H1 : Variabel X1, X2, …, Xk berpengaruh terhadap variabel
Y
O α=…
O Statistik hitung (menggunakan Anova)
O Daerah kritis
Tolak H0 jika Fhitung > Ftabel atau nilai peluang < α
O Kesimpulan
PENGUJIAN PARAMETER (2)
O Uji Linieritas Secara Individu (Parsial)
O H0 : Variabel X tidak berpengaruh terhadap variabel Y
H1 : Variabel X berpengaruh terhadap variabel Y
O α=…
O Statistik hitung (menggunakan distribusi t)
O Daerah kritis
Tolak H0 jika thitung > ttabel, atau thitung < -ttabel, atau nilai
peluang < α
O Kesimpulan
Pengujian Model Regresi Berganda (1)
Multikolinieritas
Multikolinieritas adalah terjadinya lebih dari satu
hubungan linier antara variabel bebas dalam suatu
model regresi linier berganda.
Hubungan linier antara variabel bebas dapat terjadi
dalam bentuk hubungan linier yang sempurna (perfect)
dan hubungan linier yang kurang sempurna (imperfect).
Untuk mendeteksi adanya multikolinieritas dalam
model regresi linier berganda dapat digunakan nilai
variance inflation factor (VIF) dan tolerance (TOL), serta
besar korelasi antar variabel independen.
Pengujian Model Regresi Berganda (2)
Multikolinieritas
Kriteria terjadi multikolinieritas:
◼ Nilai tolerance (TOL) < 0.10.
◼ Nilai variance inflation factor (VIF) > 10.
◼ Koefisien korelasi antar variabel independen > 0.5. Jika
terjadi, harus dikeluarkan dari model.
Jika tujuan analisis regresi untuk prediksi, maka
multikolinieritas bukan masalah serius karena semakin
tinggi nilai R2 maka kemampuan prediksi semakin
tinggi.
Jika tujuannya adalah estimasi parameter, maka
multikolinieritas menjadi masalah serius karena akan
menghasilkan standard error yang besar.
Pengujian Model Regresi Berganda (3)
Multikolinieritas
H0: terjadi multikolinieritas antar variabel independen
H1: tidak terjadi multikolinieritas antar variabel independen
α=…
Statistik hitung.
Menentukan nilai Tolerance, VIF, dan koefisien korelasi antar
variabel independen.
Daerah kritis.
Tolak H0 jika nilai Tolerance > 0.10 atau nilai VIF < 10 atau
koefisien korelasi antar variabel independen < 0.5.
Kesimpulan.
Pengujian Model Regresi Berganda (4)
Heterokesdastisitas
Heteroskedastisitas adalah variansi dari error model
regresi tidak konstan atau variansi antar error yang
satu dengan error yang lain berbeda.
Dampak adanya heteroskedastisitas dalam model
regresi adalah menyebabkan perhitungan standard
error tidak bisa dipercaya kebenarannya. Selain itu
interval estimasi maupun pengujian hipotesis yang
didasarkan pada distribusi t maupun F tidak bisa lagi
dipercaya untuk evaluasi hasil regresi.
Pengujian Model Regresi Berganda (5)
Heterokesdastisitas
Ada dua cara untuk mendeteksi ada tidaknya
heterokesdastisitas, yaitu metode grafik dan statistik.
Metode grafik dilakukan dengan memplot nilai
prediksi dan residual.
Penilaian berdasarkan metode grafik:
◼ Jika tidak ada pola yang jelas serta titik-titik menyebar
(secara acak) di atas dan di bawah angka 0 pada sumbu y
maka tidak terjadi heterokesdastisitas.
◼ Jika ada pola tertentu serta titik-titik yang membentuk pola
tertentu diatas dan di bawah angka 0 pada sumbu y maka
terjadi heterokesdastisitas.
Pengujian Model Regresi Berganda (6)
Autokorelasi
Autokorelasi adalah terjadinya korelasi antara satu
nilai variabel dependen dengan nilai variabel
dependen yang lain.
Autokorelasi seringkali terjadi pada data time series.
Data time series harus terbebas dari autokorelasi.
Untuk mendeteksi adanya autokorelasi dalam model
regresi linier berganda dapat digunakan metode
Durbin-Watson.
Pengujian Model Regresi Berganda (7)
Autokorelasi
Nilai Durbin-Watson akan dibandingkan dengan
kriteria penerimaan atau penolakan yang akan dibuat
dengan nilai dL dan dU ditentukan berdasarkan
jumlah variabel bebas dalam model regresi (k) dan
jumlah sampelnya (n).
Deteksi autokorelasi pada model regresi linier
berganda dengan metode Durbin-Watson adalah:
◼0 < d < dL → ada autokorelasi positif
◼ dL ≤ d ≤ dU → daerah ragu-ragu; tidak ada keputusan
◼ dU ≤ d ≤ 4 - dU → tidak ada autokorelasi positif/negatif
◼ 4 - dU ≤ d ≤ 4 - dL → daerah ragu-ragu; tidak ada
keputusan
◼ 4 - dL ≤ d ≤ 4 → ada autokorelasi negatif
Pengujian Model Regresi Berganda (8)
Autokorelasi
H0: terjadi autokorelasi dalam variabel dependen
H1: tidak terjadi autokorelasi dalam variabel dependen
α=…
Statistik hitung.
Menentukan nilai d (koefisien Durbin-Watson).
Daerah kritis.
◼0 < d < dL → ada autokorelasi positif
◼ dL ≤ d ≤ dU → daerah ragu-ragu; tidak ada keputusan
◼ dU ≤ d ≤ 4 - dU → tidak ada autokorelasi positif/negatif
◼ 4 - dU ≤ d ≤ 4 - dL → daerah ragu-ragu; tidak ada
keputusan
◼ 4 - dL ≤ d ≤ 4 → ada autokorelasi negatif
Pengujian Model Regresi Berganda (9)
Normalitas
Uji normalitas atau kenormalan digunakan untuk
mendeteksi apakah distribusi variabel - variabel
bebas dan terikat adalah normal.
Normalitas dapat dideteksi dengan melihat sebaran
data (titik) pada sumbu diagonal dari grafik Normal P-
Plot of Regression Standarized Residual.
Suatu model dikatakan memenuhi asumsi normalitas
apabila apabila data menyebar disekitar garis
diagonal dan mengikuti arah garis diagonal.
Pengujian Model Regresi Berganda (8)
Normalitas
H0: variabel - variabel bebas dan terikat berdistribusi
normal
H1: variabel - variabel bebas dan terikat tidak
berdistribusi normal
α=…
Statistik hitung.
Menentukan nilai Dmax dengan Kolmogorov-Smirnov Test.
Daerah kritis.
Tolak H0 jika Dmax > Dtabel
Kesimpulan
Berikut ini adalah contoh data ekspor pakaian jadi dari Indonesia ke
Jepang. Data yang tersedia dalam tahunan, 1985 – 2000. Contoh ini
ingin melihat pengaruh variabel harga pakaian jadi dan variabel kurs
yen terhadap rupiah terhadap variabel nilai ekspor pakaian jadi.
Tahun Nilai Ekspor Harga Pakaian Kurs
1985 3678,8 248,48 5,65
1986 4065,3 331,48 10,23
1987 8431,4 641,88 13,50
1988 15718,0 100,80 13,84
1989 11891,0 536,69 12,66
1990 9349,7 332,25 13,98
1991 14561,0 657,60 15,69
1992 20148,0 928,10 16,62
1993 26776,0 1085,50 18,96
1994 43501,0 1912,20 22,05
1995 49223,0 2435,80 22,50
1996 65076,0 6936,70 20,60
1997 54941,0 3173,14 43,00
1998 58097,0 2107,70 70,67
1999 112871,0 2935,70 71,20
2000 108280,0 3235,80 84,00
Contoh
QUIZ
Seorang pelatih sepakbola sedang mengevaluasi performansi timnya
berdasarkan jumlah kemenangan dalam satu musim kompetisi. Pelatih
tersebut ingin mengetahui bagaimana pengaruh jumlah pelanggaran,
jumlah kartu kuning yang diterima, jumlah kartu merah yang diterima,
jumlah pemain yang cidera, dan biaya transfer pemain dalam sau musim
kompetisi terhadap jumlah kemenangan. Berdasarkan data selama
tahun 2001-2015 didapatkan hasil sebagai berikut:
Jumlah Kemenangan Jumlah Pelanggaran Jumlah Kartu Kuning Jumlah Kartu Merah Jumlah Pemain Biaya Transfer
Tahun
(Y) (X1) (X2) (X3) Cidera (X4) (X5)
2001 30 425 40 6 8 80
2002 32 350 35 5 5 86
2003 28 410 52 12 11 90
2004 25 510 51 13 12 110
2005 32 450 32 6 7 95
2006 35 300 22 2 5 77
2007 29 320 45 6 6 115
2008 27 480 39 11 14 130
2009 30 310 25 9 8 95
2010 25 525 41 12 15 89
2011 26 500 46 9 14 79
2012 25 480 39 11 16 110
2013 30 400 30 6 9 100
2014 32 320 28 3 7 90
2015 28 300 35 5 10 130
a. Tentukan persamaan regresi linier berganda untuk persoalan ini.
b. Berapakah nilai koefisien korelasi parsial dan regresi berganda untuk masalah ini?
c. Lakukan uji linieritas simultan untuk persoalan ini.
d. Lakukan uji multikolinieritas untuk variabel-variabel independen.
Terima Kasih
LANGKAH-LANGKAH PENYELESAIAN REGRESI LINIER BERGANDA DENGAN SPSS
PERSAMAAN REGRESI
Coefficientsa
Standardi
zed
Unstandardized Coefficien
Coefficients ts Correlations Collinearity Statistics
Model B Std. Error Beta t Sig. Zero-order Partial Part Tolerance VIF
1 (Constant) -4067.496 4584.454 -.887 .391
HARGA 7.815 1.819 .397 4.297 .001 .713 .766 .355 .801 1.248
KURS 1001.855 130.307 .709 7.688 .000 .886 .905 .635 .801 1.248
a. Dependent Variable: EKSPOR
KOEFISIEN KORELASI
1. Koefisien Korelasi Berganda
Model Summaryb
Std. Error
Adjusted of the
Model R R Square R Square Estimate Durbin-Watson
1 .955a .911 .898 11177.88 2.162
a. Predictors: (Constant), KURS, HARGA
b. Dependent Variable: EKSPOR
R = 0,955
2. Koefisien Korelasi Parsial
Coefficientsa
Standardi
zed
Unstandardized Coefficien
Coefficients ts Correlations Collinearity Statistics
Model B Std. Error Beta t Sig. Zero-order Partial Part Tolerance VIF
1 (Constant) -4067.496 4584.454 -.887 .391
HARGA 7.815 1.819 .397 4.297 .001 .713 .766 .355 .801 1.248
KURS 1001.855 130.307 .709 7.688 .000 .886 .905 .635 .801 1.248
a. Dependent Variable: EKSPOR
Rekspor-harga = 0,766
Rekspor-kurs = 0,905
KOEFISIEN DETERMINASI
Model Summaryb
Std. Error
Adjusted of the
Model R R Square R Square Estimate Durbin-Watson
1 .955a .911 .898 11177.88 2.162
a. Predictors: (Constant), KURS, HARGA
b. Dependent Variable: EKSPOR
R2 = 0,911
UJI LINIERITAS
1. Uji Linieritas Simultan
• H0 = harga pakaian jadi dan kurs yen - rupiah tidak berpengaruh terhadap nilai ekspor pakaian jadi
H1 = harga pakaian jadi dan kurs yen - rupiah berpengaruh terhadap nilai ekspor pakaian jadi
• = 5%
• Statistik Hitung
ANOVAb
Sum of Mean
Model Squares df Square F Sig.
1 Regression 1.7E+10 2 8.3E+09 66.820 .000 a
Residual 1.6E+09 13 1.2E+08
Total 1.8E+10 15
a. Predictors: (Constant), KURS, HARGA
b. Dependent Variable: EKSPOR
Standardi
zed
Unstandardized Coefficien
Coefficients ts Correlations Collinearity Statistics
Model B Std. Error Beta t Sig. Zero-order Partial Part Tolerance VIF
1 (Constant) -4067.496 4584.454 -.887 .391
HARGA 7.815 1.819 .397 4.297 .001 .713 .766 .355 .801 1.248
KURS 1001.855 130.307 .709 7.688 .000 .886 .905 .635 .801 1.248
a. Dependent Variable: EKSPOR
Variabel X2 terhadap Y
• H0 = kurs rupiah terhadap yen tidak berpengaruh terhadap nilai ekspor pakaian jadi
H1 = kurs rupiah terhadap yen berpengaruh terhadap nilai ekspor pakaian jadi
• = 5%
• Statistik Hitung
Coefficientsa
Standardi
zed
Unstandardized Coefficien
Coefficients ts Correlations Collinearity Statistics
Model B Std. Error Beta t Sig. Zero-order Partial Part Tolerance VIF
1 (Constant) -4067.496 4584.454 -.887 .391
HARGA 7.815 1.819 .397 4.297 .001 .713 .766 .355 .801 1.248
KURS 1001.855 130.307 .709 7.688 .000 .886 .905 .635 .801 1.248
a. Dependent Variable: EKSPOR
thitung = 7,688 Nilai peluang = 0,000
• Daerah Kritis
= n – k – 1 = 16 – 2 – 1 = 13
± t2,5%, 13 = ± 2,160
thitung > t2,5%, 13 atau thitung < -t2,5%, 13 = tolak H0 → 7,688 > 2,160
• Kesimpulan
Tolak H0, artinya kurs rupiah terhadap yen berpengaruh terhadap nilai ekspor pakaian jadi.
UJI MULTIKOLINIERITAS
Harga pakaian jadi
• H0 = terjadi multikolinieritas untuk variabel independen harga pakaian jadi
H1 = tidak terjadi multikolinieritas untuk variabel independen harga pakaian jadi
• = 5%
• Statistik Hitung
Coefficientsa
Standardi
zed
Unstandardized Coefficien
Coefficients ts Correlations Collinearity Statistics
Model B Std. Error Beta t Sig. Zero-order Partial Part Tolerance VIF
1 (Constant) -4067.496 4584.454 -.887 .391
HARGA 7.815 1.819 .397 4.297 .001 .713 .766 .355 .801 1.248
KURS 1001.855 130.307 .709 7.688 .000 .886 .905 .635 .801 1.248
a. Dependent Variable: EKSPOR
Rharga-kurs = -0,446
• Daerah Kritis
Nilai tolerance (TOL) > 0.10 = tolak H0 → 0,801 > 0,10
Nilai variance inflation factor (VIF) < 10 = tolak H0 → 1,248 < 10
Koefisien korelasi antar variabel independen < 0.5 = tolak H0 → -0,466 < 0,5
• Kesimpulan
Tolak H0, artinya tidak terjadi multikolinieritas untuk variabel independen harga pakaian jadi
Kurs rupiah terhadap yen
• H0 = terjadi multikolinieritas untuk variabel independen kurs rupiah terhadap yen
H1 = tidak terjadi multikolinieritas untuk variabel independen kurs rupiah terhadap yen
• = 5%
• Statistik Hitung
Coefficientsa
Standardi
zed
Unstandardized Coefficien
Coefficients ts Correlations Collinearity Statistics
Model B Std. Error Beta t Sig. Zero-order Partial Part Tolerance VIF
1 (Constant) -4067.496 4584.454 -.887 .391
HARGA 7.815 1.819 .397 4.297 .001 .713 .766 .355 .801 1.248
KURS 1001.855 130.307 .709 7.688 .000 .886 .905 .635 .801 1.248
a. Dependent Variable: EKSPOR
Rharga-kurs = -0,446
• Daerah Kritis
Nilai tolerance (TOL) > 0.10 = tolak H0 → 0,801 > 0,10
Nilai variance inflation factor (VIF) < 10 = tolak H0 → 1,248 < 10
Koefisien korelasi antar variabel independen < 0.5 = tolak H 0 → -0,466 < 0,5
• Kesimpulan
Tolak H0, artinya tidak terjadi multikolinieritas untuk variabel independen kurs rupiah terhadap yen
UJI HETEROKESDASTISITAS
Scatterplot
Dependent Variable: EKSPOR
3
Regression Standardized Residual
2
Kesimpulan = tidak terjadi heterokesdastisitas karena
1
0
data menyebar secara acak dan tidak membentuk
-1 pola tertentu
-2
-3
-1.5 -1.0 -.5 0.0 .5 1.0 1.5 2.0 2.5
Std. Error
Adjusted of the
Model R R Square R Square Estimate Durbin-Watson
1 .955a .911 .898 11177.88 2.162
a. Predictors: (Constant), KURS, HARGA
b. Dependent Variable: EKSPOR
Durbin-Watson = d = 2,162
• Daerah Kritis
dL = 0,982 dU = 1,539
dU < d < 4 – dU = 1,539 < d < 2,461 → tolak H0.
• Kesimpulan
Tolak H0, artinya tidak terjadi autokorelasi dalam variabel dependen nilai ekspor pakaian jadi
UJI NORMALITAS
• H0 = variabel nilai ekspor pakaian jadi, harga pakaian jadi, dan kurs rupiah terhadap yen berdistribusi normal
H1 = variabel nilai ekspor pakaian jadi, harga pakaian jadi, dan kurs rupiah terhadap yen tidak berdistribusi
normal
• = 5%
• Statistik Hitung
Unstandardized
Residual
N 16
Normal Parameters a,b Mean 1.182556E-04
Std. Deviation 10406.0400391
Most Extreme Absolute .156
Differences Positive .123
Negative -.156
Kolmogorov-Smirnov Z
.623