Regresi Linier Berganda Program Studi Teknik Industri Universitas Brawijaya
Ihwan Hamdala, H amdala, ST., ST., MT
Regresi Berganda Menguji hubungan linier antara 1 varia variabel bel depen dependen den (y) (y) dan 2 atau atau lebi lebih h vari variab abel el inde indepe pend nden en (xn) Contoh
Hubu Hubung ngan an anta antara ra suhu suhu ware wareho hous use e dan dan visk viskos osit itas as cat cat deng dengan an jumlah cacat foam mark pada produk Var. independen : suhu warehouse & viskositas cat Var. dependen : jumlah cacat foam mark
Hubu Hubung ngan an anta antara ra kece kecepa pata tan n pela pelaya yana nan n dan dan kual kualit itas as prod produk uk deng dengan an kepua kepuasa san n pela pelang ngga gan n Var. independen : kecepatan pelayanan & kualitas produk Var. dependen : kepuasan pelanggan
Regresi Berganda Menguji hubungan linier antara 1 varia variabel bel depen dependen den (y) (y) dan 2 atau atau lebi lebih h vari variab abel el inde indepe pend nden en (xn) Contoh
Hubu Hubung ngan an anta antara ra suhu suhu ware wareho hous use e dan dan visk viskos osit itas as cat cat deng dengan an jumlah cacat foam mark pada produk Var. independen : suhu warehouse & viskositas cat Var. dependen : jumlah cacat foam mark
Hubu Hubung ngan an anta antara ra kece kecepa pata tan n pela pelaya yana nan n dan dan kual kualit itas as prod produk uk deng dengan an kepua kepuasa san n pela pelang ngga gan n Var. independen : kecepatan pelayanan & kualitas produk Var. dependen : kepuasan pelanggan
Model Regresi Berganda Menguji hubungan linier antara 1 variab variabel el depende dependen n (y) (y) dan dan 2 atau atau lebih lebih variab variabel el indepe independe nden n (x n) Model pd populasi: Y-intercept
Population slopes
y = α + β 1 x1 + β 2 x2
+
Random Error
+ β n xn + ε
Estimasi model regresi berganda: Estimasi (atau prediksi) Nilai y
Estimasi intercept
Estimasi Estimasi koofis koofisien ien slope slope
y = a + b1 x1 + b2 x2 + + bn xn ˆ ˆ
Model Regresi Berganda Model dgn 2 variabel variabel independen independen
y
y = a + b1 x1 + b2 x2 ˆ ˆ
x2
x1
Model Regresi Berganda Model dgn 2 variabel independen
y yi <
yi
Sample observation
y = a + b1 x1 + b2 x2 ˆ
<
e = (y – y)
x2i x2 <
x1i x1
persamaan regresi y yang terbaik diperoleh dengan meminimumkan sum of squared error (jmh kuadrat 2 error)
Asumsi Regresi Berganda Error (residual) dari model regresi: <
e = (y – y)
Error berdistribusi normal
Mean dari error adalah nol
Error memiliki variansi yang konstan
Error bersifat independen
Regresi Berganda
Tentukan tujuan apa yang diinginkan dan pilih variabel dependennya Tentukan sejumlah variabel independen Pengumpulan data sampel (observasi) untuk semua variabel
Mencari Persamaan Regresi Berganda Dapat ditentukan dengan beberapa cara sbb: 1. Metode Kuadrat Terkecil 2. Persamaan Normal 3. Sistem Matriks
1. Metode Kuadrat Terkecil (dgn 2 var independen)
y = a + b1 x1 + b2 x2 ˆ
a Y b1 X 1 b2 X 2 Y =
∑Y
X 1 =
n ∑ X 1
n
X 2 =
∑ X 2
n
1. Metode Kuadrat Terkecil - lanjutan b1 dan b2 Koefisien regresi dicari dgn persamaan
(∑ x2 2 )(∑ x1 y) - (∑ x1 x2 )(∑ x2 y) b1 = 2 2 2 (∑ x1 )(∑ x2 ) - (∑ x1 x2 ) (∑ x12 )(∑ x2 y) - (∑ x1 x2 )(∑ x1 y) b2 = (∑ x12 )(∑ x2 2 )- (∑ x1 x2 )2
1. Metode Kuadrat Terkecil - lanjutan ∑ y 2
∑ x12 ∑ x
2
2
=
=
∑Y 2
∑ X 12 2
-
2
nY
- n X 1
= ∑ X 2 - n X 2
2
2
∑ x1 y
= ∑ X 1Y - n X 1Y
∑ x2 y
= ∑ X 2Y - n X 2 Y
∑ x1 x2 = ∑ X 1 X 2 - n X 1 X 2
Contoh Soal Internal Revenue Service mencoba mengestimasi pajak aktual yang tak terbayar tiap bulan di divisi Auditing. Dua faktor yang mempengaruhinya adalah jumlah jam kerja pegawai dan jumlah jam kerja mesin (komputer). Untuk menganalisis seberapa besar kedua faktor itu mempengaruhi besarnya pajak aktual tak terbayar tiap bulan, dilakukan pencatatan selama 10 bulan dengan data ditunjukkan pada tabel berikut.
Cari persamaan regresi linier bergandanya!
Contoh Soal-lanjutan X1
X2
Y (Rp 1000)
Jam kerja pegawai
Jam kerja mesin/komputer
Pajak aktual yang tidak dibayar
Januari
45
16
29
Pebruari
42
14
24
Maret
44
15
27
April
45
13
25
Mei
43
13
26
Juni
46
14
28
Juli
44
16
30
Agustus
45
16
28
September
44
15
28
Oktober
43
15
27
Bulan
Jawab n ke
X1
X2
X1Y
Y
X2Y
X1X2
2
X1
2
X2
Y
1
45
16
29
1.305
464
720
2.025
256
841
2
42
14
24
1.008
336
588
1.764
196
576
3
44
15
27
1.188
405
660
1.936
225
729
4
45
13
25
1.125
325
585
2.025
169
625
5
43
13
26
1.118
338
559
1.849
169
676
6
46
14
28
1.288
392
644
2.116
196
784
7
44
16
30
1.320
480
704
1.936
256
900
8
45
16
28
1.260
448
720
2.025
256
784
9
44
15
28
1.232
420
660
1.936
225
784
10
43
15
27
1.161
405
645
1.849
225
729
Rata2
44,1
14,7
27,2
Total
441
147
272 12.005
4.013
6.485 19.461
2.173
7.428
Jawab - lanjutan ∑ y
2
2
2
2
= ∑Y - nY = 7 .428 - ( 10 )( 27 ,2 ) = 29 ,6
2 2 2 2 ∑ ∑ x1 = X 1 - n X 1 = 19.461 - ( 10 )( 44 ,1 ) = 12 ,9
∑ x
2
2
∑ 2 = X 2 - n X 2
2
2
= 2.173 - ( 10 )( 14 ,7 ) = 12 ,1
∑ x1 y
= ∑ X 1Y - n X 1Y = 12.005 - ( 10 )( 44 ,1 )( 27 ,2 ) = 9 ,8
∑ x2 y
= ∑ X 2Y - n X 2 Y = 4.013 - ( 10 )( 14 ,7 )( 27 ,2 ) = 14 ,6
∑ x1 x2
= ∑ X 1 X 2 - n X 1 X 2 = 6 .485 - ( 10 )( 44 ,1 )( 14 ,7 ) = 2 ,3
Jawab - lanjutan (∑ x22 )(∑ x1 y) - (∑ x1 x2 )(∑ x2 y) ( 12 ,1 )( 9 ,8 ) - ( 2 ,3 )( 14 ,6 ) = = 0 ,564 b1 = 2 2 2 2 (∑ x1 )(∑ x2 )- (∑ x1 x2 ) ( 12 ,9 )( 12 ,1 ) - ( 2 ,3 ) (∑ x12 )(∑ x2 y)- (∑ x1 x2 )(∑ x1 y) ( 12 ,9 )( 14 ,6 ) - ( 2 ,3 )( 9 ,8 ) = = 1 ,099 b2 = 2 2 2 2 (∑ x1 )(∑ x2 )- (∑ x1 x2 ) ( 12 ,9 )( 12 ,1 ) - ( 2 ,3 ) a = Y - b1 X 1 - b2 X 2 = 27 ,2 - ( 0 ,564 )( 44 ,1 ) - ( 1 ,099 )( 14 ,7 ) =
- 13 ,828
Sehingga diperoleh persamaan regresi linier berganda yaitu:
Y = -13,828 + 0,564X1 + 1,099X2
Interpretasi persamaan regresi berganda Persamaan regresi linier berganda Y = -13,828 + 0,564X1 + 1,099X2 Nilai a = -13,828 Jika jam kerja pegawai (X1) dan jam kerja mesin (X2) keduanya bernilai nol, maka estimasi besarnya pajak tertunda (Y) sebesar -13,828
Nilai b1 = + 0,564 • Hubungan antara jam kerja pegawai (X1) dengan pajak tertunda (Y) • Jika jam kerja mesin (X2) adalah konstan, maka setiap kenaikan nilai jam kerja pegawai (X1) sebesar satu satuan akan meningkatkan pajak tertunda (Y) sebesar 0,564 satuan, Nilai b2 = + 1,099 • Hubungan antara jam kerja mesin (X2) dengan pajak tertunda (Y) • Jika jam kerja pegawai (X1) adalah konstan, maka setiap kenaikan nilai jam kerja mesin (X2) sebesar satu satuan akan meningkatkan pajak tertunda (Y) sebesar 1,099 satuan
2. Persamaan Normal
=
+
1
1
+
2
2
1
=
1
+
1
2 1
+
2
1
2
2
=
2
+
1
1
2
+
2
2 2
Contoh (dari soal sebelumnya) n ke
X1
X2
X1Y
Y
X2Y
X1X2
2
X1
2
X2
Y
2
1
45
16
29
1.305
464
720
2.025
256
841
2
42
14
24
1.008
336
588
1.764
196
576
3
44
15
27
1.188
405
660
1.936
225
729
4
45
13
25
1.125
325
585
2.025
169
625
5
43
13
26
1.118
338
559
1.849
169
676
6
46
14
28
1.288
392
644
2.116
196
784
7
44
16
30
1.320
480
704
1.936
256
900
8
45
16
28
1.260
448
720
2.025
256
784
9
44
15
28
1.232
420
660
1.936
225
784
10
43
15
27
1.161
405
645
1.849
225
729
Rata2
44,1
14,7
27,2
Total
441
147
272 12.005
4.013
6.485 19.461
2.173
7.428
Jawab
Jawab – lanjutan
Diperoleh persamaan: Y = -13,828 + 0,564X1 + 1,099X2
=
3. Sistem Matriks Dari persamaan normal disusun dalam bentuk matriks
X X X X X X X X Y X X X Y X X X X Y X X X
n A X 1 X 2 A1
1 2 1
2
1
2
2
1
2
2
1 2 1
1
2
1
2
2
2
a
det A1 det A
1
2
b1
2
det A2 det A
n A2 X 1 X 2
n A3 X 1 X 2
b2
Y X Y X Y X X X X
det A3 det A
1
2
1 2 1
1
2
X X X X Y X Y X Y 2
1
2
2
2
1
2
Mencari Determinan Matriks Untuk mencari determinan matriks berordo 3 x 3 dapat dengan beberapa metode, salah satunya dengan metode Sarrus. Misal ada sebuah matriks B.
Maka
Persamaan regresi berganda dengan 3 variabel bebas
Persamaan regresi berganda dengan 3variabel bebas
Persamaan regresi berganda dengan 3 variabel bebas
Kesalahan Baku & Koefisien Regresi Berganda Kesalahan baku : nilai yang menyatakan seberapa jauh menyimpangnya nilai regresi terhadap nilai yang sebenarnya
S e Sb1 =
2
x1 y b2
x2 y
m = k+1 k = jmh var bebas
nm S e
(∑ X
2
- n X 1
1
r Y .1
y b1
1
2
)(1 - r
Y .1
2
)
S e
X
2
2
X X X X X n X X
n
n X
2
Sb2
1
2
1
2
2
1
2
2
2
2
n X 2 1 r Y .1 2
2
Koefisien Korelasi antara X1 dan X2
Kesalahan Baku & Koefisien Regresi Berganda Pada contoh soal sebelumnya
y b x y b x y 2
S e
S e =
1
1
2
2
nm 29 ,6 - ( 0 ,56 ( 9 ,8 ) + 1 ,10( 14 ,6 ) 10 - 3
= 1 ,071
Dgn persamaan pd slide sebelumnya bisa diperoleh nilai Sb1 dan Sb2:
Interval Keyakinan Bagi penduga B1 dan B2 Pengujian menggunakan distribusi t dengan derajat bebas (db) = n – m, Dengan contoh soal sebelumnya, dgn ∝ =5%, db = n – m = n – k -1 = 10 – 2 - 1 = 7, maka: Interval keyakinan bagi penduga B 1 adalah b1 – t(α/2, n-k-1).Sb1< B1 < b1 + t(α/2, n-k-1).Sb1 0,564 – (2,365)(0,303) < B 1 < 0,564 + (2,365)(0,303) -0,153 < B1 < 1,281 Interval keyakinan bagi penduga B2 adalah B2 – t(α/2, n-k-1).Sb2 < B2 < b2 + t(α/2, n-k-1).Sb2 1,099 – (2,365)(0,313) < B 2 < 1,099 – (2,365)(0,313) 0,359 < B2 < 1,839
Pengujian Parameter Koefisien Regresi Berganda Bertujuan untuk menentukan apakah ada sebuah hubungan linear antar variabel tidak bebas Y dengan variabel bebas X 1, X2,… ,Xk. Ada 2 bentuk pengujian hipotesis bagi koefisien regresi berganda: 1. Pengujian hipotesis serentak 2. Pengujian hipotesis individual Pengujian Hipotesis Serentak Merupakan pengujian hipotesis koefisien regresi berganda dengan B1 dan B2 serentak atau secara bersama-sama mempengaruhi Y. Pengujian Hipotesis individual Merupakan pengujian hipotesis koefisien regresi berganda dengan hanya satu B (B1 atau B2 ) yang mempengaruhi Y.
Pengujian Hipotesis Serentak Langkah-langkah pengujian: 1. Menentukan formulasi hipotesis
H0 : B1 = B2 = 0 (X1 dan X2 tidak mempengaruhi Y) H1 : B1 B2 0 (X1 dan X2 mempengaruhi Y atau paling tidak ada X yang mempengaruhi Y
2. Menentukan taraf nyata ( ) dan nilai F tabel
Taraf () dan nilai F tabel ditentukan dengan derajat bebas 1 = k dan 2 = n - k -1
F(1)(2) = …….
Pengujian Hipotesis Serentak lanjutan Langkah-langkah pengujian: 3. Menentukan kriteria pengujian H0 diterima jika F0 ≤ F(1)(2) H0 ditolak jika F0 > F(1)(2) 4. Menentukan nilai uji statistik dengan tabel ANOVA Sumber Variasi
Jumlah Kuadrat
Derajat Bebas
Rata-rata Kuadrat
F0
Regresi
JKR
k
JKR k
RKR
(X1, X2) Error
JKE
n – k - 1
Total
JKT
n-1
JKE n - k -1
RKE
Pengujian Hipotesis Serentak lanjutan 2
2
2
JKT = ∑ y = ∑Y - nY
JKR b1 x1 y b2 x2 y
atau
JKR = b1 (∑ X 1Y - n X 1Y ) + b2 (∑ X 2Y - n∑ X 2 Y ) JKE = JKT - JKR
Selain menggunakan tabel ANOVA di atas, nilai Fo dapat pula ditentukan dengan menggunakan rumus:
KPB F 0
2 1 KPB (n 3)
Dimana: KPB = (R2) = koefisien penentu atau koefisien determinasi berganda n = jumlah sampel
Pengujian Hipotesis Serentak lanjutan KPB = (R2) = koefisien penentu atau koefisien determinasi berganda
1 + 2 2 1 2 = 2 5. Membuat kesimpulan Menyimpulkan apakah H0 diterima atau ditolak
Pengujian Hipotesis Individual Langkah-langkah pengujian: 1. Menentukan formulasi hipotesis H0 : Bi = 0 (tidak ada pengaruh Xi terhadap Y) H1 : Bi > 0 (ada pengaruh positif Xi terhadap Y) Bi < 0 (ada pengaruh negatif Xi terhadap Y) Bi ≠ 0 (ada pengaruh Xi terhadap Y) 2. Menentukan taraf nyata ( ) dan nilai t tabel db = n - k
Pengujian Hipotesis Individual lanjutan Langkah-langkah pengujian: 3. Menentukan kriteria pengujian H0 diterima jika t0 ≥ t (n-m) H0 ditolak jika t0 < t (n-m) 4. Menentukan nilai uji statistik
5. Membuat kesimpulan
Latihan
Coba uji secara 2 arah parameter B1 dan B2 dengan menggunakan taraf nyata sebesar = 0,05 dari soal di atas secara individual maupun serentak!
Jawab (pengujian individual) 1. Menentukan formulasi hipotesis H0 : B1 = 0 (tidak ada pengaruh X1 terhadap Y) H1 : B1 ≠ 0 (ada pengaruh X1 terhadap Y) Dan H0 : B2 = 0 (tidak ada pengaruh X2 terhadap Y) H1 : B2 ≠ 0 (ada pengaruh X2 terhadap Y) 2. Menentukan taraf nyata ( ) dan nilai t tabel ∝
= 0,05
derajat bebas = 10 – 3 =7 t (0,025;7) = 2,365
Jawab (pengujian individual)lanjutan 3. Menentukan kriteria pengujian H0 diterima jika ti < t (0,025;7) = 2,365 dan ti > t (0,025;7) = - 2,365 H0 ditolak jika ti > t (0,025;7) = 2,365 dan ti < t (0,025;7) = - 2,365
4. Menentukan nilai uji statistik Untuk uji B1
Untuk uji B2
Jawab (pengujian individual)lanjutan 5. Kesimpulan Karena t1
1,859 < 2,365
Maka terima hipotesis H0 : B1 = 0 Karena t2
3,511 > 2,365
Maka tolak Ho : B2 = 0 Berarti:
tidak ada hubungan linier antara variabel X1 dgn Y
ada hubungan linier antara variabel X2 dgn Y
Latihan Soal Keputusan konsumen untuk membeli suatu produk dipengaruhi oleh promosi dan harga. Dari data observasi diperoleh data sebagai berikut. No
Promosi Harga Keputusan Konsumen
Responden
(X1)
(X2)
(Y)
1
10
7
23
2
2
3
7
3
4
2
15
4
6
4
17
5
8
6
23
6
7
5
22
7
4
3
10
8
6
3
14
9
7
4
20
10
6
3
19
Jumlah
60
40
170