REGRESI LINIER SEDERHANA Tugas Mata Kuliah Analisis Regresi
Oleh Annis Kurnia Ramadhani (3115102296) Beni Adam (3115100122)
Pendidikan Matematika Reguler 2010 Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Negeri Jakarta 2013
A. PENDAH PENDAHULU ULUAN AN Sepa Sepanj njan ang g
seja sejara rah h
umat umat
manu manusi sia, a,
oran orang g
mela melaku kuka kan n
peneli penelitia tian n tentan tentang g ada tidakn tidaknya ya hubung hubungan an antara antara dua hal, hal, fenomena, kejadian atau lainnya. Dan ada tidaknya pengaruh antara satu kejadian dengan kejadian lainnya. Oleh karena itu, itu, untu untuk k memp memper ermu muda dah h dala dalam m mela melaku kuka kan n perh perhit itun unga gan n suatu kejadian maka digunakan korelasi dan regresi dalam ilmu statistika. Regr Regres esii meru merupa paka kan n sala salah h satu satu anal analis isis is yang yang bert bertuj ujua uan n untu untuk k
menge engete tettahui ahui
variabel
lain.
peng pengar aruh uh
Dalam
anali alisis
suat su atu u
vari variab abel el
regresi,
terh terhad adap ap
variabel
yang
mempen mempengar garuhi uhi dis disebu ebutt variab variabel/ el/peu peubah bah bebas bebas sedang sedangkan kan variabel yang dipengaruhi disebut variabel/peubah terikat. A. TU TUJU JUAN AN Adapun tujuan dari pembuatan makalah ini yaitu: 1. Member Memberika ikan n infor informas masii dan wawasan wawasan mengena mengenaii apa itu regresi. 2. Menget Mengetahu ahuii pengar pengaruh uh suatu suatu variab variabel el terhad terhadap ap variab variabel el lain dalam analisis regresi 3. Mem Memenuh enuhii tuga tugas s mata ata kuli kuliah ah An Anal alis isis is Regr Regres esii yang yang diampu oleh Dra. Ratnaningsih, M.Si
B. URAIAN URAIAN MATERI MATERI 1. Asumsi Model Regresi Linear Sederhana
Seri Sering ng kali kali dala dalam m prak prakte tek k kita kita berh berhad adap apan an deng dengan an pers persoa oala lan n yang yang meny menyan angk gkut ut sekel sekelom ompo pok k peub peubah ah bila bila diketahui bahwa diantara peubah tersebut terdapat suatu hubu hubung ngan an alam alamia iah. h. Misa Misaln lnya ya dala dalam m indu indust stri ri dike diketa tahu huii bahwa kadar ter hasil suatu proses kimia berkaitan dengan temperature masukan. Mungkin perlu dikembangkan suatu metode peramalan, yaitu suatu cara kerja guna menaksir kadar ter untuk berbagai taraf temperature masukan yang didapat dari data percobaan. Untuk ntuk terdapat
cont contoh oh
ini ini
perbedaan
sep sepanja anjan ng
dan
keb kebany anyakan akan
yang
meny enyang angkut kut
jela elas
peran eranny nya a
ter terapan apann nya
antara
peubah
dalam alam
proses oses
percob percobaan aan.. Sering Seringkal kalii terdap terdapat at su suatu atu peubah peubah terika terikatt yang yang tung tungga gall atau atau yang yang dise disebu butt resp respon on Y. Respon ber bergan gantung tung misalnya
pad pada ,
1
,
2
satu satu
atau atau
lebi lebih h
peub eubah
beb bebas, as,
,…, k, yang yang gala galatt peng penguk ukur uran anny nya a
3
dapat diabaikan. Dalam makalah ini yang akan dibahas adalah regresi linear sederhana, yang hanya menyangkut satu peubah beba bebas. s. Nyat Nyatak akan anla lah h samp sampel el acak acak ukur ukuran an n dengan himpunan
.
Bila
diambil
sampel
tambah tambahan an tepa tepatt sam sama a denga dengan n nilai nilai
maka maka kita kita yakin yakin
har harga
h har arga ga
akan kan
b ber erbe beda da-b -bed eda. a.
Jadi adi
i
pada
pasangan terurut ( i, i) merupakan harga dari sebuah peubah acak Yi. Untuk mudahnya akan ditulis YIx dan ini menyat menyataka akan n peubah peubaha a acak acak Y yang yang berkai berkaitan tan dengan dengan suatu nilai tetap x, dan nyatakan rataan dan variansinya masing-masing dengan µ YIX dan varian variansin sinya ya
. Jelas, Jelas,
bahw bahwa a bila bila
maka aka
i
lam lambang bang YIx YIxi menyatakan
peubah acak Yi dengan rataan µ YIX dan variansinya Regresi Linear Linear bera Istilah Regresi berart rti, i, bahw bahwa a rata rataan an µ YIX berk berkai aita tan n line linear ar den denga gan n
dala dalam m bent bentuk uk per persa sama maan an
linear populasi. µ YIX Koefi Koefisie sien n
. regres regresii
α
dan dan
β
merup erupak akan an
dua
parameter yang ditaksir dari data sampel. Bila taksiran kedua parameter itu masing-masing dinyatakan dengan dan dan
maka maka µ YIX dapat ditaksir ditaksir dengan dengan
dari bentuk bentuk
garis regresi berdasarkan sampel atau garis kecocokan regresi.
Dengan taksiran per perpot potonga ongan n Lamb Lamban ang g
dan
deng dengan an
masing-masing masing-masing menyatakan
su sumbu
digu diguna naka kan n
untu untuk k
dan dan
tanj tanjak akan anny nya. a.
memb membed edak akan an
ant antar ara a
taksiran atau nilai prediksi yang diberikan oleh regresi sampel
dan
nilai
amatan
percobaan
yang
sesungguhnya untuk suatu nilai . Dalam Dalam hal hal regr regres esii line linear ar sede sederh rhan ana, a, yait yaitu u hany hanya a terdapat terdapat peubah peubah bebas dan satu peubah peubah acak terikat terikat Y , datanya dapat disajikan sebagai pasangan pengamatan digu diguna naka kan n gaga gagasa san n
dari dari
. Ak Akan me menolong bi bila pasa pasall sebe sebelu lum mnya nya untu untuk k
mend endefin efinis isik ikan an setia etiap p peuba eubah h acak acak I denga engan n suatu suatu model model statis statisti tika. ka. Bil Bila a dimisa dimisalka lkan n bahwa bahwa semua semua rataan
terletak pada suatu garis lurus, maka setiap
dap dapat ditu itulis lis sederhana. sederhana.
model
sebag ebagai ai
I
regre gresi
linear
,
dengan galat acak
, galat model, haruslah mempunyai
rataan nol. Setiap pengamatan (
) dalam sampel
memenuhi hubungan dengan dengan
nilai nilai yang yang dicapa dicapaii
bila bila
mendap mendapat at nilai nilai
.
Pers Persam amaa aan n di atas atas dapa dapatt dipa dipand ndan ang g seba sebaga gaii mode modell untuk untuk pengam pengamata atan n tungga tunggall
. Demiki Demikian an juga, juga, dengan dengan
menggunakan taksiran atau kecocokan garis regresi
Tiap pasangan pengamatan pengamatan memenuhi , dise disebu butt gala galatt sisa sisa dan dan memb member erik ikan an gala galatt dalam kecocokan model pada titik data ke i. 2. Prosed Prosedur ur untuk untuk Melak Melakuka ukan n Estima Estimasi si Parame Parameter ter
(Metode Kuadrat Kecil) Akan dicari dicari
dan
, taksiran taksiran α dan β , sehingga sehingga jumlah jumlah
kuadr kuadrat at sis sisa a minimu minimum. m. Jumlah Jumlah kuadra kuadratt sis sisa a sering sering pula pula disebu dis ebutt jumlah jumlah kuadra kuadratt galat galat terhad terhadap ap garis garis regres regresii dan dinya inyattakan akan menak enaksi sirr
deng dengan an
JKG. JKG.
para param meter eter
terkecil. Jika meminimumkan
dan
Cara ara
pemin eminim imum uman an
dina dinama maka kan n akan
meto metode de
dicari
untu untuk k
kuad kuadra ratt
sehingga
akan
Bila J diturunkan terhadap
Men Menaksi aksirr
koef koefis isie ien n
dan , maka diperoleh
reg regresi esi
bila bila
dike diketa tah hui
maka taksiran taksiran kuadrat kuadrat terkecil terkecil
samp ampel dan
dari koefisien regresi α dan β dihitung menggunakan rumus :
Contoh soal 1. Tariklah garis regresi untuk data pencemaran pada tabel di
bawah ini ! Tabel 1 Penurunan zat pada (%) 3 7 11 15 18 27 29
Kebutuhan x oksigen kimiawi y(%) 5 11 21 16 16 28 27
Penurunan zat pada (%) 36 37 38 39 39 39 40
Kebutuhan x oksigen kimiawi y(%) 34 36 38 37 36 45 39
30 30 31 31 32 33 33 34 36 36 Jawab :
25 35 30 40 32 34 32 34 37 38
41 42 42 43 44 45 46 47 50
41 40 44 37 44 46 46 49 51
Dari tabel di atas diperoleh ,
,
Jadi, taksiran regresinya adalah 3. Pengujian Pengujian Hipotesis Hipotesis Parame Parameter ter Regresi Regresi Uji Uji mode modell regr regres esii seba sebaik ikny nya a dila dilaku kuka kan n deng dengan an dua dua macam, yaitu : a. Uji Uji Ser Seren enta tak k
Statistik uji yang dipakai untuk melakukan uji serentak ini ini adala dalah h uji F. Uji F dik dikenal enal juga juga deng engan uji uji Anova nova ( Analysis Analysis Of Varians) Varians) yaitu uji untuk melihat bagaimanakah pengaruh pengaruh semua semua variabel variabel prediktor prediktornya nya
secara secara bersamabersama-
sama sama terhad terhadap ap variab variabel el terika terikatny tnya a atau atau untuk untuk mengu menguji ji apakah model regresi yang kita buat baik (signifikan) atau tida tidak k baik baik (non (non sign signif ifik ikan an). ). Jika Jika mode modell sign signif ifik ikan an maka maka model model bis bisa a diguna digunakan kan untuk untuk perama peramalan lan,, sebali sebalikny knya a jika jika non signifikan maka model regresi tidak bisa digunakan untuk untuk peram peramala alan. n. Uji serent serentak ak merupa merupakan kan uji terhad terhadap ap nilai-nilai nilai-nilai koefisien koefisien regresi regresi secara secara bersamabersama-sam sama a dengan dengan hipotesa. Hipotesisnya sebagai berikut : 1.
H0 : β 1
=
β 2
=
...
=
β k
=
0
H1 : β j ≠ 0, j = 1,2,…,k 2. Tent Tentuk ukan an tara taraff nya nyata ta 3.
Daerah
kritik
penerimaan
Daerah kritik penolakan
: F0<
4. Uji Sta Stati tist stik ik
5. Kesimpulan f hitung hitung
f α(v1,v2), H0 gagal tolak
f hitung hitung > f α(v1,v2) , Ho ditolak
:
atau
F0 >
Tabel Analisis Ragam Regresi Linear Sumb er varian si
df
SS
(
)
ˆ −Y Σ Y
Regre si
1
MS
(
2
(
)
(
n
Total
∑ Y
n-1
i
i =1
(
2
2
−
2
1 n
2
S e =
ˆ 2 Σ( X − X ) β
)
Σ X − X
)
ˆ Σ Y −Y
n-2
2
Atau
Σ X − X
Galat
)
ˆ −Y Σ Y
atau
F hitung
(
2
2
S e
)
ˆ Σ Y −Y
2
n −2
n
(
∑ Y )
2
i =1
Dimana:
(Y −Y )
= simpangan total
(Y ˆ −Y )
= simpangan regresi
)
ˆ Y −Y
= simpangan residu
Uji Uji F dapa dapatt dila dilaku kuka kan n deng dengan an memb memban andi ding ngka kan n F hitung dengan F tabel, jika F hitung > dari F tabel, maka Ho di tolak dan H1 diterima dengan kata lain persamaaan gari garis s regr regres esii ters terseb ebut ut tida tidak k bisa bisa kita kita teri terima ma seba sebaga gaii penduga hubungan antara variabel X dengan variabel Y. Bila bentuk hubungan antar variabel X dengan variabel Y suda su dah h dapa dapatt kita kita teri terima ma maka maka kita kita bisa bisa meng menget etah ahui ui seberapa besar keeratan hubungannya (korelasinya).
2
Walau alaup pun
bent bentuk uk
hubu hubung ngan an
ant antara ara
var variabe iabell
X
dengan variabel Y ada dalam bentuk yang benar belum tentu korelasinya korelasinya besar besar karena banyak variabel variabel lain yang turu turutt
memp mempen enga garu ruhi hi peru peruba baha han n vari variab abel el Y. Besa Besarn rnya ya
perubahan variabel Y yang dapat diterangkan oleh variabel X dengan dengan mengg mengguna unakan kan persam persamaan aan garis garis regres regresii yang yang diperoleh disebut koefisien determinan. b. Uji Uji Pars Parsia iall Statistik uji yang dipakai untuk melakukan uji parsial ini adal adalah ah stat statis isti tik k uji uji T. Uji Uji T digu diguna naka kan n untu untuk k meng menguj ujii bagaimana bagaimana pengaruh pengaruh masing-m masing-masing asing variabel variabel bebasnya bebasnya secara secara sendir sendiri-s i-send endiri iri terhad terhadap ap variab variabel el terika terikatny tnya. a. Jika Jika hasil hasil pada pada uji serent serentak ak menun menunjuk jukkan kan bahwa bahwa H0 ditolak, maka perlu dilakukan uji individu dengan hipotesa : 1. H0: β = 0 H1: β ≠ 0 atau H1: β < 0 atau H1: β >0 2. Tentukan taraf nyata 3. Daerah kritik penerimaan : Daerah kritik penolakan : t0<
atau
t0 >
4. Uji statistik ( b − β 1 ) hitung
t
(a − β 0 )
s e
1 n
+
x 2
∑ ( x
i
− x ) 2
= s / e
∑
( X − X ) 2
atau
thitung =
dapat juga ditulis hitung
t
(b − β 1 )
= s / J e xx
Dimana: a = taksiran bagi β 0 b = taks taksir iran an bagi bagi β 1 t
= nilai sebaran t
5. Keputusan: a. H0 ditolak jika thitung > tα/2(n-2) atau thitung < - tα/2(nuntuk lawan alternatif H1:β≠ 0
2)
b. H0 dito ditola lak k jika jika thit thitun ung g < - tα(n-2) untuk untuk lawan lawan alternatif H1: β < 0 c. H0 ditolak jika thitung > tα(n-2) untuk lawan alternatif H1: β > 0 4. Selang Kepercayaan Nilai dugaan bagi parameter yang sesungguhnya bagi α dan β yang didasarkan pada n pengamatan yang diperoleh. Nilai-nilai Nilai-nilai dugaan dugaan lain bagi α dan β yang dapat diperoleh diperoleh melalu melaluii pengam pengambil bilan an contoh contoh beruku berukuran ran n bebera beberapa pa kali kali dapat dipandang sebagai nilai-nilai peubah acak. Selang kepercaya kepercayaan an sebesar sebesar (1-α )100% )100% untuk parameter parameter β adalah adalah
b − tα 2
< β < b+ α t 2 2 ∑ ( X − X ) se
Dapat ditulis juga dengan
∑
( X− X )2 se
b −
< β < b+ J xx
tα s 2
t s
α
J xx 2
Dimana: b = taksiran bagi β1 t
= nilai sebaran t
Seda Sedang ngka kan n
sela selang ng kepe keperc rcay ayaa aan n
sebe sebesa sarr
(1(1-α )100 )100% %
untuk α adalah
a − tα
2
Se
+ < a+ < α n ∑ (x i − x ) 2 1
x 2
t α s 2 e
1
+
n
∑
(x i− x )2 x2
Dapat ditulis juga dengan n tα S ∑ x i2 2 i 1 = < α < a+ a − nJ xx
n
t α
2
S
∑ =i
1
nJ xx
x i2
Dimana: a
= taksiran bagi α
x
= nilai rata-rata x
Contoh soal : 2. Dengan menggunakan nilai taksiran b = 0,903643 pada
contoh soal 1, ujilah hipotesis bahwa β = 1,0 pada taraf keberartian 0,05 lawan tandingan bahwa β < 1,0 Jawab : 1. H0 : β = 1,0
2. H1 : β < 1,0
3. Pil Pilih ih taraf taraf kebera keberart rtian ian 0,05 0,05 4. Daerah Daerah krit kritis is t < -1,699 -1,699 (tab (tabel) el) 5. Hitun itunga gan n
hitung
t
(b − β 1 )
= s / J e xx
=
(0,903 (0,90364 643 3 −1, 0) 3, 2295 2295 / 4152 4152,1 ,18 8
= − 1,92
P ∼ 0,03 diperoleh dari hitungan program komputer 6. Kepu Keputu tusa san n : harg harga a t bera berart rtii pada pada tara taraff 0,03 0,03,, su suat atu u
petunjuk kuat bahwa β < 1,0. H0 ditolak
C. RANG RANGKU KUMA MAN N 1. Regresi adalah garis yang menunjukan hubungan dua
macam variabel (estimating (estimating line). line). Regresi disebut juga den dengan gan
meto etode
stat tatisti istik ka
yang ang
dig digunak unakan an
untu ntuk
membentuk model hubungan antara variabel terikat (Y) dan variabel bebas (X). 2. Regres Regresii ada dua macam macam yaitu yaitu regresi regresi linear linear sederhan sederhana a dan regresi berganda. 3. Analis Analisis is regres regresii merupa merupakan kan sebuah sebuah alat alat stati statisti stik k yang yang memberikan penjelasan tentang pola hubungan antara variabel bebas dan variabel terikat. 4. Analisis Analisis regresi regresi setidak-ti setidak-tidakny daknya a memiliki memiliki 3 kegunaan kegunaan
yaitu untuk tujuan deskripsi dari fenomena data atau
kasus yang sedang diteliti, untuk tujuan kontrol, serta untuk tujuan prediksi. 5. Persam Persamaan aan regres regresii adalah adalah hubung hubungan an antara antara variab variabel el
bebas
dan
terikat,
yang
dicocokkan
pada
data
percobaan, ditandai dengan persamaan prediksi : , Dengan :
6. Uji Uji mode modell regr regres esii seba sebaik ikny nya a dila dilaku kuka kan n deng dengan an dua dua
macam, yaitu uji serentak dan uji parsial. 7. Uji serentak menggunakan statistik uji F yang dikenal
juga dengan uji Anova Analysis (Analysis Of Varians Varians) 8. Interv Interval al konfe konfeden densi si s sebe ebesar sar (1-α )100% )100% untu untuk k param paramete eterr β1 adalah
b − tα 2
< β < b+ α t 2 ∑ ( X − X ) 2 se
∑
2 ( X− X )
se
9. Interval Interval konfi konfidensi densi sebesar sebesar (1(1-α ) untuk untuk α adalah
a − tα
2
Se
+ < a+ < α n ∑ (x i − x ) 2 1
D. TES TES FORM FORMAT ATIF IF
x 2
t α s 2 e
1
+
n
∑
(x i− x )2 x2
1. Nilai 9 orang murid dari suatu kelas pada ujian tengah
sem semeste esterr ( ) dan pada pada ujia ujian n akhir akhir ( ) adala adalah h sebag sebagai ai berikut: 77
50 82
99
71 66
72
81 7 78 8
94 34
96 47
99 85
67 99
68
a. Taksir Taksirlah lah garis garis regr regresi esi linea linearr b.
Taksirlah nilai ujian akhir seorang murid yang
mendapat nilai 85 pada ujian tengah semester. 2. Carilah selang kepercayaan 95% untuk β dalam garis
regresi µ YIX
berdasarkan data nomor 1.
E. PENY PENYEL ELES ESAI AIAN AN 1. Tabel perhitungan
77 50 71 72 81 94 96 99 67
82 66 78 34 47 85 99 99 68 7 07
5 92 9 2 50 0 5 04 1 5 18 4 6 56 1 8 83 6 9 21 6 9 80 1 4 48 9 658
63 1 4 33 0 0 55 3 8 24 4 8 38 0 7 79 9 0 95 0 4 98 0 1 45 5 6 57557
53258
a. Gari Garis s regr regres esii
0.77714
12.06232
Jadi,
persamaan
regresinya
adalah
b. Untuk
,
Jadi, apabila seorang murid mendapatkan nilai 85 pada saat UTS maka nilai UAS nya dapat ditaksir sebesar 78. 70 7
5755
65 8
7
5325 8
∑ y
2 i
=51980
2. Jadi, 2
707 ) Jxx = 57557 – ( = 2018,22 9
2
658 ) Jyy = 51980 – ( = 3872,89 9
Jxy = 53258 –
( 707 ) ( 658 ) 9
= 1568,44
Dari nomor 1, diperoleh b = 0.77714 s 2 =
J yy − bJ xy n−2
=
3872,89 3872,89 − (0,77714)( (0,77714)(156 1568,4 8,44) 4) 9−2
= 379,1418
s = 19, 4716 dari tabel, t0,025 = 2,262 untuk derajat kebebasan 9 jadi, selang kepercayaan 95% untuk untuk β adalah
b −
< β < b+ J xx
tα s 2
0, 77714
t s
α
J xx 2
262)(19, 47 4716) 0 , 7 7 7 1 4 − (2, 26 < < + β 2018, 22
(2, 26 262)(19, 47 4716) 2018, 22
-0,2032 < β < 1,7575 DAFTAR PUSTAKA Draper, N. R. 1992. Analisis Regresi Terapan Edisi Ke 2. Jakarta: PT. Pustaka Gramedia Gramedia Utama Sembiring, R. K. 1995. Analisis Regresi. Regresi. Bandung: Institut Teknologi Bandung Walpole. Ronald E. 1995. Ilmu Peluang dan Statistika untuk Ilmuwan. Ilmuwan. Bandung: Institut Teknologi Bandung Fatwa, Irmaya. 2011. Modul VI : Analisis Regresi. Regresi. Tersedia : http://www.slideshare.net/irmayafatwayukha/hasilmakalah-6 (dia (diaks kses es pada pada 23 Febr Februa uari ri 20 2013 13 puku pukull 08.55 WIB) http://teratainear.blogspot.com/p/m http://teratainear. blogspot.com/p/makalah-regresi-danakalah-regresi-dankorelasi.html?m=1 (diaks (diakses es pada pada 23 Februa Februari ri 2013 2013 pukul 07.30 WIB)