Regresi Ganda & Metode Ordinary Least Square (OLS) Teori

Regresi Ganda & Metode Ordinary Least Square (OLS) Teori Analisis Regresi Ganda Anal Analis isis is regr regres esii meru merupa paka kan n anali analisi siss stat statis isti tika ka yang yang digu digunak nakan an untuk untuk menge mengeta tahui hui hubungan antara variabel dependen dengan variabel independen. Apabila hanya terdapat satu variabel dependen dan satu variabel independen disebut analisis regresi sederhana, sedangkan apabila terdapat beberapa variabel independen disebut analisis regresi ganda. Secara umum, model regresi linear ganda dengan variabel dependen Y dan p variabel bebas

dapat

ditulis sebagai berikut: (1) dengan:  adalah nilai variabel dependen dalam pengamatan ke-i  adalah parameter yang tidak diketahui nilainya.  adalah nilai dari variabel independen dari pengamatan ke-i  adalah galat yang bersiat acak dan berdistribusi normal Selai Selain n meng menggun gunak akan an notas notasii di atas atas,, pengg penggun unaa aan n matr matrik ikss terh terhad adap ap regr regres esii line linear  ar  mempunyai banyak keuntungan yaitu menya!ikan bentuk yang ringkas untuk menangani model regresi yang memuat banyak variabel. "ersamaan di atas merupakan pen!abaran dari himpunan n  persamaan simultan:

(#) $$$$$$$$$$$$$$$$$$

%alam lambang matriks men!adi

(&)

"ersamaan di atas !uga dapat ditulis secara sederhana (') eterangan:  adalah vektor pengamatan variabel dependen yang berukuran adalah variabel independen yang berukuran adalah vektor koeisien variabel independen yang berukuran adalah vektor galat yang berukuran menun!ukkan banyaknya pengamatan

Asumsi-asumsi regresi linear klasik adalah sebagai berikut: 1. ilai ilai harapan harapan dari dari galat galat adalah adalah nol, nol,

dan varian variansi si galat galat sama sama yaitu yaitu merupak merupakan an

nilali konstan sebesar #. *alat berdistri berdistribusi busi norma normall dengan rata-rata rata-rata nol dan variansi variansi &. +idak +idak ter!adi ter!adi korelasi korelasi antar antar galat sehingg sehinggaa kovariannya kovariannya adalah adalah nol, '. +idak +idak ter!adi ter!adi korelasi korelasi antara antara variab variabel el bebas

atau tidak terdapat terdapat multikoli multikolinearit nearitas as antara antara

variabel bebas

Metode Ordinary Least Square

eto etode de Ordinary Ordinary Least Square  Square  (S) adalah suatu metode yang digunakan untuk menduga koeisien regresi klasik dengan cara meminimumkan !umlah kuadrat galat yaitu meminimumkan /stimator dalam metode S diperoleh dengan cara meminimumkan (0) dengan

adalah !umlah kuadrat galat (*).

"ada notasi matriks !umlah kuadrat galat,

dapat dituliskan sebagai

(2) 3erdasarkan (&) diperoleh (4) leh karena itu, perkalian matriks galat men!adi

(5)

6ntuk meminimumkan normal.

, maka

diturunkan terhadap

sehingga diperoleh persamaan

Setelah disusun kembali dan mengganti semua parameter dengan estimatornya, sistem  persamaan ini dapat ditulis sebagai

"ersamaan tersebut disebut persamaan normal. ika ditulis dalam lambang matriks maka  bentuknya men!adi

Atau secara lengkap !ika ditulis dalam notasi matriks men!adi:

Sehingga diperoleh estimator untuk S yaitu