Diktat StatMat I

DIKTAT KULIAH STATISTIKA MATEMATIKA I

Disusun Oleh Dr.rer.nat. Wayan Somayasa, S.Si., M.Si.

FMIPA UNHALU-KENDARI

KENDARI 2008

Table of Contents Table of Contents

1

1 Statistik dan distribusi sampling 1.1 Sampel random . . . . . . . . . . . . . . 1.2 Statistik . . . . . . . . . . . . . . . . . . 1.3 Distribusi sampling dari populasi normal 1.3.1 Distribusi chi-kuadrat . . . . . . 1.3.2 Distribusi t student . . . . . . . . 1.3.3 Distribusi F . . . . . . . . . . . . 1.4 Soal-soal . . . . . . . . . . . . . . . . . . 2 Estimasi titik 2.1 Metode momen . . . . . . . . . . . . . . 2.2 Estimator dengan likelihood terbesar . 2.2.1 Kasus satu parameter (k = 1) . . 2.2.2 Kasus k parameter . . . . . . . . 2.3 Keriteria-keriteria memilih estimator . . 2.3.1 Ketakbiasan . . . . . . . . . . . . 2.3.2 Keterkonsentrasian dan UMVUE 2.4 Soal-soal . . . . . . . . . . . . . . . . . . 3 Statistik cukup, keluarga 3.1 Statistik cukup . . . . 3.2 Keluarga lengkap . . . 3.3 Keluarga eksponensial 3.4 Soal-soal . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

lengkap dan keluarga . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

eksponensial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . .

. . . . . . .

3 3 6 7 9 13 15 17

. . . . . . . .

18 20 21 22 23 26 26 27 32

. . . .

33 33 42 44 46

2

4 Estimasi interval 4.1 Metode kuantitas pivot (pivotal quantity) . . 4.1.1 Membandingkan dua populasi normal 4.2 Metode umum . . . . . . . . . . . . . . . . . 4.2.1 Kasus h1 dan h2 monoton naik . . . 4.2.2 Kasus h1 dan h2 monoton turun . . . 4.3 Soal-soal . . . . . . . . . . . . . . . . . . . .

. . . . . .

. . . . . .

. . . . . .

5 Uji hipotesis 5.1 Pendahuluan . . . . . . . . . . . . . . . . . . . . 5.1.1 Menentukan daerah kritik . . . . . . . . . 5.1.2 Nilai p (p-value) . . . . . . . . . . . . . . . 5.2 Metode memilih tes terbaik . . . . . . . . . . . . 5.2.1 Tes UMP untuk hipotesis sederhana . . . 5.2.2 Tes UMP untuk hipotesis komposit . . . . 5.2.3 Keluarga monotone likelihood ratio (MLR) 5.3 Tes dengan membandingkan fungsi likelihood . . . 5.4 Soal-soal . . . . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . . . . . . . . . . .

. . . . . .

47 50 54 57 57 59 60

. . . . . . . . .

62 62 64 68 70 70 73 75 79 82

6 Teori sampel besar

85

7 Teori Bayes

86

8 Estimasi dengan metode bootstrap

87

Chapter 1 Statistik dan distribusi sampling Pada bagian ini kita akan membahas konsep tentang statistik (engl.: statistic) dan distribusi sampling. Harap diperhatikan perbedaan antara statistik dan statistika (engl.: statistics). Sebelumnya kita akan mengajak pembaca untuk membahas pengertian sampel random dan peranannya dalam statistika.

1.1

Sampel random

Misalkan seorang peneliti tertarik untuk mengamati proporsi ikan tuna yang tersebar di teluk Kendari. Tentu saja proporsi ini tidak diketahui kecuali kalau si peneliti tadi bisa menghitung semua ikan yang hidup di teluk Kendari dan kemudian menghitung berapa bagian dari total jumlah ikan tadi yang merupakan ikan tuna. Apakah ini mungkin dilakuan? Berapa banyak waktu, biaya dan tenaga yang perlu diinvestasikan kalau cara ini yang ditempuh? Sebagai statistikawan kita bisa membantu si peneliti tadi dengan statistika sebagai berikut. Kita misalkan populasi ikan di teluk Kendari sebagai ruang probabilitas 3

4

(Ω, F, P). Misalkan ΩT adalah himpunan semua ikan tuna, maka proporsi ikan tuna dalam populasi itu adalah P(ΩT ) =

]ΩT ]Ω

, yaitu jumlah ikan tuna dibagi jumlah ikan

keseluruhan. Kita misalkan konstanta yang tidak diketahui ini sebagai p ≥ 0. Misalkan X : Ω → R adalah indikator dari ΩT , yaitu suatu fungsi yang didefinisikan sebagai berikut

( X(ω) :

1 : jika ω ∈ ΩT 0 : jika ω 6∈ ΩT

.

Maka X adalah sebuah variabel random (fungsi terukur) Bernoulli yang mengambil nilai pada ruang sampel (R, B, PX ), dimana untuk setiap himpunan bagian B ∈ B, PX (B) := P{ω ∈ Ω : X(ω) ∈ B}. Misalkan ambil kasus dimana B = {1}, maka PX ({1}) := P{ω ∈ Ω : X(ω) = 1} = P(ΩT ) = p. Selanjutnya PX disebut sebagai distribusi peluang dari X. Sebaliknya kalau B = {0}, maka PX ({0}) := P{ω ∈ Ω : C X(ω) = 0} = P(ΩC T ) = 1 − p, dimana ΩT adalah komplemen dari ΩT . Jadi model

distribusi peluang ikan tuna di teluk Kendari di gambarkan oleh model distribusi peluang dari X dengan fungsi densitas fX (x) := PX ({x}) = P{X = x} = px (1−p)1−x , x = 0, 1. Selanjutnya fX (x) disebut sebagai fungsi densitas populasi. Misalkan dari suatu eksperimen yang dilakukan misalkan dengan memancing ikan lalu mencatat hasilnya pada setiap pemancingan sebagi 1 jika yang didapat adalah tuna dan 0 jika hasilnya bukan ikan tuna. Andaikan pemancingan dilakukan n kali, maka data yang diperoleh adalah x1 , . . . , xn , dengan xi ∈ {0, 1}, i = 1, . . . , n. Dalam statistika kita memandang data sebagai realisasi (nilai) dari variabel random X1 , . . . , Xn yang terdefinisi pada (Ω, F, P), yaitu Xi (ω) = xi , untuk suatu ω ∈ Ω, i = 1, . . . , n. Kita nyatakan distribusi peluang bersama dari X1 , . . . , Xn dengan ⊗ni=1 PXi yang terdefinisi pada (Rn , B n ). Definisi 1.1.1. Suatu himpunan random variable {X1 , . . . , Xn } dikatakan sebagai

5

sampel random berukuran n dari suatu populasi X, jika dan hanya jika ⊗ni=1 PXi {⊗ni=1 (−∞, ti ]} = Πni=1 PXi ((−∞, ti ]) = Πni=1 PX ((−∞, ti ]), dimana ⊗ni=1 (−∞, ti ] := (−∞, t1 ]×· · ·×(−∞, tn ]. Jika populasi X mempunyai fungsi densitas f (x), maka {X1 , . . . , Xn } dikatakan sebagai sampel random berukuran n dari suatu populasi X, jika dan hanya jika fX1 ,...,Xn (x1 , . . . , xn ) = Πni=1 f (xi ). Jadi suatu sampel random harus memenuhi kondisi dimana X1 , . . . , Xn saling independen dan masing-masing mempunyai distribusi peluang yang sama dengan distribusi peluang populasinya (sering juga dikatakan i.i.d sebagai singkatan dari independent and identically distributed). Kembali ke kasus semula jika pada setiap pemancingan (trial) ikan dilepas lagi, maka hasil berikutnya tidak akan terpengaruh dari hasil sebelumnya (saling independen) dan masing-masing akan mengikuti distribusi yang sama yaitu Bernoulli dengan parameter p. Jadi eksperimen kita akan menghasilkan sampel random berukuran n dari populasi ikan tuna di teluk Kendari. Sebagai contoh lain, misalkan suatu pabrik lampu dalam setahun memproduksi 500000 lampu pijar dengan jenis yang sama, misalkan jenis A. Karena suatu hal, daya tahan lampu yang dihasilkan ternyata berbeda-beda. Andaikan produsen tertarik untuk menyelidiki proporsi lampu yang mempunyai daya tahan sesuai spesifikasi tertentu, misalkan daya tahannya melebihi t jam. Andaikan populasi lampu jenis A dimisalkan sebagai ruang (Ω, F, P) dan Y : (Ω, F, P) → (R≥0 , B(R≥0 ), PY ) dengan

6

Y (ω) adalah daya tahan bola lampu ω ∈ Ω. Andaikan Y mengikuti distribusi exponensial dgn parameter θ > 0, maka proporsi bola lampu jenis A yang daya tahanR∞ nya lebih dari atau sama dengan t jam adalah PY ([t, ∞)) = t 1θ exp{−y/θ}dy = exp{−t/θ}, t ≥ 0. Andaikan Y1 , . . . , Yn adalah sampel random dari populasi Y , maka P ⊗ni=1 PYi (⊗ni=1 [ti , ∞)) = Πni=1 exp{−ti /θ} = exp{− 1θ ni=1 ti }.

1.2

Statistik

Pada subbab sebelumnya kita mengenal p dan θ sebagai konstanta-konstanta (parameterparameter) yang tidak diketahui nilainya. Tujuan dari statistika adalah merumuskan suatu konsep inferensi atau pendugaan terhadap parameter-parameter tersebut. Alat utama yang digunakan adalah apa yang disebut statistik. Definisi 1.2.1. Misalkan {X1 , . . . , Xn } adalah himpunan n ∈ N variabel random teramati dari suatu populasi tertentu.

Statistik adalah sembarang fungsi T :=

t(X1 , . . . , Xn ) yang tidak bergantung pada sembarang parameter yang tidak diketahui. Selanjutnya distribusi dari suatu statistik disebut distribusi sampling. Catatan: Pada Definisi 1.2.1 kata teramati mengandung pengertian bahwa melalui suatu eksperimen n titik data yang diperoleh adalah realisasi dari X1 , . . . , Xn . Variabel-variabel ini harus teramati, karena kalau tidak, maka fungsi t tidak bisa dihitung. Contoh 1.2.2. Misalkan X1 , . . . , Xn adalah sampel random dari suatu populasi den¯ := 1 Pn Xi and variansi gan mean µ dan variansi σ 2 > 0. Mean sampel X i=1 n P n 1 ¯ 2 sampel S 2 := n−1 i=1 (Xi − X) merupakan statistik dengan sifat-sifat sebagai berikut:

7

¯ = µ and V ar(X) ¯ = σ 2 /n. 1. E(X) 2. E(S 2 ) = σ 2 and V ar(S 2 ) = n1 (µ04 −

n−3 4 σ ), n−1

dengan µ04 := E(X 4 ).

Untuk kasus penyelidikan ikan tuna di teluk Kendari, proporsi sampel adalah pˆ := Pn 1 p) = p dan V ar(ˆ p) = p(1 − p). i=1 Xi , dengan Xi i.i.d. Bin(1, p). Maka E(ˆ n

1.3

Distribusi sampling dari populasi normal

Pada bagian ini kita akan mempelajari distribusi dari beberapa statistik yang merupakan fungsi dari sampel random dari populasi normal. Kita batasi pembicaraan pada populasi normal saja karena selain secara matematika mudah diturunkan, juga karena model distribusi ini banyak dipakai di lapangan. Teorema 1.3.1. Misalkan X1 , . . . , Xn saling independen dan berdistribusi N (µi , σi2 ). P P P Maka Y := ni=1 ai Xi ∼ N ( ni=1 ai µi , ni=1 a2i σi2 ), untuk ai ∈ R, i = 1, . . . , n. Proof. Hasil ini dapat dibuktikan dengan konvolusi dari variabel random normal. Yaitu jumlah dari beberapa variabel random normal adalah normal. Karena distribusi normal ditentukan secara tunggal hanya oleh mean dan variansinya, berarti P kita hanya perlu menghitung mean dan variansi dari Y yang diberikan oleh ni=1 ai µi P dan ni=1 a2i σi2 . Cara lain adalah dengan metode ketunggalan fungsi pembangkit momen (Moment Generating Functions/MGF). Secara umum jika X ∼ N (µ, σ 2 ), maka 1 MX (t) = exp{tµ + t2 σ 2 }, t ∈ R. 2 Karena Xi saling independen, maka berlaku 1 MY (t) = Πni=1 MXi (ai t) = Πni=1 exp{tai µi + t2 a2i σi2 } 2

(1.3.1)

8

= exp{t

n X i=1

n

1 X 2 2 ai µi + t2 a σ }. 2 i=1 i i

(1.3.2)

Selanjutnya dengan membandingkan (1.3.1) dan (1.3.2), teorema terbukti. Contoh 1.3.2. Misalkan X1 , . . . , Xn1 dan Y1 , . . . , Yn2 merupakan dua sampel random yang saling bebas masing-masing berukuran n1 dan n2 . Jika Xi ∼ N (µ1 , σ12 ) dan Yj ∼ ¯ − Y¯ ∼ N (µ1 − µ2 , σ12 /n1 + σ22 /n2 ). N (µ2 , σ22 ), i = 1, . . . , n1 dan j = 1, . . . , n2 , maka X Proof. Pernyataan ini dapat ditunjukan dengan menggunakan secara langsung hasil ¯ − Y¯ = pada Teorema 1.3.1 dan kenyataan X

1 X + . . . + n11 Xn1 n1 1

− n12 Y1 − . . . − n12 Yn2 .

Cara lain adalah dengan metode MGF sebagai berikut: MX− ¯ Y¯ (t) = MX ¯ (t)MY¯ (−t) (kedua sampel saling independen) 1 2 = Πni=1 MXi (t/n1 )Πnj=1 MYj (−t/n2 ) ½ ¾ ½ ¾ t −t 1 t2 2 1 t2 2 n1 n2 = Πi=1 exp µ1 + σ Πi=1 exp µ2 + σ n1 2 n21 1 n2 2 n22 2 ½ ¾ 1 2 2 2 = exp t(µ1 − µ2 ) + t (σ1 /n1 + σ2 /n2 ) . 2

Persamaan yang terakhir adalah MGF dari N (µ1 − µ2 , σ12 /n1 + σ22 /n2 ). Contoh 1.3.3. Dari hasil pada Contoh 1.3.2 tentukan suatu konstanta c sedemikian hingga 95% dari populasinya mempunyai selisih mean sampel lebih dari c. Jawab: Dengan menggunakan transformasi variabel diperoleh ( ) ¯ − Y¯ ) − (µ1 − µ2 ) ª © ( X c − (µ − µ ) 1 2 ¯ − Y¯ ≥ c = 0, 95 ⇔ P p P X ≥p 2 = 0, 95. σ12 /n1 + σ22 /n2 σ1 /n1 + σ22 /n2 ¯

¯

X−Y )−(µ1 −µ2 ) Selanjutnya karena (√ ∼ N (0, 1), maka konstanta c adalah penyelesaian 2 2 σ1 /n1 +σ2 /n2

dari persamaan c − (µ1 − µ2 ) p = z0,05 ⇒ c = (µ1 − µ2 ) + z0.05 σ12 /n1 + σ22 /n2

q σ12 /n1 + σ22 /n2 .

9

1.3.1

Distribusi chi-kuadrat

Definisi 1.3.4. Suatu variabel random X dikatakan berdistribusi chi-kuadrat dengan derajat bebas ν (X ∼ χ2 (ν)), jika dan hanya jika X ∼ Gamma(2, ν/2). Remark 1.3.5. Sifat-sifat distribusi chi-kuadrat dapat diturunkan langsung dari sifatsifat distribusi Gamma. Jika X ∼ χ2 (ν), maka 1. MX (t) = (1 − 2t)−ν/2 , 2. E(X r ) = 2r Γ(ν/2+r) , r ∈ Z, Γ(ν/2) 3. E(X) = ν dan V ar(X) = 2ν. Teorema 1.3.6. Jika X ∼ Gamma(θ, κ), maka 2X/θ ∼ χ2 (2κ). Proof. Bukti yang paling sederhana adalah dengan metode ketunggalan MGF: µ ¶−κ 2t M 2X (t) = MX (2t/θ) = 1 − θ = (1 − 2t)−2κ/2 . θ θ Jadi terbukti 2X/θ ∼ χ2 (2κ). Contoh 1.3.7. Andaikan bahwa daya tahan batu batrai yang diproduksi oleh suatu pabrik mengikuti distribusi Gamma(θ, κ). Jika pabrik ingin memberikan suatu jaminan bahwa 90% dari produknya mempunyai daya tahan lebih dari t0 tahun, maka tentukan t0 . Jawab: Andaikan X adalah daya tahan batu batrai dalam satuan tahun. Yang ingin ditentukan oleh pabrik adalah t0 sedemikian hingga P{X ≥ t0 } = 0, 90. Tetapi dari Teorema 1.3.6, P{2X/θ ≥ 2t0 /θ} = 0, 90. Maka t0 = χ20,10 (2κ)/2. Disini χ2α (2κ) adalah suatu konstanta yang memenuhi persamaan P{χ2 (2κ) ≤ χ2α (2κ)} = α atau disebut juga pesensil ke alpha dari distribusi χ2 (2κ).

10

Teorema berikut memberikan hasil yang sangat penting dari distribusi chi-kuadrat. Teorema 1.3.8. Misalkan Y1 , . . . , Yn saling independen dan Yi ∼ χ2 (νi ). Maka V = Pn Pn 2 i=1 Yi ∼ χ ( i=1 νi ). Proof. Kita buktikan hasil ini dengan ketunggalan MGF. Dari asumsi bahwa Yi saling independen berlaku: MV (t) = Πni=1 (1 − 2t)−νi /2 = (1 − 2t)− P MGF dari χ2 ( ni=1 νi ).

Pn

i=1

νi /2

yang merupakan

Hasil berikut menjelaskan hubungan antara distribusi normal standar dan distribusi chi-kuadrat. Teorema 1.3.9. Jika Z ∼ N (0, 1), maka Z 2 ∼ χ2 (1). Proof. ¡

2

¢

Z

∞

1 √ exp{tz 2 − z 2 /2}dz 2π −∞ Z ∞ √ 1 − 2t 1 √ exp{−z 2 (1 − 2t)/2}dz =√ 1 − 2t −∞ 2π

MZ 2 (t) = E exp{tZ } =

= (1 − 2t)−1/2 , yang merupakan MGF dari χ2 (1). Akibat 1.3.10. Jika X1 , . . . , Xn adalah sampel random dari populasi N (µ, σ 2 ), maka berlaku: 1. 2.

Pn i=1

(Xi −µ)2 σ2

2 ¯ n(X−µ) σ2

∼ χ2 (n),

∼ χ2 (1).

Pada Contoh 1.3.2 kita sudah menurunkan distribusi dari mean sampel. Teorema berikut memberikan distribusi dari variansi sampel S 2 yang didefinisikan pada Contoh 1.2.2.

11

Teorema 1.3.11. Jika X1 , . . . , Xn menyatakan sampel random dari N (µ, σ 2 ), maka ¯ dan (Xi − X), ¯ i = 1, . . . , n saling independen. 1. Antara X ¯ dan S 2 saling independen, 2. Antara X 3. (n − 1)S 2 /σ 2 ∼ χ2 (n − 1). Proof. Kita definisikan transformasi variabel berikut: y1 = x¯ dan yi = xi − x¯, untuk P i = 2, . . . , n, sehingga diperoleh: xi = y1 + yi , i = 2, . . . , n dan x1 = y1 − ni=2 yi . Jacobian dari transformasi ini adalah    1 −1 −1 · · · −1     1 1 0 ··· 0        J = 1 0  ⇒ det(J) = n. 1 · · · 0    . .  . . . .. .. ..   .. ..     1 0 0 ··· 0 P P Selanjutnya dari x1 − x¯ = − ni=2 (xi − x¯) = − ni=2 yi diperoleh à n !2 n n n X X X X (xi − x¯)2 = (x1 − x¯) + (xi − x¯)2 = − yi + yi2 . i=1

i=2

i=2

(1.3.3)

i=2

Karena saling bebas, fungsi densitas bersama dari X1 , . . . , Xn adalah ( ) n 1 1 X fX1 ,...,Xn (x1 , . . . , xn ) = exp − 2 (xi − µ)2 (2π)n/2 σ n 2σ i=1 ( Ã n !) X 1 1 = exp − 2 (xi − x¯)2 + n(¯ x − µ)2 . (2π)n/2 σ n 2σ i=1 Sehingga dari (1.3.3) fungsi densitas bersama dari variabel Y1 , . . . , Yn adalah   Ã !2 n n   X X 1  det(J) 2 2 + n(y − µ) + y exp − − y gY1 ,...,Yn (y1 , . . . , yn ) = 1 i i   2σ 2 (2π)n/2 σ n i=2 i=2 ½ ¾ 1 1 2 exp − 2 (y1 − µ) × =p 2σ /n 2πσ 2 /n

12

√

 

n

(2π)(n−1)/2 σ (n−1)

exp

Ã

1  −  2σ 2 −

n X

!2 yi

+

i=2

n X i=2

  2 yi . 

Persamaan yang terakhir menunjukan bahwa fungsi densitas bersama dari Y1 , . . . , Yn dapat difaktorkan sebagai hasil prgandaan antara fungsi densitas dari Y1 dan fungsi ¯ independen terhadap Yi = Xi − X ¯ densitas bersama dari Y2 , . . . , Yn . Jadi Y1 = X ¯ = − Pn (Xi − X), ¯ berarti X ¯ juga untuk i = 2, . . . , n. Selanjutnya karena X1 − X i=2 ¯ Jadi pernyataan 1 terbukti. independen terhadap X1 − X. ¯ untuk i = 1, . . . , n, maka pernyataan 2 Karena S 2 merupakan fungsi dari Xi − X hanyalah merupakan akibat langsung dari pernyataan 1. Kita menggunakan metode ketunggalan MGF untuk membuktikan pernyataan 3 : P 2 2 ¯ (n−1)S 2 2 Misalkan V1 := ni=1 (Xiσ−µ) ∼ χ2 (n), V2 := n(X−µ) ∼ χ (1) dan V = . Dari 3 2 2 σ σ2 definisi dari S 2 diperoleh: V1 = V3 + V2 dan dari pernyataan 2 jelaslah V2 dan V3 saling independen, sehingga berlaku MV1 (t) = MV3 +V2 (t) = MV3 (t)MV2 (t) ⇒ MV3 (t) =

(1 − 2t)−n/2 MV1 (t) = (1 − 2t)−(n−1)/2 , = MV2 (t) (1 − 2t)−1/2

yang merupakan MGF dari χ2 (n − 1). Contoh 1.3.12. Misalkan sebaran nilai ujian akhir mata kuliah Kewiraan mahasiwa FMIPA Unhalu angkatan 2007/2008 diasumsikan berdistribusi N (60, 36). Untuk menguji kebenaran klaim bahwa σ 2 = 36, sebuah sampel random berukuran 25 diambil dari populasi ini. Asumsi akan ditolak jika S 2 ≥ 54, 63 dan sebaliknya asumsi akan ditolak jika S 2 < 54, 63. Tentukan berapa peluang menolak asumsi ini jika benar bahwa populasinya N (60, 36). Jawab:

13

Dari Teorema 1.3.11 pernyataan 3 kita peroleh: © ª P S 2 ≥ 54, 63 = P

1.3.2

½

24S 2 ≥ 36, 42 36

¾

© ª = 1 − P χ2 (24) < 36, 42 = 0, 05

Distribusi t student

Teorema 1.3.13. Misalkan Z ∼ N (0, 1) dan Y ∼ χ2 (ν). Jika Z dan Y saling independen, maka T := √Z

Y /ν

dikatakan berdistribusi t student dengan derajat bebas

ν. Selanjutnya dituliskan sebagai T ∼ t(ν). Fungsi densitas dari T adalah: ¡ ¢ µ ¶−(ν+1)/2 Γ ν+1 1 t2 2 ¡ ¢ √ fT (t; ν) = 1+ ν νπ Γ ν2

(1.3.4)

Proof. Kita definisikan transformasi T = √Z dan W = Y yang berakibat Z = Y /ν p T W/ν dan Y = W . Jakobian dari transformasi yariabel t = √z dan w = y y/ν

adalah  p  w/ν J = 0

 √t 2 w/ν

p   ⇒ det(J) = w/ν.

1

Karena Z dan Y saling independen, maka fungsi densitas bersamanya adalah: 2

2

y ν/2−1 e−(y/2+z /2) e−z /2 y ν/2−1 e−y/2 √ = fZ,Y (z, y) = fZ (z)fY (y) = √ . 2π 2ν/2 Γ(ν/2) 2πΓ(ν/2)2ν/2 2 wν/2−1 e−w/2 e−t w/2ν p ⇒ fT,W (t, w) = fZ,Y (z, y)det(J) = √ w/ν 2πΓ(ν/2)2ν/2 (w/2)ν/2−1/2 e−w/2(1+t √ = 4πνΓ(ν/2)

2 /ν)

, −∞ < t < ∞, 0 < w < ∞.

Maka fungsi densitas marginal dari T adalah Z

∞

fT (t) = 0

2 /ν)

(w/2)ν/2−1/2 e−w/2(1+t √ 4πνΓ(ν/2)

dw.

14

Dengan memisalkan u := w/2(1 + t2 /ν),maka integral ini dapat disederhanakan menjadi ¡ ¢ (ν+1) Γ ν+1 u(ν/2+1/2−1) e−u du 2 − 2 2 √ = (1 + t /ν) fT (t) = √ πνΓ(ν/2)(1 + t2 /ν)(ν+1)/2 πνΓ(ν/2) R∞ 0

Gambar berikut adalah grafik fungsi densitas dari distribusi t(1). Secara umum bentuk grafiknya adalah bellshape serupa dengan grafik fungsi densitas distribusi normal

f(t ; 1)

0.0

0.05

0.10

0.15

0.20

0.25

0.30

standar yaitu simetris terhadap titik t = 0.

-10

-5

0

5

10

t

Gambar 1. Grafik fungsi densitas distribusi t(1).

Teorema 1.3.14. Jika X1 , . . . , Xn merupakan sampel random dari N (µ, σ 2 ), maka v u n ¯ u 1 X X −µ t ¯ 2. √ ∼ t(n − 1), dimana S = (Xi − X) n − 1 i=1 S/ n p ¯ − µ)/ σ 2 /n dan Y := (n − 1)S 2 /σ 2 , maka berlaku Proof. Misalkan Z := (X p ¯ X−µ √ = Z/ Y /(n − 1), dengan Z ∼ N (0, 1) dan Y ∼ χ2 (n − 1) (lih. Teorema S/ n 1.3.11 pernyataan 3). Selanjutnya karena Z dan Y saling independen (lih. Teorema 1.3.11 pernyataan 2), maka dari Teorema 1.3.13, teorema terbukti.

15

Sebagai catatan, untuk melakukan inferensi terhadap µ dari populasi N (µ, σ 2 ), ¯ maka quantitas √X−µ tidak bisa dipakai apabila σ 2 tidak diketahui. Karena itu kita 2 σ /n

melakukan estimasi dahulu terhadap σ 2 dengan S 2 . Jadi disinilah letak penggunaan dari distribusi t.

1.3.3

Distribusi F

Salah satu alasan kenapa distribusi F penting untuk di pelajari adalah jika kita mempunyai 2 sampel random X1 , . . . , Xn1 dari populasi N (µ1 , σ12 ) dan Y1 , . . . , Yn2 dari populasi N (µ2 , σ22 ) dan kita ingin melakukan inferensi terhadap rasio σ12 /σ22 . Teorema 1.3.15. Misalkan U ∼ χ2 (r1 ) dan V ∼ χ2 (r2 ). Jika U dan V saling independen, maka X :=

U/r1 V /r2

berdistribusi F dengan derajat bebas r1 dan r2 . Selanjutnya

distribusi ini kita tuliskan sebagai F (r1 , r2 ). Persensil fγ (r1 , r2 ) adalah konstanta yang memenuhi persamaan P{X ≤ fγ (r1 , r2 )} = γ. Fungsi densitas dari X adalah: ³ ´r1 /2 ¡ ¢ (r /2−1) r1 2 Γ r1 +r x 1 r2 2 fX (x; r1 , r2 ) = (1.3.5) Γ(r1 /2)Γ(r2 /2)(xr1 /r2 + 1)(r1 +r2 )/2 Proof. Kita definisikan transformasi variabel X =

U/r1 V /r2

dan Y = V , maka U =

XY r1 /r2 dan V = Y . Jacobian dari transformasi u = xyr1 /r2 dan v = y adalah:    yr1 /r2 xr1 /r2  J =  ⇒ det(J) = yr1 /r2 . 0 1 Selanjutnya karena U dan V saling independen, fungsi densitas bersamanya adalah fU,V (u, v; r1 , r2 ) = fU (u; r1 )fV (v; r2 ) =

ur1 /2−1 v r2 /2−1 exp{−(u + v)/2} . Γ(r1 /2)Γ(r2 /2)2(r1 +r2 )/2

Maka fungsi densitas bersama antara X adan Y adalah: fX,Y (x, y; r1 , r2 ) = fU,V (u, v; r1 , r2 ) det(J)

16

=

(xy)

r1 −1 2

³ ´ r21 −1 r1 r2

y

r2 −1 2

Γ(r1 /2)Γ(r2 /2)2(r1 +r2 )/2 ³ ´ r21 r1 r1 y (r1 +r2 )/2−1 x 2 −1 r2

exp{−(xyr1 /r2 )/2 − y/2}yr1 /r2

y exp{− (xr1 /r2 + 1)}. Γ(r1 /2)Γ(r2 2 R∞ Fungsi densitas marginal dari X adalah fX (x; r1 , r2 ) = 0 fX,Y (x, y; r1 , r2 ) dy. Den=

/2)2(r1 +r2 )/2

gan menggunakan substitusi variabel w = y2 (xr1 /r2 + 1) atau y = 2w/(xr1 /r2 + 1) kita peroleh Z

∞

fX (x; r1 , r2 ) = 0

³ ´ r21 r1 r2

r1

x 2 −1 w(r1 +r2 )/2−1 exp{−w}

Γ(r1 /2)Γ(r2 /2)(xr1 /r2 + 1)

(r1 +r2 ) 2

dw,

yang menghasilkan (1.3.5). Teorema 1.3.16. Jika X ∼ F (r1 , r2 ), maka ³ ´r r1 Γ (r1 /2 + r) Γ (r2 /2 − r) r2 r E(X ) = , r2 > 2r, Γ (r1 /2) Γ (r2 /2) r2 E(X) = , r2 > 2, r2 − 2 2r22 (r1 + r2 − 2) V ar(X) = , r2 > 4 r1 (r2 − 2)2 (r2 − 4)

(1.3.6) (1.3.7) (1.3.8)

Proof. Karena U dan V saling bebas, maka berlaku µ ¶r r1 r r −r E(X ) = E(U/r1 ) E(V /r2 ) = E(U r )E(V −r ). r2 Selanjutnya hasil di atas diperoleh dengan substitusi langsung terhadap E(U r ) dan E(V −r ) untuk variabel chi kuadrat. Pernyataan yang lainnya adalah kejadian khusus dari pernyataan pertama. Contoh 1.3.17. Misalkan X1 , . . . , Xn1 dan Y1 , . . . , Yn2 merupakan dua sampel random yang saling independen dari populasi, dimana Xi ∼ N (µ1 , σ12 ) dan Yj ∼ N (µ2 , σ22 ).

17

Dari Teorema 1.3.11, jelaslah 2 SX SY2 2 (n1 − 1) 2 ∼ χ (n1 − 1) dan (n2 − 1) 2 ∼ χ2 (n2 − 1), σ1 σ2

dan keduanya jelas saling independen, sehingga ½ P

1.4

¾ ½ ¾ 2 2 2 σ2 SX SX σ12 ≤ fγ (n1 − 1, n2 − 1) = γ ⇔ P ≤ 2 =γ SY2 σ12 SY2 fγ (n1 − 1, n2 − 1) σ2

Soal-soal

1. Misalkan Z1 , . . . , Z16 adalah sampel random dari populasi N (0, 1). Dengan menggunakan tabel atau software S-PLUS tentukan peluang berikut: (a) P (b) P

©P16 i=1

ª Zi2 < 32

©P16

ª ¯ 2 < 25 (Z − Z) i i=1

2. Jika T ∼ t(ν), tentukan distribusi dari T 2 ?

Chapter 2 Estimasi titik Pada chapter ini kita akan membahas beberapa metode estimasi yang penting, yaitu metode momen dan metode estimasi dengan likelihood terbesar. Seperti yang sudah dibahas pada Chapter 1, populasi atau phenomena yang menjadi perhatia, kita gambarkan dengan variabel random X : (Θ, F, P) → (R, B, PX ). Secara umum populasi X diasumsikan mempunyai distribusi probabilitas dengan fungsi densitas merupakan anggota dari keluarga © ª k PX , (θ1 ,...,θk ) := fX (·; θ1 , . . . , θk ) : (θ1 , . . . , θk ) ∈ Θ := Θ1 × · · · × Θk ⊂ R dimana (θ1 , . . . , θk ), k ∈ N adalah bilangan-bilangan yang tidak diketahui nilainya atau disebut juga parameter. Kita namakan Θ ruang parameter. Misalnya, ½ PX (µ,σ 2 )

:=

¾ 1 2 2 2 √ exp{− 2 (· − µ) } : (µ, σ ) ∈ (−∞, ∞) × (0, ∞) ⊂ R , 2σ 2πσ 2 1

yang berarti populasi X termasuk anggota dari keluarga distribusi normal dimana setiap elemen dari keluarga ini diidentifikasi oleh suatu parameter µ dan σ 2 yang tidak diketahui nilainya. Tujuan dari estimasi titik adalah untuk menentukan nilai yang 18

19

sesuai dari parameter-parameter θ1 , . . . , θk berdasarkan data hasil observasi terhadap populasinya. Data x1 , . . . , xn yang diperoleh dipandang secara matematik sebagai realisasi atau nilai dari n variabel random yang saling independen X1 , . . . , Xn dengan Xi : (Θ, F, P) → (R, B, PXi ) dan Xi ∼ fX (·; θ1 , . . . , θk ), (θ1 , . . . , θk ) ∈ Θ. Fungsi densitas bersama dari sampel random ini yang dihitung pada titik data x1 , . . . , xn , yaitu fX1 ,...,Xn (x1 , . . . , xn ; θ1 , . . . , θk ) = Πni=1 fX (xi ; θ1 , . . . , θk ), (θ1 , . . . , θk ) ∈ Θ, memberikan hubungan fungsional antara parameter-parameter yang tidak diketahui dan data. Dengan kata lain dari data yang diperoleh dapat diidentifikasi berapa nilai parameter yang sesuai. Definisi 2.0.1. Statistik θˆ1 := t1 (X1 , . . . , Xn ), . . . , θˆk := tk (X1 , . . . , Xn ) yang digunakan untuk mengestimasi θ1 , . . . , θk disebut estimator. Sedangkan nilainya yang dihitung pada titik data, yaitu t1 (x1 , . . . , xn ), . . . , tk (x1 , . . . , xn ) disebut estimasi untuk θ1 , . . . , θk . Contoh 2.0.2. Misalkan X1 , . . . , X10 adalah sampel random dari populasi N (µ, σ 2 ), ¯ = P10 Xi /10 sering dipakai dengan (µ, σ 2 ) ∈ (−∞, ∞) × (0, ∞). Mean sampel X i=1 sebagai suatu estimator untuk µ. Jika pada suatu eksperimen diperoleh data misalnya 10, 20, 15, 30, 25, 30, 20, 15, 25, 5, maka rata-ratanya merupakan estimasi untuk µ. Jadi suatu estimator jelas merupakan variabel random, sedangkan estimasi adalah suatu bilanagn real.

20

2.1

Metode momen

Misalkan X ∼ fX (·; θ1 , . . . , θk ), (θ1 , . . . , θk ) ∈ Θ adalah populasi yang menjadi perhatian kita dan (θ1 , . . . , θk ) adalah parameter-parameter yang tidak diketahui. Momem ke j dari populasi ini terhadap titik pusat adalah µ0j := E(X j ). Biasanya µ0j bergantung pada θ1 , . . . , θk karena itu kita notasikan sebagai µ0j = µ0j (θ1 , . . . , θk ), j = 1, . . . , k. Misalkan X1 , . . . , Xn adalah sampel random dari populasi fX (·; θ1 , . . . , θk ), P (θ1 , . . . , θk ) ∈ Θ. Momen sampel ke j didefinisikan sebagai Mj0 := 1/n ni=1 Xij , j = 1, . . . , k. Karena µ0j sangat dekat dengan Mj0 , estimator θˆ1 , . . . , θˆk dapat diturunkan dengan meyelesaikan system persamaan µ0j (θ1 , . . . , θk ) = Mj0 , j = 1, . . . , k,

(2.1.1)

secara simultan untuk θ1 , . . . , θk . Selanjutnya estimator yang diperoleh dengan cara seperti ini kita sebut sebagai estimator metode momen (moment method estimator) disingkat MME. Contoh 2.1.1. Misalkan X ∼ fX (·; µ, σ 2 ), (µ, σ 2 ) ∈ (−∞, ∞) × (0, ∞) dengan E(X) = µ dan V ar(X) = σ 2 .

Dalam hal ini kita mempunyai k = 2 dengan

θ1 = µ dan θ2 = σ 2 , sehingga MME µ ˆ dan σ ˆ 2 adalah penyelesaian dari persamaan ¯ dan σ ¯ 2 = (n − 1)S 2 /n. Jadi µ = M10 dan σ 2 + µ2 = M20 . Jadi µ ˆ=X ˆ 2 = M20 − X ¯ dan σ µ ˆ = t1 (X1 , . . . , Xn ) = X ˆ 2 = t2 (X1 , . . . , Xn ) = (n − 1)S 2 /n. Contoh 2.1.2. Misalkan X1 , . . . , Xn adalah sampel random dari populasi Gamma(θ, κ). ˆ dapat diperoleh Karena E(X) = κθ dan E(X 2 ) = κ(1 + κ)θ2 , maka MME θˆ dan κ dengan menyelesaikan persamaan κθ = M10 dan κ(1 + κ)θ2 = M20 , untuk θ dan κ. ¯ 2 /(nX) ¯ = [(n − 1)/(nX)]S ¯ 2. ¯ θˆ dengan θˆ = Pn (Xi − X) Jadi diperoleh κ ˆ = X/ i=1

21

Contoh 2.1.3. Misalkan X1 , . . . , Xn adalah sampel random dari populasi Gamma(θ). Andaikan kita tertarik untuk mencari MME untuk P{Xi ≥ 1} = exp{−1/θ}. Karena ¯ Misalkan p := exp{−1/θ}, maka θ = −1/ ln(p). E(Xi ) = θ, maka MME θˆ = X. ¯ untuk p. Jadi MME untuk p adalah penyelesaian dari persamaan −1/ ln(p) = X ¯ pˆ = exp{−1/X}.

2.2

Estimator dengan likelihood terbesar

Definisi 2.2.1. Misalkan X1 , . . . , Xn merupakan n variabel random dengan Xi ∼ fXi (·; θ1 , . . . , θk ), (θ1 , . . . , θk ) ∈ Θ, i = 1, . . . , n. Misalkan x1 , . . . , xn merupakan data atau suatu realisasi dari X1 , . . . , Xn . Fungsi L : Θ → R≥0 , sedemikian hingga L(θ1 , . . . , θk ) = fX1 ,...,Xn (x1 , . . . , xn ; θ1 , . . . , θk ) disebut fungsi likelihood. Sebagai kejadian yang lebih khusus, jika X1 , . . . , Xn merupakan suatu sampel random, maka L(θ1 , . . . , θk ) = Πni=1 fXi (xi ; θ1 , . . . , θk ). Selanjutnya, nilai-nilai dari (θ1 , . . . , θk ) ∈ Θ yang dinyatakan sebagai (θˆ1 , . . . , θˆk ) sedemikian hingga L(θˆ1 , . . . , θˆk ) =

max

(θ1 ,...,θk )∈Θ

L(θ1 , . . . , θk )

disebut estimasi dengan likelihood terbesar (engl. Maximum Likelihood Estimate). Biasanya (θˆ1 , . . . , θˆk ) merupakan fungsi dari data x1 , . . . , xn , misalkan sebagai θˆi = ti (x1 , . . . , xn ), i = 1, . . . , k. Jika fungsi-fungsi ini kita terapkan terhadap sampel random X1 , . . . , Xn , maka θˆi = ti (X1 , . . . , Xn ) disebut estimator dengan likelihood terbesar (engl. Maximum Likelihood Estimator), disingkat MLE untuk θi , i = 1, . . . , k. Dari definisi di atas adalah jelas bahwa permasalahan menentukan MLE adalah termasuk permasalahan optimisasi. Nilai-nilai dari (θˆ1 , . . . , θˆk ) memberikan global

22

maksimum dari L(θ1 , . . . , θk ) pada Θ.

Karena nilai-nilai dari (θ1 , . . . , θk ) yang

memaksimumkan L(θ1 , . . . , θk ) juga memaksimumkan log-likelihood ln L(θ1 , . . . , θk ), maka untuk memudahkan perhitungan, kita akan perhatikan fungsi ln L(θ1 , . . . , θk ) saja.

2.2.1

Kasus satu parameter (k = 1)

Jika ruang parameter Θ merupakan interval terbuka, dan jika L(·) terdiferensialkan pada Θ, maka titik-titik extrim terjadi pada titik-titik yang merupakan penyelesaian dari persamaan d ln L(θ) = 0. dθ

(2.2.1)

Andaikan θˆ merupakan satu-satunya penyelesaian, maka titik θˆ adalah MLE, jika d2 ln L(θ) < 0. dθ2

(2.2.2)

Jika penyelesaian dari (2.2.1) tidak tunggal, misalkan sebagai θˆ1 , . . . , θˆm , m ∈ N dan semuanya memenuhi (2.2.2), maka MLE adalah arg max {L(θˆ1 ), . . . , L(θˆm )}. θˆ1 ,...,θˆm

(2.2.3)

Contoh 2.2.2. Misalkan X1 , . . . , Xn adalah sampel random dari populasi X ∼ P OI(λ), λ > 0. Fungsi likeihood dari datanya adalah Pn

e−nλ λ i=1 xi e−λ λxi = . L(λ) = Πni=1 xi ! Πni=1 (xi !) Fungsi log-likelihoodnya adalah ln L(λ) = −nλ +

n X

xi ln λ − Πni=1 (xi !).

i=1 n

1X d ln L(λ) = 0 ⇔ −n + ⇒ xi = 0 ⇔ λ = x¯. dλ λ i=1

23

Selanjutnya uji turunan ke dua pada titik λ = x¯ memberikan n d2 ln L(λ) 1 X n x = − < 0. = − i dλ2 x¯2 i=1 x¯

ˆ = X. ¯ Jadi MLE untuk λ adalah λ Catatan: Tidak selamanya MLE dapat diperoleh melalui metode diferensial seperti pada kasus berikut. Contoh 2.2.3. Misalkan X1 , . . . , Xn adalah sampel random dari populasi X ∼ Exp(1, η), x ≥ η. Fungsi likelihoodnya adalah    Πn exp{−(xi − η)} = exp{− Pn (xi − η)} ; untuk xi ≥ η, ∀i i=1 i=1 L(η) = .   0 ; untuk xi < η, untuk suatu i Karena

d ln L(η) dη

= n, maka metode diferensial jelas tidak dapat diterapkan, oleh karena

itu kita harus mencari metode alternatif. Misalkan x1:n , . . . , xr:n , . . . , xn:n merupakan sampel terurut, yaitu x1:n ≤ x2:n ≤ . . . ≤ xr−1:n ≤ xr:n ≤ xr+1:n ≤ . . . ≤ xn:n . Maka fungsi likelihood dapat pula di nyatakan sebagai    exp{n(η − x¯)} ; untuk x1:n ≥ η L(η) = .   0 ; untuk η > x1:n Berarti MLE ηˆ = X1:n , yaitu sampel terkecil.

2.2.2

Kasus k parameter

Misalkan ruang parametr Θ merupakan himpunan terbuka pada ruang Euclid Rk dan L(·) terdiferensialkan pada Θ. Titik-titik ekstrim adalah titik-titik yang merupakan

24

penyelesaian dari system persamaan ∂ ln L(θ1 , . . . , θk ) = 0, j = 1, . . . , k. ∂θj

(2.2.4)

Selanjutnya apakah titik-titik ekstrim ini memberikan nilai maksimum, harus diverifikasi. Untuk kasus k = 2, kita gunakan alat dari kalkulus sebagai berikut. Misalkan L(θ1 , θ2 ) terdiferensialkan sampai order kedua, dan misalkan (θˆ1 , θˆ2 ) merupakan penyelesaian tunggal dari persamaan (2.2.4). Misalkan ¶ µ 2 ¶µ 2 ¶ µ 2 ∂ ln L(θ1 , θ2 ) ∂ ln L(θ1 , θ2 ) ∂ ln L(θ1 , θ2 ) D(θ1 , θ2 ) := − . ∂θ12 ∂θ22 ∂θ1 ∂θ2 Jika D(θˆ1 , θˆ2 ) > 0 dan

∂ 2 ln L(θ1 ,θ2 ) ˆ ˆ (θ1 , θ2 ) ∂θ12

(2.2.5)

< 0, maka (θˆ1 , θˆ2 ) merupakan MLE. Dalam

kasus penyelesaian dari (2.2.4) tidak tunggal, semua penyelesaian harus diverifikasi apakah dia merupakan titik maksimum atau bukan. Selanjutnya MLE adalah titik (θˆ1 , θˆ2 ) dengan L(θˆ1 , θˆ2 ) terbesar. Contoh 2.2.4. Misalkan X1 , . . . , Xn adalah sampel random dengan Xi ∼ N (µ, σ 2 ). Kita mempunyai ¾ −1 2 L(µ, σ ) = (xi − µ) , (µ, σ 2 ) ∈ (−∞, ∞) × (0, ∞) exp 2πσ 2 ( 2σ 2 ) n 1 1 X = exp − 2 (xi − µ)2 (2π)n/2 σ n 2σ i=1 2

Πni=1 √

1

½

n n 1 X n 2 (xi − µ)2 . ln L(µ, σ ) = − ln(2π) − ln σ − 2 2 2 2σ i=1 2

Dari dua persamaan n ∂ ln L(µ, σ 2 ) 1 X = 2 (xi − µ) = 0 ∂µ σ i=1 n n 1 X ∂ ln L(µ, σ 2 ) =− 2 + 4 (xi − µ)2 = 0, 2 ∂σ 2σ 2σ i=1

(2.2.6)

25

diperoleh µ ˆ = x¯ dan σ ˆ2 =

Pn

x)2 i=1 (xi −¯ n

=: s2n . Selanjutnya masih harus diverifikasi,

σ 2 , s2n ) dipenuhi. Dari persamaan diatas, kita peoleh apakah syarat untuk D(ˆ ∂ 2 ln L(µ, σ 2 ) 2 2 n (ˆ σ , sn ) = − 4 2 ∂µ sn n n 1 X n ∂ 2 ln L(µ, σ 2 ) 2 2 2 ) = (ˆ σ , s − (x − x ¯ ) = − i n ∂(σ 2 )2 2(ˆ σ 2 )4 (ˆ σ 2 )3 i=1 2s4n n ∂ 2 ln L(µ, σ 2 ) 2 2 1 X (ˆ σ , sn ) = − 2 2 (xi − x¯) = 0. ∂µ∂σ 2 (sn ) i=1

¯ Jadi D(ˆ σ 2 , s2n ) > 0, dan karena −n/(sn2 )2 selalu negatif, maka dapat dipastikan X P ¯ 2 /n merupakan MLE untuk µ dan σ 2 . dan Sn2 := ni=1 (Xi − X) Contoh 2.2.5. Perhatikan sampel random X1 , . . . , Xn dari distribusi Exp(θ, η). Fungsi densitas populasinya adalah    f (x; θ, η) =

1 θ

exp{(x − η)/θ} ; x ≥ η

  0

; η>x

.

Maka ln L(θ, η) =

   −n ln θ − Pn (xi − η)/θ ; untuk x1:n ≥ η, ∀i i=1   0

.

; untuk x1:n < η, untuk suatu i

Karena ln L(θ, η) tidak terdiferensial terhadap η pada titik dimana ln L(θ, η) mencapai maksimum, maka MLE untuk η adalah ηˆ = X1:n . Selanjutnya dari persamaan n n 1 X ∂ ln L(η, θ) =− + 2 (xi − x1:n ) = 0, ∂θ θ θ i=1

diperoleh MLE untuk θ,

n

1X (Xi − X1:n ). θˆ = n i=1

26

2.3

Keriteria-keriteria memilih estimator

Pada dua subbab sebelumnya telah dibahas metode-metode untuk menurunkan estimator terhadap parameter-parameter dari populasi. Pada subbab ini kita akan merumuskan beberapa keriteria untuk membandingkan estimator sehingga kita bisa memilih yang mana yang ”terbaik”.

2.3.1

Ketakbiasan

Definisi 2.3.1. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi fX (·; θ), θ ∈ Θ ⊂ R. Misalkan τ : Θ → R merupakan fungsi real pada ruang parameter. Suatu estimator T := t(X1 , . . . , Xn ) disebut estimator tak bias jika E(T ) = τ (θ), ∀θ ∈ Θ. Sebaliknya, jika kondisi ini tidak dipenuhi, kita sebut T estimator bias. Contoh 2.3.2. Sebagai contoh misalkan X1 , . . . , Xn merupakan sampel random dari ¯ adalah populasi dengan mean µ dan variansi σ 2 . Dari Contoh 1.2.2, mean sampel X tak bias untuk µ dan variansi sampel S 2 adalah tak bias untuk σ 2 . Dalam kasus ini kita memilih τ sebagai fungsi identitas. Suatu estimator yang bias untuk τ (θ) dapat dimodifikasi dengan cara sedemikian rupa sehingga hasil modifikasinya tak bias, seperti yang diperagakan pada contoh berikut. Contoh 2.3.3. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi Exp(θ) ¯ bias terhadap 1/θ, ¯ tak bias untuk θ. Tetapi 1/X atau Gamma(θ, 1). Jelaslah X ¯ = Pn 2Xi /θ. Maka Y ∼ χ2 (2n). seperti ditunjukan berikut. Misalkan Y := 2nX/θ i=1

27

Dari Remark 1.3.5, untuk kasus r = −1, berlaku µ ¶ µ ¶ 1 θ 1 1 n 1 −1 E(Y ) = = E ¯ ⇒E ¯ = . 2(n − 1) 2n (n − 1) θ X X ¯ adalah bias terhadap 1/θ. Misalkan T := (n − 1)/(nX), ¯ maka T jelas tak Jadi 1/X bias terhadap 1/θ. Berapakah variansi dari T ?

2.3.2

Keterkonsentrasian dan UMVUE

Definisi 2.3.4. Misalkan T1 dan T2 merupakan estimator (tidak harus tak bias) untuk τ (θ). T1 dikatakan lebih terkonsentrasi disekitar τ (θ) daripada T2 jika untuk setiap ε > 0 berlaku, P{|T1 − τ (θ)| < ε} ≥ P{|T2 − τ (θ)| < ε}.

(2.3.1)

Definisi 2.3.5. Misalkan Aτ (θ) merupakan himpunan semua estimator (tidak harus tak bias) untuk τ (θ). T ∗ dikatakan paling terkonsentrasi disekitar τ (θ) jika untuk setiap ε > 0 berlaku, P{|T ∗ − τ (θ)| < ε} = sup P{|T − τ (θ)| < ε}.

(2.3.2)

T ∈Aτ (θ)

Remark 2.3.6. Misalkan Uτ (θ) merupakan himpunan semua estimator tak bias untuk τ (θ). Dengan ketaksamaan Chebychev diperoleh P{|T − τ (θ)| < ε} ≥ 1 −

V ar(T ) , ∀ε > 0. ε2

(2.3.3)

Jadi berdasarkan ketaksamaan (2.3.3), jika T ∗ ∈ Uτ (θ) , maka T ∗ merupakan estimator tak bias yang paling terkonsentrasi disekitar τ (θ) dibandingkan dengan estimatorestimator lainnya di dalam Uτ (θ) , jika dipenuhi V ar(T ∗ ) = inf V ar(T ), ∀θ ∈ Θ. T ∈Uτ (θ)

(2.3.4)

28

Kriteria ini menghasilkan suatu konsep baru dalam pemilihan estimator terbaik, yaitu konsep estimator tak bias dengan variansi minimum seragam (uniformly minimum variance unbiased estimator), disingkat UMVUE. Selanjutnya estimator tak bias yang memenuhi (2.3.4) disebut UMVUE. Teorema 2.3.7. (Batas bawah Cramer-Rao) Misalkan X1 , . . . , Xn merupakan sampel random dari f (·; θ), θ ∈ Θ. Jika T := t(X1 , . . . , Xn ) merupakan estimator tak bias untuk τ (θ), dan jika τ 0 (θ) := dτ (θ)/dθ ada. Maka batas bawah Cramer-Rao untuk τ (θ) adalah V ar(T ) ≥

nE

¡∂

[τ 0 (θ)]2

¢2 ln f (X ; θ) i ∂θ

(2.3.5)

Proof. Pertama-tama kita definisikan suatu fungsi u : Rn → R, dimana ∂ 1 ∂ ln f (x1 , . . . , xn ; θ) = f (x1 , . . . , xn ; θ) ∂θ f (x1 , . . . , xn ; θ) ∂θ ∂ f (x1 , . . . , xn ; θ). ⇒u(x1 , . . . , xn , θ)f (x1 , . . . , xn ; θ) = ∂θ

u(x1 , . . . , xn ; θ) :=

Selanjutnya kita definisikan suatu quantitas random yang masih bergantung pada θ, yaitu U := u(X1 , . . . , Xn ; θ). Maka Z

Z

∞

E(U ) = Z−∞ ∞ =

∞

···

u(x1 , . . . , xn ; θ)f (x1 , . . . , xn ; θ) dx1 · · · dxn Z−∞ ∞

···

∂ f (x1 , . . . , xn ; θ) dx1 · · · dxn ∂θ

−∞ Z ∞ −∞Z ∞ ∂ = ··· f (x1 , . . . , xn ; θ) dx1 · · · dxn ∂θ −∞ −∞ ∂ = 1 = 0. ∂θ

Pada perhitungan ekspektasi dari U , pertukaran tanda integral dan diferensial dapat dilakukan karena domain dari integran-nya tidak bergantung pada θ. Dari asumsi T

29

tak bias terhadap τ (θ), diperoleh ∂ E(T ) ∂θ Z Z ∞ ∞ ∂ = ··· t(x1 , . . . , xn )f (x1 , . . . , xn ; θ) dx1 · · · dxn ∂θ −∞ −∞ Z ∞ Z ∞ ∂ = ··· t(x1 , . . . , xn ) f (x1 , . . . , xn ; θ) dx1 · · · dxn ∂θ Z−∞ Z−∞ ∞ ∞ = ··· t(x1 , . . . , xn )u(x1 , . . . , xn ; θ)f (x1 , . . . , xn ; θ) dx1 · · · dxn

τ 0 (θ) =

−∞

−∞

= E(T U ). Dari kedua hasil diatas diperoleh Cov(T, U ) = E(T U ) − E(T )E(U ) = τ 0 (θ). Pada sisi lain, ketaksamaan Cauchy-Schwarz memberikan [Cov(T, U )]2 ≤ V ar(T )V ar(U ), sehingga V ar(T ) ≥ [Cov(T, U )]2 /V ar(U ) = [τ 0 (θ)]2 /V ar(U ). Selanjutnya kita verifikasi lebih lanjut bentuk dari V ar(U ). Mengingat X1 , . . . , Xn adalah sampel random, maka

à n ! ¶ X ∂ ∂ V ar(U ) =V ar ln Πni=1 f (Xi ; θ) = V ar ln f (Xi ; θ) ∂θ ∂θ i=1 µ ¶ µ ¶2 n X ∂ ∂ = V ar ln f (Xi ; θ) = nE ln f (Xi ; θ) . ∂θ ∂θ i=1 µ

Dari hasil yang terakhir ini, diperoleh Ketaksamaan (2.3.5). Catatan: Jika V ar(T ) mencapai batas bawah Cramer-Rao, maka T jelas merupakan UMVUE. Contoh 2.3.8. Misalkan X1 , . . . , Xn merupakan sampel random dari Exp(θ). Kita ingin menentukan batas bawah Cramer-Rao untuk τ (θ) = θ. Karena f (Xi ; θ) = 1 θ

exp{−Xi /θ}, maka µ ¶2 ¶2 µ Xi − θ V ar(Xi ) 1 ∂ = ln f (Xi ; θ) = E = . E ∂θ θ2 θ4 θ2

30

¯ merupakan estimator tak Batas bawah Cramer-Rao untuk θ adalah θ2 /n. Karena X ¯ = θ2 /n, maka X ¯ merupakan UMVUE untuk θ. bias untuk θ dengan V ar(X) Catatan: Variansi dari suatu estimator tak bias T untuk τ (θ) akan mencapai (sama dengan) batas bawah Cramer-Rao untuk τ (θ), jika [Cov(T, U )]2 = V ar(T )V ar(U ). Dengan kata lain korelasi antara T dan U harus sama dengan 1 atau −1. Ini terjadi, jika dan hanya jika T merupakan fungsi linear dari U , yaitu fungsi yang berbentuk T = aU + b untuk suatu konstanta a dan b. Contoh 2.3.9. Misalkan X1 , . . . , Xn merupakan sampel random dari distribusi Geo(p), dengan f (Xi ; p) = p(1 − p)1−Xi , Xi = 0, 1, dan E(X) = 1/p. Kita ingin menentukan estimator T yang tak bias terhadap 1/p, sedemikian hingga T = aU + b, untuk suatu konstanta a dan b. Dari rumus fungsi densitasnya, kita dapatkan ¶ n n µ X X ∂ 1 Xi − 1 U= (ln p + (Xi − 1) ln(1 − p)) = − . ∂p p 1 − p i=1 i=1 Sehingga setelah penyederhanaan diperoleh µ ¶ an ¯ an ¯ + d, T := aU + b = X + b− = cX p−1 p(p − 1) dimana c :=

an p−1

dan d := b −

an . p(p−1)

¯ merupakan estimator tak bias Karena X

untuk 1/p, sehingga agar T juga tak bias terhadap 1/p, maka harus dipilih c = 0 dan ¯ adalah (1 − p)/(np2 ) dan dipastikan sama dengan batas bawah d = 0. Variansi dari X Cramer-Rao untuk 1/p. Definisi 2.3.10. Misalkan T , T ∗ ∈ Uτ (θ) , dimana Uτ (θ) adalah himpunan semua estimator tak bias untuk τ (θ). Efisiensi relatif dari T terhadap T ∗ adalah V ar(T ∗ ) re(T, T ) := . V ar(T ) ∗

(2.3.6)

31

Estimator T ∗ ∈ Uτ (θ) dikatakan efisien jika re(T, T ∗ ) ≤ 1, ∀T ∈ Uτ (θ) and ∀θ ∈ Θ. Selanjutnya, jika T ∗ merupakan estimator yang efisien, maka efisiensi dari suatu estimator T ∈ Uτ (θ) diberikan oleh e(T ) := re(T, T ∗ ). Definisi 2.3.11. Misalkan T merupakan sembarang estimator untuk τ (θ). Bias dari T terhadap τ (θ), dinotasikan sebagai b(T ) adalah b(T ) := E(T ) − τ (θ).

(2.3.7)

Sedangkan mean dari kudrat kesalahan mengestimasi τ (θ) dengan T disebut MSE (engl. mean squared error) dari T , adalah M SE(T ) := E (T − τ (θ))2 .

(2.3.8)

Teorema 2.3.12. If T merupakan suatu estimator untuk τ (θ), maka M SE(T ) = V ar(T ) + [b(T )]2 . Proof. M SE(T ) =E (T − E(T ) + E(T ) − τ (θ))2 =E (T − E(T ))2 + (E(T ) − E(T )) (E(T ) − τ (θ)) + (E(T ) − τ (θ))2 =E (T − E(T ))2 + (E(T ) − τ (θ))2 =V ar(T ) + [b(T )]2 .

Keriteria MSE mengakomodasi dua quantitas yaitu variansi dan bias. Kriteria ini akan sesuai dengan kriteria UMVUE jika perhatian kita batasi pada estimator tak bias.

32

2.4

Soal-soal

1. Jika X1 , . . . , Xn merupakan sampel random yang diambil dari populasi berikut. Tentukan MME dan MLE untuk parameter-parameternya! ( θxθ−1 ; 0 < x < 1 (a) f (x; θ) = , θ > 0. 0 ; x ≤ 0 atau x ≥ 1 ( (θ + 1)x−θ−2 ; 1 < x (b) f (x; θ) = , θ > 0. 0 ;x ≤ 1 ( θ2 xe−θx ; 0 < x , θ > 0. (c) f (x; θ) = 0 ;x ≤ 0 (d) Xi ∼ P AR(θ, κ), θ dan κ tidak diketahui. ( θη θ x−θ−1 ; η ≤ x (e) f (x; θ1 , η) = , 0 < θ, 0 < η < ∞. 0 ;x < η

Chapter 3 Statistik cukup, keluarga lengkap dan keluarga eksponensial Pada chapter ini kita akan membahas konsep statistik cukup (engl. sufficient statistic), statistik lengkap (engl. complete statistic) dan suatu keluarga fungsi distribusi probabilitas yang disebut keluarga eksponensial (engl. exponential family). Ketiga konsep ini sangat penting karena melandasi konsep perumusan prosudur inferensi parameter, seperti estimasi interval dan uji hipotesis yang akan dibahas pada 2 chapter berikutnya.

3.1

Statistik cukup

Sebelum kita memberikan definisi formal dari statistik cukup, kita ikuti ilustrasi berikut. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi BIN (1, θ), 0 < θ < 1. Fungsi densitas bersama dari X1 , . . . , Xn dihitung pada titik (x1 , . . . , xn )

33

34

adalah

(

fX1 ,...,Xp (x1 , . . . , xn ; θ) =

θ

Pn

i=1

xi

(1 − θ)n−

0

Andaikan kita tertarik pada statistik Y1 :=

Pn

i=1

xi

; jika xi ∈ {0, 1}, ∀i ; jika xi 6∈ {0, 1}

Pn i=1

.

Xi . Jelas Y1 berdistribusi BIN (n, θ),

sehingga fungsi densitas dari Y1 adalah  Ã !  n   θy1 (1 − θ)n−y1 ; jika y1 ∈ {0, 1, . . . , n} fY1 (y1 ; θ) = . y1    0 ; jika y1 ∈ 6 {0, 1, . . . , n} Misalkan A := {ω ∈ Ω : Y1 (X1 (ω), . . . , Xn (ω)) = y1 }. Untuk suatu titik (x1 , . . . , xn ) yang tertetu, misalkan B := {ω ∈ Ω : X1 (ω) = x1 , . . . , Xn (ω) = xn }. Maka B ∩ A = B, jika Y1 (x1 , . . . , xn ) = y1 . Sebaliknya jika Y1 (x1 , . . . , xn ) 6= y1 , maka B ∩ A = ∅. Sehingga peluang bersyarat P(B ∩ A) P {X1 = x1 , . . . , Xn = xn | Y1 = y1 } = P(B | A) = P(A)  Pn x Pn n− x i=1 i θ i=1 i (1−θ)     ; jika Y1 (x1 , . . . , xn ) = y1     n   θ y1 (1−θ)n−y1   = y  1     0 ; jika Y1 (x1 , . . . , xn ) 6= y1  Pn   1  ; jika  i=1 xi = y1     n      . = y  1   Pn   0 ; jika i=1 xi 6= y1 Jadi P {X1 = x1 , . . . , Xn = xn | Y1 = y1 } tidak bergantung pada θ untuk setiap titik P (data) (x1 , . . . , xn ) yang memenuhi sifat ni=1 xi = y1 . Statistik Y1 yang memenuhi sifat ini disebut statistik cukup untuk θ. Definisi 3.1.1. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi dengan fungsi densitas fX (·; θ), θ ∈ Θ ⊆ R. Misalkan Y1 = u1 (X1 , . . . , Xn ) merupakan

35

statistik dengan fungsi densitas gY1 (·; θ), θ ∈ Θ. Maka Y1 adalah statistik cukup untuk θ, jika dan hanya jika fX1 ,...,Xn (x1 , . . . , xn ; θ) = H(x1 , . . . , xn ), gY1 (y1 ; θ)

(3.1.1)

dimana H(x1 , . . . , xn ) adalah fungsi yang tidak bergantung pada θ untuk setiap titik (data) (x1 , . . . , xn ) dengan sifat u1 (x1 , . . . , xn ) = y1 . Catatan: Jika Y1 merupakan statistik cukup untuk θ, semua informasi tentang parameter θ dibawa oleh Y1 . Ini berarti inferensi tentang θ harus didasarkan pada Y1 bukan pada statistik yang lain. Selanjutnya, pada bagian ini kita batasi pembicaraan pada kasus variabel kontinu dengan satu parameter, yaitu Θ ⊆ R. Kasus diskrit ditangani secara analog. Teorema 3.1.2. (Teorema Faktorisasi) Misalkan X1 , . . . , Xn merupakan sampel random dari populasi dengan fungsi densitas fX (·; θ), θ ∈ Θ. Statistik Y1 = u1 (X1 , . . . , Xn ) merupakan statistik cukup untuk θ, jika dan hanya jika terdapat fungsi-fungsi tidak negatif k1 dan k2 sedemikian hingga fX1 ,...,Xn (x1 , . . . , xn ; θ) = k1 (u1 (x1 , . . . , xn ); θ)k2 (x1 , . . . , xn ), dimana untuk setiap titik (x1 , . . . , xn ) yang bersifat y1 = u1 (x1 , . . . , xn ), k2 (x1 , . . . , xn ) tidak bergantung pada θ. Proof. (⇐) Pertama-tama kita definisikan suatu transformasi satu-satu y1 = u1 (x1 , . . . , xn ), . . . , yn = un (x1 , . . . , xn ) dengan invers x1 = w1 (y1 , . . . , yn ), . . . , xn = wn (y1 , . . . , yn ).

36

Maka fungsi densitas bersama dari Y1 , . . . , Yn adalah fY1 ,...,Yn (y1 , . . . , yn ; θ) = fX1 ,...,Xn (x1 , . . . , xn ; θ) |J| = k1 (u1 (x1 , . . . , xn ); θ)k2 (x1 , . . . , xn ) |J| = k1 (y1 ; θ)k2 (w1 (y1 , . . . , yn ), . . . , wn (y1 , . . . , yn )) |J| . Fungsi densitas marginal dari Y1 adalah Z ∞ Z ∞ gY1 (y1 ; θ) = ··· k1 (y1 ; θ)k2 (w1 (y1 , . . . , yn ), . . . , wn (y1 , . . . , yn )) |J| dy2 · · · dyn −∞ −∞ Z ∞ Z ∞ = k1 (y1 ; θ) ··· k2 (w1 (y1 , . . . , yn ), . . . , wn (y1 , . . . , yn )) |J| dy2 · · · dyn −∞

−∞

= k1 (y1 ; θ)m(y1 ), dimana m(y1 ) :=

R∞

··· −∞

R∞ −∞

k2 (w1 (y1 , . . . , yn ), . . . , wn (y1 , . . . , yn )) |J| dy2 · · · dyn . Di

sini jelas bahwa m(y1 ) merupakan fungsi yang tidak bergantung pada θ maupun y2 , . . . , yn , melainkan hanya pada y1 . Sehingga fX1 ,...,Xn (x1 , . . . , xn ; θ) k1 (u1 (x1 , . . . , xn ); θ)k2 (x1 , . . . , xn ) = gY1 (y1 ; θ) k1 (u1 (x1 , . . . , xn ); θ)m(u1 (x1 , . . . , xn )) k2 (x1 , . . . , xn ) = . m(u1 (x1 , . . . , xn )) Karena ruas kanan dari persamaan yang terakhir tidak bergantung pada θ untuk setiap (x1 , . . . , xn ) yang bersifat y1 = u1 (x1 , . . . , xn ), sesuai Definisi (3.1.1), Y1 adalah statistik cukup untuk θ. (⇒) Jika Y1 = u1 (X1 , . . . , Xn ) merupakan statistik cukup untuk θ, maka sesuai Definisi (3.1.1), berlaku fX1 ,...,Xn (x1 , . . . , xn ; θ) = H(x1 , . . . , xn ), gY1 (y1 ; θ) dimana H(x1 , . . . , xn ) merupakan suatu fungsi yang tidak bergantung pada θ untuk setiap (x1 , . . . , xn ) yang bersifat u1 (x1 , . . . , xn ) = y1 . Selanjutnya dengan mengambil

37

k1 (u1 (x1 , . . . , xn ); θ) := gY1 (y1 ; θ) dan k2 (x1 , . . . , xn ) := H(x1 , . . . , xn ), maka syarat perlu terbukti. Contoh 3.1.3. Misalkan X1 , . . . , Xn merupakan sampel random dari N (µ, σ 2 ), den¯ merupakan statistik gan −∞ < µ < ∞ dan diasumsikan σ 2 diketahui. Apakah X cukup untuk µ?. Karena

(

) n X 1 1 fX1 ,...,Xn (x1 , . . . , xn ; µ, σ 2 ) = exp − 2 (xi − µ)2 n/2 n (2π) σ 2σ i=1 ( Ã n !) X 1 1 = exp − 2 (xi − x¯)2 + n(¯ x − µ)2 n/2 n (2π) σ 2σ i=1

Kita akan menerapkan Teorema Faktorisasi, karena itu kita harus mengelompokan x¯ dan µ ke dalam argumen dari k1 , sedangkan k2 tidak boleh bergantung pada µ. Ambil P 2 1 k1 (¯ x; µ) := exp{− n(¯x2σ−µ) } dan k2 (x1 , . . . , xn ) := (2π)n/2 exp{− 2σ1 2 ni=1 (xi − x¯)2 }. 2 σn Maka berlaku fX1 ,...,Xn (x1 , . . . , xn ; µ, σ 2 ) = k1 (¯ x; µ)k2 (x1 , . . . , xn ). Karena k2 tidak ¯ merupakan statistik cukup untuk µ. bergantung pada µ maka X Contoh 3.1.4. Misalkan X1 , . . . , Xn merupakan samplel random dari populasi den  θxθ−1 ; 0 < x < 1 gan fungsi densitas f (x; θ) = , θ > 0. Dengan fak  0 ; x ≤ 0 atau x ≥ 1 torisasi,    θn (Πn xi )θ−1 ; 0 < xi < 1, ∀i i=1 fX1 ,...,Xn (x1 , . . . , xn ; θ) = , θ > 0.   0 ; ∃i, xi ≤ 0 atau xi ≥ 1 Atau fX1 ,...,Xn (x1 , . . . , xn ; θ) = θn (Πni=1 xi )θ

1 n x , Πi=1 i

0 < xi < 1, ∀i. Dengan mendefin-

isikan k1 (Πni=1 xi ; θ) := θn (Πni=1 xi )θ dan k2 (x1 , . . . , xn ) :=

1 , Πn i=1 xi

statistik Πni=1 Xi

merupakan statistik cukup untuk θ. Catatan Misalkan Y1 := u1 (X1 , . . . , Xn ) merupakan statistik cukup untuk θ ∈ Θ. Jika Z :=

38

u(Y1 ) atau Z = u(u1 (X1 , . . . , Xn )) := ν(X1 , . . . , Xn ) dengan invers Y1 := w(Z), maka Z juka merupakan statistik cukup untuk θ. Ini terjadi karena fX1 ,...,Xn (x1 , . . . , xn ; θ) = k1 (u1 (x1 , . . . , xn ); θ)k2 (x1 , . . . , xn ) = k1 (w(ν(x1 , . . . , xn )); θ)k2 (x1 , . . . , xn ) Karena k1 hanya bergantung pada z = ν(x1 , . . . , xn ) dan θ sedangkan k2 tidak bergantung pada θ, maka teorema faktorisasi Z = u(Y1 ) merupakan statistik cukup untuk θ ∈ Θ. Teorema 3.1.5. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi X dengan fungsi densitas fX (·, θ), θ ∈ Θ. Jika Y1 = u1 (X1 , . . . , Xn ) merupakan statistik cukup untuk θ dan θˆ adalah MLE untuk θ dengan θˆ tunggal, maka terdapat suatu fungsi h : R → R, sedemikian hingga θˆ = h(Y1 ). Proof. Dari teorema faktorisasi diperoleh L(θ) = fX1 ,...,Xn (x1 , . . . , xn ; θ) = k1 (u1 (x1 , . . . , xn ); θ)k2 (x1 , . . . , xn ) ˆ = max k1 (u1 (x1 , . . . , xn ); θ)k2 (x1 , . . . , xn ). ⇒ L(θ) θ∈Θ

Karena k2 merupakan fungsi yang tidak bergantung pada θ, maka berlaku ˆ = max k1 (u1 (x1 , . . . , xn ); θ). k1 (u1 (x1 , . . . , xn ); θ) θ∈Θ

Dengan kata lain θˆ memaksimumkan L(θ) dan k1 (u1 (x1 , . . . , xn ); θ) secara simultan. Dari persamaan yang terakhir θˆ merupakan suatu fungsi dari u1 (x1 , . . . , xn ), yaitu θˆ = h(u1 (x1 , . . . , xn )) untuk setiap (x1 , . . . , xn ) yang bersifat u1 (x1 , . . . , xn ) = y1 . Jadi θˆ = h(Y1 ).

39

Teorema 3.1.6. (Teorema Rao-Blackwell) Misalkan X dan Y merupakan dua variabel random. Misalkan µX := E(X) dan µY := E(Y ). Misalkan ϕ : R → R dengan ϕ(x) := E(Y | X = x). Maka 1. E(ϕ(X)) = µY , dengan kata lain ϕ(Y ) adalah tak bias terhadap µY . 2. V ar(ϕ(X)) ≤ V ar(Y ). Proof. Kita buktikan teorema ini untuk kasus X dan Y variabel random kontinu, sedangkan pembukiannya analog dengan kasus kontinu. Misalkan fX (·) dan fY (·) masing-masing merupakan fungsi densitas marginal dari X dan Y . Misalkan fX,Y (·) merupakan fungsi densitas bersama dari X dan Y , sedangkan fY |X (· | x) merupakan fungsi densitas bersyarat dari Y diberikan X = x untuk suatu x ∈ R. Maka Z

Z

∞ fX,Y (x, y) y yfY |X (y | x)dy = dy fX (x) −∞ −∞ Z ∞ ⇒ϕ(x)fX (x) = yfX,Y (x, y)dy. ∞

ϕ(x) = E(Y | X = x) =

−∞

Sehingga Z

Z

∞

E(ϕ(X)) = Z−∞ ∞ = −∞

∞

µZ

¶

∞

ϕ(x)fX (x)dx = yfX,Y (x, y)dy dx −∞ −∞ ¶ µZ ∞ Z ∞ fX,Y (x, y)dx dy = yfY (y)dy = µY . y −∞

−∞

Ini membuktikan pernyataan pertama. Untuk membuktikan pernyataan kedua, kita berjalan dari definisi dasar dari V ar(Y ). Dari definisi diperoleh V ar(Y ) = E (Y − µY )2 = E (Y − ϕ(X) + ϕ(X) − µY )2 = E (Y − ϕ(X))2 + E (ϕ(X) − µY )2 + 2E (Y − ϕ(X)) (ϕ(X) − µY ) = E (Y − ϕ(X))2 + V ar (ϕ(X)) + 2E (Y − ϕ(X)) (ϕ(X) − µY )

40

Pernyataan ke dua akan terbukti jika 2E (Y − ϕ(X)) (ϕ(X) − µY ) = 0. Karena fX,Y (x, y) = fX (x)fY |X (y | x), maka diperoleh Z ∞Z ∞ E (Y − ϕ(X)) (ϕ(X) − µY ) = (y − ϕ(x))(ϕ(x) − µY )fX,Y (x, y)dydx −∞ −∞ µZ ∞ ¶ Z ∞ = (ϕ(x) − µY ) (y − ϕ(x))fY |X (y | x)dy fX (x)dx. −∞

−∞

Tetapi Z ∞

Z (y − ϕ(x))fY |X (y | x)dy =

−∞

Z

∞

∞

yfY |X (y | x)dy −

Z−∞ ∞ =

ϕ(x)fY |X (y | x)dy Z ∞ yfY |X (y | x)dy − ϕ(x) fY |X (y | x)dy

−∞

−∞

−∞

= ϕ(x) − ϕ(x) = 0. Selanjutnya karena E (Y − ϕ(X))2 ≥ 0, maka terbukti V ar(ϕ(X)) ≤ V ar(Y ). Catatan: Jika P (X,Y ) {(x, y) ∈ R2 : y − ϕ(x) = 0} = 0, maka kita peroleh ketaksamaan tegas (engl. strick ): V ar(ϕ(X)) < V ar(Y ). Ini terjadi karena hal berikut Z ∞Z ∞ 2 E (Y − ϕ(X)) = (y − ϕ(x))2 fX,Y (x, y)dxdy Z−∞ −∞ = (y − ϕ(x))2 fX,Y (x, y)dxdy 2 2 {(x,y)∈R :(y−ϕ(x)) =0} Z + (y − ϕ(x))2 fX,Y (x, y)dxdy {(x,y)∈R2 :(y−ϕ(x))2 >0} Z ∞ = 0+ 1{(x,y)∈R2 :(y−ϕ(x))2 >0} (y − ϕ(x))2 fX,Y (x, y)dxdy Z ∞−∞ >0 fX,Y (x, y)dxdy = 0, −∞

dimana untuk suatu A ⊂ R2 , 1A adalah indikator untuk A yang didefinisikan sebagai ( 1; jika (x, y) ∈ A 1A (x, y) := 0; jika (x, y) 6∈ A

41

Contoh 3.1.7. Misalkan X ∼ N (µ1 , σ12 ) dan Y ∼ N (µ2 , σ22 ), Cor(X, Y ) = ρ. Maka, Z ∞ fX,Y (x, y; µ1 , µ2 , σ12 , σ22 ) E (Y | X = x) = y dy fX (x; µ1 , σ12 ) −∞ σ2 =µ2 + ρ (x − µ1 ) =: ϕ(x), σ1 (lihat Hogg dan Craig, 1978, hal. 117-118). Sehingga kita peroleh µ ¶ σ2 E (ϕ(X)) = E µ2 + ρ (X − µ1 ) = µ2 . σ1 Jadi hasil ini sesui dengan pernyataan pertama dari teorema Rao-Blackwell. Tetapi ϕ(X) bukan merupakan statistik, karena dia bergantung pada lima parameter yang tidak diketahui. Selanjutnya µ

σ2 V ar(ϕ(X)) = E µ2 + ρ (X − µ1 ) − µ2 σ1 µ ¶2 σ2 = E ρ (X − µ1 ) σ1 2 σ = ρ2 22 σ12 = ρ2 σ22 . σ1

¶2

Karena −1 < ρ < 1, yang berakibat ρ2 < 1, maka V ar(ϕ(X)) < σ22 . Jadi hasil ini sesuai dengan pernyataan kedua dari teorema Rao-Blackwell bahkan dengan ketaksamaan tegas. Kita selanjutnya akan membahas aplikasi dari teorema Rao-Blackwell pada konsep statistik cukup dan konsep pemilihan estimator titik dengan variansi minimum. Teorema 3.1.8. Misalkan X1 , . . . , Xn merupakan sampel random dari suatu populasi X dengan fungsi densitas fX (·; θ), θ ∈ Θ. Misalkan Y1 := u1 (X1 , . . . , Xn ) merupakan statistik cukup untuk θ dan Y2 := u2 (X1 , . . . , Xn ) merupakan estimator tak bias untuk θ, tetapi Y2 merupakan fungsi bukan hanya dari Y1 saja. Selanjutnya misalkan ϕ(y1 ) := E(Y2 | Y1 = y1 ), y1 ∈ R. Maka berlaku:

42

1. ϕ(Y1 ) merupakan statistik. 2. ϕ(Y1 ) merupakan estimator tak bias untuk θ. 3. V ar(ϕ(Y1 )) ≤ V ar(Y2 ). Proof. Teorema ini merupakan akibat langsung dari teorema Rao-Blackwell. Karena Y2 merupakan statistik cukup untuk θ, maka fY2 |Y1 (y2 | y1 ) =

fY1 ,Y2 (y1 , y2 ; θ) fY2 (y2 ; θ)

tidak bergantung pada θ. Ini berakibat Z

∞

ϕ(y1 ) := E(Y2 | Y1 = y1 ) =

y2 −∞

fY1 ,Y2 (y1 , y2 ; θ) dy2 fY2 (y2 ; θ)

tidak bergantung pada θ ∈ Θ. Jadi ϕ(Y1 ) adalah statistik. Lebih lanjut, dari teorema Rao-Blackwell diperoleh pernyataan kedua dan ketiga. Catatan: Teorema 3.1.8 merupakan alat bantu dalam memperoleh suatu estimator tak bias dengan variansi minimum untuk suatu parameter. Jika kita diberikan suatu statistik cukup untuk parameter θ, misalkan Y1 dan misalkan diketahui Y2 merupakan suatu quantitas (merupakan fungsi bukan hanya dari Y1 ) yang tak bias terhadap θ, maka kita selalu bisa mendefinisikan suatu statistik ϕ(Y1 ) sebagai estimator tak bias untuk θ dengan variansi yang lebih kecil dari V ar(Y2 ).

3.2

Keluarga lengkap

Definisi 3.2.1. Misalkan PX merupakan suatu ukuran probabilitas pada R yang di induce oleh variabel random X. Suatu sifat(pernyataan) p dikatakan dipenuhi PX hampir pasti, ditulis PX -h.p., jika terdapat suatu himpunan N ⊂ R dengan PX (N ) = 0

43

sedemikian hingga jika x ∈ N c , maka berlaku p. Definisi 3.2.2. Misalkan X merupakan variabel random kontinu atau diskrit dengan X fungsi densitas didalam keluarga PX Θ := {fX (·; θ); θ ∈ Θ}. Keluarga PΘ dikatakan

keluarga lengkap jika dipenuhi: E(u(X)) = 0, ∀θ ∈ Θ berakibat u(x) = 0, PX -h.p. Contoh 3.2.3. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi berdisP tribusi P OIS(θ), θ > 0. Maka Y1 := ni=1 Xi ∼ P OIS(nθ), θ > 0 dengan fungsi densitas fY1 (y1 ; θ) =

(nθ)y1 e−nθ , y1 ∈ {0, 1, 2, . . .}. y1 !

Selanjutnya karena e−nθ > 0, ∀θ > 0, berlaku ∞ X u(y1 )(nθ)y1 E(u(Y1 )) = 0, ∀θ > 0 ⇒ = 0, ∀θ > 0 y1 ! y =0 1

u(y1 )(nθ)y1 = 0, ∀y1 ∈ {0, 1, 2, . . .} ⇒ y1 ! ⇒ u(y1 ) = 0, ∀y1 ∈ {0, 1, 2, . . .}. Jadi terdapat N := ∅ sedemikian hingga u(y1 ) = 0, jika y1 ∈ N c = {0, 1, 2, . . .}. Dengan kata lain keluarga Poisson adalah keluarga lengkap. Contoh 3.2.4. Misalkan fungsi densitas dari Z merupakan anggota dari keluarga Exp(θ), θ > 0, dengan fZ (z; θ) =

1 −z/θ e , θ

z > 0 dan θ > 0. Jika E(u(Z)) = 0,

∀θ > 0, maka Z Z ∞ 1 ∞ −z/θ u(z)e dz = 0, ∀θ > 0 ⇒ u(z)e−z/θ dz = 0, ∀θ > 0 θ 0 0 ⇒ u(z) = 0, PZ − h.p. Kesimpulan ini bisa diambil karena integral yang terakhir adalah transformasi Laplace dari u(z) kesuatu fungsi dari θ dengan hasil transformasi identik dengan fungsi nol. Fungsi yang memenuhi sifat tersebut pastilah fungsi nol sendiri.

44

Teorema 3.2.5. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi X dengan fungsi densitas fX (·; θ), θ ∈ Θ.

Misalkan Y1 := u1 (X1 , . . . , Xn ) meru-

pakan statistik cukup untuk θ dengan fungsi densitas merupakan anggota dari keluarga lengkap {fY1 (·; θ); θ ∈ Θ}. Jika terdapat suatu fungsi dari Y1 yang merupakan estimator tak bias untuk θ, untuk setiap θ ∈ Θ, maka fungsi tersebut tunggal PY1 -h.p. dan fungsi ini merupakan estimator dengan variansi terkecil. Proof. Misalkan Y2 merupakan suatu quantitas yang tak bias terhadap θ, maka menurut Teorema 3.1.8, terdapat sekurang-kurangnya satu fungsi dari Y1 , yaitu ϕ(Y1 ) dengan E(ϕ(Y1 )) = θ, ∀θ ∈ Θ. Andaikan terdapat fungsi lain, misalkan ψ(Y1 ) dengan sifat E(ψ(Y1 )) = θ, ∀θ ∈ Θ, maka E(ϕ(Y1 ) − ψ(Y1 )) = 0, ∀θ ∈ Θ. Karena fungsi densitas dari Y1 termasuk keluarga lengkap, ini berakibat terdapat (−∞, 0] =: N ⊂ R dengan PY1 (N ) = 0 sedemikian hingga ϕ(y1 ) = ψ(y1 ), ∀y1 ∈ N c := (0, ∞). Jadi ϕ = ψ PY1 -h.p. Menurut teorema Rao-Blackwell, ϕ(Y1 ) mempunyai variansi terkecil diantara semua estimator tak bias untuk θ ∈ Θ.

3.3

Keluarga eksponensial

Definisi 3.3.1. Milsakan PΘ := {f (·; θ); θ ∈ Θ} merupakan keluarga fungsi densitas, dimana Θ adalah suatu interval, misalkan sebagai γ < θ < δ dengan γ dan δ merupakan konstanta-konstanta yang diketahui. Misalkan fungsi densitas ini dapat dituliskan sebagai f (x; θ) = exp{p(θ)K(x) + S(x) + q(θ)}, x ∈ A dimana A := {x ∈ R; f (x; θ) > 0}. Maka PΘ adalah keluarga eksponensial reguler tipe kontinu, jika dipenuhi:

45

1. A tidak bergantung pada θ, γ < θ < δ. 2. p(θ) merupakan fungsi nontrivial dan kontinu pada γ < θ < δ. 3. dK(x)/dx 6= 0 dan kontinu pada A. 4. S(x) merupakan fungsi kontinu pada A. Selanjutnya PΘ dikatakan keluarga eksponensial reguler tipe diskrit jika dipenuhi kondisi-kondisi berikut: 1. A tidak bergantung pada θ, γ < θ < δ. 2. p(θ) merupakan fungsi nontrivial dan kontinu pada γ < θ < δ. 3. K(x) kontinu pada A. Catatan: Jika X1 , . . . , Xn merupakan sampel random dari populasi dengan fungsi densitas dari keluarga {f (·; θ) : γ < θ < δ} yang merupakan keluarga exsponensial reguler (kontinu atau diskrit), maka fungsi densitas bersama dari X1 , . . . , Xn adalah ( ) n n X X fX1 ,...,Xn (x1 , . . . , xn ; θ) = exp p(θ) K(xi ) + S(xi ) + nq(θ) i=1

i=1

Contoh 3.3.2. Keluarga {N (0, θ) : θ > 0} adalah keluarga eksponensial reguler tipe kontinu, karena fungsi densitasnya dapat dituliskan sebagai ½ 2¾ x 1 exp − f (x; θ) = √ , 0<θ<∞ 2θ 2πθ ¾ ½ 2 1 x = exp − − ln(2πθ) . 2θ 2 Selanjutnya misalkan p(θ) := −1/θ, K(x) := x2 , S(x) := 0 dan q(θ) := − ln(2πθ)/2. Maka kondisi 1-4 diatas dipenuhi.

46

Teorema 3.3.3. Jika X1 , . . . , Xn merupakan sampel random dari populasi dengan fungsi densitas dari keluarga {f (·; θ) : γ < θ < δ} yang merupakan keluarga exspoP nensial reguler (kontinu atau diskrit). Maka Y1 := ni=1 K(Xi ) merupakan statistik cukup untuk θ dan keluarga {fY1 (·; θ) : γ < θ < δ} merupakan keluarga lengkap. Selanjutnya Y1 disebut statistik cukup dan lengkap. Contoh 3.3.4. Pada Contoh 3.3.2, Y1 =

Pn i=1

Xi2 merupakan statistik cukup dan

lengkap untuk θ. Misalkan ϕ(Y1 ) := Y1 /n, maka E(ϕ(Y1 )) = θ. Jadi Y1 /n juga statistik cukup dan lengkap. Lebih jauh, Y1 merupakan estimator tak bias dengan variansi minimum dengan ϕ tunggal PY1 -h.p. Contoh 3.3.5. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi P OIS(θ), θ > 0. Karena f (x; θ) = exp{ln θx + ln(x!) − θ}, jadi P OIS(θ), θ > 0 merupakan keluarga eksponensial reguler diskrit, sehingga ( fX1 ,...,Xn (x1 , . . . , xn ; θ) = exp ln θ

n X i=1

Menurut Teorema 3.3.3, Y1 :=

Pn i=1

xi +

n X

) ln(xi !) − nθ

.

i=1

Xi merupakan statistik cukup dan lengkap untuk

¯ juga merupakan statistik cukup dan lengkap untuk θ dengan θ. Selanjutnya Y1 /n = X ¯ merupakan estimator tak bias terbaik untuk θ. E(Y1 /n) = θ, ∀θ > 0. Jadi X

3.4

Soal-soal

Chapter 4 Estimasi interval Pada Chapter 2 dan Chapter 3 telah dibahas beberapa metode menentukan estimasi titik untuk suatu parameter, misalnya θ, serta keriteria-keriteria untuk memilih estimator terbaik untuk θ. Tetapi estimator titik tidak memberikan informasi tentang akurasi. Salah satu penyelesaian terhadap masalah ini adalah dengan merumuskan suatu interval random, yaitu interval untuk θ yang batas-batasnya merupakan statistik. Ineterval ini dikonstruksikan dengan cara sedemikian, sehingga peluangnya sebesar mungkin. Misalkan X1 , . . . , Xn merupakan n variabel random dengan fungsi densitas bersama fX1 ,...,Xn (x1 , . . . , xn ; θ), θ ∈ Θ ⊆ R. Misalkan θL , dan θU merupakan statistik dengan θL := `(X1 , . . . , Xn ) dan θU := u(X1 , . . . , Xn ). Jika (x1 , . . . , xn ) merupakan realisasi dari X1 , . . . , Xn , maka `(x1 , . . . , xn ) dan u(x1 , . . . , xn ) merupakan nilai-nilai teramati dari θL dan θU . Definisi 4.0.1. Untuk suatu γ ∈ (0, 1), jika P {`(X1 , . . . , Xn ) < θ < u(X1 , . . . , Xn )} = γ, ∀θ ∈ Θ, 47

48

maka interval (`(x1 , . . . , xn ), u(x1 , . . . , xn )) disebut interval kepercayaan dua sisi 100γ% untuk θ. Selanjutnya nilai-nilai teramati `(x1 , . . . , xn ) disebut batas bawah, sedangkan u(x1 , . . . , xn ) disebut batas atas. Catatan: 1. Batas-batas dari interval random (θL , θU ) haruslah merupakan statistik, sehingga nilai-nilainya untuk setiap pengamatan dapat ditentukan. Selanjutnya interval random (θL , θU ) disebut estimator interval untuk θ. Sedangkan interval yang batas-batasnya merupakan bilangan `(x1 , . . . , xn ) dan u(x1 , . . . , xn ) disebut estimasi interval untuk θ. 2. Bentuk interval tidak selamanya terbuka, tetapi bisa juga interval tertutup sesuai dengan jenis variabelnya apakah kontinu atau diskrit. Definisi 4.0.2. Interval (`(x1 , . . . , xn ), ∞) disebut batas kepercayaan bawah 100γ% untuk θ ∈ Θ, jika P {`(X1 , . . . , Xn ) < θ} = γ, ∀θ ∈ Θ. Sedangkan (−∞, u(x1 , . . . , xn )) disebut batas kepercayaan atas 100γ% untuk θ ∈ Θ, jika P {θ < u(X1 , . . . , Xn )} = γ, ∀θ ∈ Θ. Contoh 4.0.3. Misalkan daya tahan bola lampu yang diproduksi oleh pabrik A diasumsikan berdistribusi Exp(θ), θ > 0. Andaikan kita ingin mengkonstruksikan interval kepercayaan 95% untuk θ, θ > 0. Untuk menyelesaiakn masalah ini, kita ambil ¯ merupakan statistik sampel random X1 , . . . , Xn dari populasi Exp(θ). Jelaslah X ¯ berdistribusi χ2 (2n), cukup dan merupakan UMVUE untuk θ, ∀θ > 0. Karena 2nX/θ secara umum kita pilih konstanta α1 dan α2 , 0 < α1 , α2 < 1 dengan α1 + α2 = © ª ¯ < χ21−α (2n) = 1 − (α2 + α1 ) = α ∈ (0, 1), sedemikian hingga P χ2α1 (2n) < 2nX/θ 2

49

1−α =: γ, dimana χ2α (2n) adalah kuantil ke α dari distribusi chi-square dengan derajat bebas 2n (lihat Chapter 1). Biasanya dipilih α1 = α2 = α/2. Jika dipilih α = 0, 05 © ª ¯ < χ2 (2n) = 0, 95. Karena atau α/2 = 0, 025, maka P χ20,025 (2n) < 2nX/θ 0,975 © 2 ª © ª ¯ < χ2 (2n) dan 2nX/χ ¯ 2 (2n) < θ < 2nX/χ ¯ 2 (2n) meχ0,025 (2n) < 2nX/θ 0,975 0,975 0,025 ¡ ¢ rupakan dua kejadian yang ekuivalen, maka interval 2n¯ x/χ20,975 (2n), 2n¯ x/χ20,025 (2n) merupakan interval kepercayaan dua sisi 95% untuk θ. Andaikan dari suatu pengamatan dengan n = 40 diperoleh data dengan x¯ = 93, 1, maka interval dengan batas bawah 69, 9 dan batas atas 130, 3 disebut sebagai suatu interval kepercayaan 95% un© ª ¡ ¢ ¯ < χ2 (2n) = 0.95, maka 2nX/χ ¯ 2 (2n), ∞ tuk θ. Selanjutnya karena P 2nX/θ 0,95 0,95 ¡ ¢ ¯ 2 (2n) adalah adalah batas bawah 95% untuk θ. Sedangkan interval −∞, 2nX/χ 0,05

batas atas 95% untuk θ. Nilai-nilai untuk χ20,05 (2n) maupun χ20,975 (2n) dapat dilihat pada tabel distribusi chi-square yang tesedia pada buku-buku teks standard, atau dihitung dengan komputer. Terhadap interval (69, 9; 130, 3) yang diberikan pada contoh di atas tidak dapat diambil kesimpulan bahwa nilai θ yang sebenarnya terletak pada interval ini. Nilai θ yang sebenarnya mungkin tidak terletak pada interval ini. Interpretasi yang paling tepat adalah dengan frekuensi relatif. Misalkan m menyatakan banyaknya trial yang ¡ ¢ dilakukan. Jika m → ∞, persentase dari interval 2n¯ x/χ20,975 (2n), 2n¯ x/χ20,025 (2n) memuat nilai θ yang sebenarnya akan mendekati 95%. Selanjutnya, karena populasinya berdistribusi kontinu, maka interval terbuka dan tertutup keduanya merupakan interval kepercayaan dua sisi 95% untuk θ. Contoh 4.0.4. Misalkan X1 , . . . , Xn merupakan sampel random dari N (µ, σ 2 ), dengan −∞ < µ < ∞ tidak diketahui, sedangkan 0 < σ 2 < ∞ diasumsikan diketahui.

50

Jika zα merupakan kuantil ke α ∈ (0, 1) dari distribusi N (0, 1), maka © ª √ ¯ − µ)/σ < z1−α/2 1 − α =P zα/2 < n(X © √ ª √ ¯ − zα/2 σ/ n . ¯ − z1−α/2 σ/ n < µ < X =P X ¡ √ √ ¢ Jadi interval x¯ − z1−α/2 σ/ n, x¯ − zα/2 σ/ n adalah interval kepercayaan dua sisi £ √ √ ¤ 100(1 − α)% untuk µ, atau x¯ − z1−α/2 σ/ n, x¯ − zα/2 σ/ n . Pada kasus ini kita mengasumsikan σ 2 diketahui agar batas-batas intervalnya dapat dihitung. Jika σ 2 tidak diketahui, maka ujung-ujung interval tidak dapat dihitung. Parameter seperti ini disebut juga parameter pengganggu (nuisance parameter). Permasalahan yang dihadapi dalam mengkonstruksi interval kepercayaan adalah kehadiran parameter pengganggu. Masalah ini bisa diatasi dengan melakukan modofikasi seperti terangkum pada beberapa sub bab berikut. Prinsip dasar dalam mengkonstruksikan interval kepercayaan untuk suatu parameter θ adalah bahwa kita harus dapat menentukan suatu kuantitas yang hanya bergantung pada sampel dan θ, tetapi distribusi probabilitasnya tidak bergantung pada θ dan parameter-parameter lain yang tidak diketahui. Seperti pada Contoh 4.0.3, kuan¯ berdistribusi GAM (1/n, n) yang tidak bergantung pada θ, tetapi karena titas X/θ kuantil dari GAM (1/n, n) tidak tersedia pada tabel, kita lakukan sedikit modifikasi ¯ dengan mendefinisikan quantitas 2nX/θ yang diketahui berdistribusi χ2 (2n) yang tidak bergantung pada θ dan kuntil-kuantilnya tersedia pada tabel.

4.1

Metode kuantitas pivot (pivotal quantity)

Definisi 4.1.1. Misalkan ϕ : χ → R merupakan fungsi yang terdefinisi pada ruang sampel χ ⊆ Rn dengan ϕ(X1 , . . . , Xn ; θ) merupakan fungsi hanya dari sampel

51

X1 . . . , Xn dan θ ∈ θ. Jika distribusi probabilitas dari ϕ(X1 , . . . , Xn ; θ) tidak bergantung pada θ dan parameter lainnya yang tidak diketahui, maka ϕ(X1 , . . . , Xn ; θ) disebut quantitas pivot untuk θ. Catatan: Jika qα/2 dan q1−α/2 merupakan kuantil-kuantil ke α/2 dan (1 − α/2) dari quantitas © ª pivot ϕ(X1 , . . . , Xn ; θ), maka P qα/2 < ϕ(X1 , . . . , Xn ; θ) < q1−α/2 = 1 − α. Ini be© ª rarti θ ∈ θ : qα/2 < ϕ(X1 , . . . , Xn ; θ) < q1−α/2 merupakan interval kepercayaan dua sisi 100 × (1 − α)% untuk θ. Untuk setiap titik (x1 , . . . , xn ) ∈ χ, didefinisikan fungsi ϕ(x1 ,...,xn ) : θ → R, dengan ϕ(x1 ,...,xn ) (θ) := ϕ(x1 , . . . , xn ; θ). Jika ϕ(x1 ,...,xn ) merupakan fungsi monoton naik untuk setiap (x1 , . . . , xn ) ∈ χ, maka interval kepercayaan dua ³ ´ −1 sisi 100 × (1 − α)% untuk θ adalah ϕ−1 (q ), ϕ (q ) . Sebaliknya, (x1 ,...,xn ) α/2 (x1 ,...,xn ) 1−α/2 jika ϕ(x1 ,...,xn ) merupakan fungsi monoton turun untuk setiap (x1 , . . . , xn ) ∈ χ, maka interval kepercayaan dua sisi 100(1 − α)% untuk θ adalah ³

´ −1 ϕ−1 (q ), ϕ (q ) . 1−α/2 α/2 (x1 ,...,xn ) (x1 ,...,xn )

Definisi 4.1.2. Misalkan X merupakan populasi dengan fungsi densitas f (x; θ), θ ∈ Θ ⊆ R. Jika terdapat suatu fungsi non negatif fo sedemikian hingga f (x; θ) = f0 (x − θ), ∀θ ∈ Θ, maka θ disebut parameter lokasi. Jika f (x; θ) = 1θ f0 ( xθ ), ∀θ ∈ Θ, maka θ disebut parameter skala. Untuk kasus dua parameter θ1 dan θ2 , jika f (x; θ1 , θ2 ) = 1 f ( x−θ1 ), θ2 0 θ2

∀θ1 , θ2 maka θ1 dan θ2 disebut parameter lokasi-skala.

Teorema 4.1.3. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi dengan fungsi densitas fX (·; θ), θ ∈ θ. Andaikan MLE untuk θ, yaitu θˆ ada. 1. Jika θ merupakan parameter lokasi, maka (θˆ − θ) merupakan kuantitas pivot untuk θ, θ ∈ Θ.

52

ˆ merupakan kuantitas pivot untuk 2. Jika θ merupakan parameter skala, maka θ/θ θ, θ ∈ Θ. ¯ −µ Contoh 4.1.4. Kembali ke Contoh 4.0.4, jika σ 2 diasumsikan diketahui, maka X ¯ − µ) ∼ N (0, σ 2 /n). Pada kasus ini merupakan kuantitas pivot untuk µ, dimana (X ¯ merupakan statistik cukup dan tak bias untuk θ. Jadi X ¯ − µ dapat digunakan X untuk mengkonstruksi interval kepercayaan untuk µ. Selanjutnya, jika diasumsikan σ 2 tidak diketahui, maka σ ˆ 2 /σ 2 adalah kuantitas pivot untuk σ 2 , dengan nˆ σ 2 /σ 2 = (n−1)S 2 /σ 2 ∼ χ2 (n−1) (lihat Teorema 1.3.11). Dalam hal ini σ ˆ 2 adalah MLE untuk σ 2 (lihat Contoh 2.2.4). Jadi σ ˆ 2 /σ 2 bisa digunaka untuk mengkonstruksikan interval kepercayaan dua sisi 100(1 − α)% untuk σ 2 , yaitu à ! n X (n − 1)s2 (n − 1)s2 2 , , s := (xi − x¯)/(n − 1). χ21−α/2 (n − 1) χ2α/2 (n − 1) i=1 Teorema 4.1.5. Misalkan X1 , . . . , Xn merupakan sampel random dari suatu populasi dengan parameter lokasi-skala θ1 dan θ2 . Jika MLE θˆ1 dan θˆ2 ada, maka merupakan kuantitas pivot untuk θ1 dan

θˆ2 θ2

θˆ1 −θ1 θˆ2

merupakan kuantitas pivot untuk θ2 .

Contoh 4.1.6. Pada kasus Xi ∼ N (µ, σ 2 ), −∞ < µ < ∞ dan 0 < σ 2 < ∞, dengan µ dan σ 2 tidak diketahui. Dapat ditunjukkan, µ dan σ 2 merupakan parameter lokasiskala, karena itu

¯ X−µ σ ˆ2

merupakan kuantitas pivot untuk µ. Jadi dalam kasus dimana

σ 2 tidak diketahui (σ 2 sebagai parameter pengganggu), interval kepercayaan untuk µ dapat diturunkan dari kuantitas pivot ini. Dengan sedikit modifikasi, yaitu ¯ − µ)/(σ/√n) (X p =p σ ˆ 2 /(n − 1) nˆ σ 2 /σ 2 (n − 1) ¯ − µ)/(σ/√n) (X N (0, 1) p = =p ∼ t(n − 1). S 2 /σ 2 χ2 (n − 1)/(n − 1) ¯ −µ X

53

Jadi interval kepercayaan dua sisi 100(1 − α)% untuk µ adalah µ ¶ s s x¯ − t1−α/2 √ , x¯ + t1−α/2 √ n n Catatan: Misalkan (`(x1 , . . . , xn ), u(x1 , . . . , xn )) merupakan interval epercayaan dua sisi 100 × (1 − α)% untuk θ. Jika τ : θ → R merupakan fungsi monoton naik, maka interval kepercayaan dua sisi 100(1 − α)% untuk τ (θ) adalah (τ (`(x1 , . . . , xn )), τ (u(x1 , . . . , xn ))). Sebaliknya, jika τ monoton turun, maka interval kepercayaan dua sisi 100(1 − α)% untuk τ (θ) adalah (τ (u(x1 , . . . , xn )), τ (`(x1 , . . . , xn ))). Contoh 4.1.7. Kembali pada Contoh 4.0.3. Interval kepercayaan dua sisi 100(1−α)% untuk P{X > t} = exp{−t/θ}, t > 0 adalah µ ½ 2 ¾ ½ 2 ¾¶ χ0,975 (2n) χ0,025 (2n) exp − < exp{−t/θ} < exp − . 2n¯ x 2n¯ x Dari sampel random X1 , . . . , Xn yang diambil dari suatu populasi dengan fungsi distribusi kumulatif (cdf: cumulative distribution function) kontinu dengan parameter θ ∈ Θ ⊆ R pasti dapat ditemukan sekurang-kurangnya satu kuantitas pivot. Misalkan CDF dari Xi dinyatakan sebagai FXi (x; θ), maka FXi (Xi ; θ) ∼ U N IF (0, 1). Misalkan P Yi := − ln FXi (Xi ; θ), maka Yi ∼ Exp(1), sehingga 2nY¯ = −2 ni=1 − ln FXi (Xi ; θ) ∼ o n P χ2 (2n). Jadi P θ ∈ Θ : χ2α/2 (2n) < −2 ni=1 − ln FXi (Xi ; θ) < χ21−α/2 (2n) = 1 − α, sehingga interval kepercayaan dua sisi 100(1 − α)% untuk θ secara umum diberikan oleh himpunan berikut ( θ ∈ Θ : χ2α/2 (2n) < −2

n X i=1

) − ln FXi (xi ; θ) < χ21−α/2 (2n) .

(4.1.1)

54

Jika (4.1.1) tidak dapat disederhanakan secara analitis, cara alternatif adalah dengan penyelesaian secara numerik. Cara lain adalah dengan penyederhanaan lebih lanjut, P yaitu 1 − FXi (Xi ; θ) ∼ U N IF (0, 1), sehingga −2 ni=1 ln(1 − FXi (Xi ; θ)) ∼ χ2 (2n). Contoh 4.1.8. Misalkan Xi ∼ P AR(1, κ), maka FXi (Xi ; κ) = 1 − (1 + Xi )−κ . P Dengan menerapkan cara yang terkhir, kita peroleh −2 ni=1 ln(1 − FXi (Xi ; κ)) = P 2κ ni=1 ln(1 + Xi ) ∼ χ2 (2n), Jadi interval kepercayaan dua sisi 100(1 − α)% untuk κ adalah

4.1.1

Ã

χ2α/2 (2n)

χ21−α/2 (2n) P , P 2 ni=1 ln(1 + Xi ) 2 ni=1 ln(1 + Xi )

! .

Membandingkan dua populasi normal

Misalkan seorang peneliti ingin menyelidiki dan membandingkan efektivitas dari dua metode pembelajaran matematika yang ada. Suatu percobaan dilakukan dengan menerapkan metode I terhadap klas A dan metode II terhadap klas B. Kedua klas dianggap mempunyai kemampuan yang seimbang pada bidang matematika. Pada akhir semester diselenggarakan tes pada kedua kelas secara serentak dengan soal-soal yang sama, selanjutnya nilai-nilai test dicatat secara bebas satu sama lain. Jika nilai test dianggap berdistribusi N (µ, σ 2 ), −∞ < µ < ∞, 0 < σ 2 < ∞, maka hasil pengamatan dapat dianggap sebagai realisasi dari dua sampel random yang yang saling bebas X1 , . . . , XnA dari populasi N (µA , σA2 ) dan Y1 , . . . , YnB dari populasi N (µB , σB2 ), dimana nA dan nB masing-masing menyatakan banyaknya nilai yang dicatat pada klas A dan klas B, µA dan µB masing-masing menyatakan mean dari populasi nilai pada klas A dan klas B, sedangkan σA2 dan σB2 masing-masing menyatakan variansi dari populasi nilai pada klas A dan klas B.

55

4.1.1.1 Membandingkan σA2 dan σB2 Perbedaan efektivitas yang signifikan antara kedua metode pembelajaran dapat dilihat dari rasio . Jika interval kepercayaan dua sisi 100(1 − α)% untuk σA2 /σB2 memuat 1, maka kita boleh yakin dengan peluang 1 − α bahwa σA2 = σB2 . Sebaliknya, jika interval kepercayaan dua sisi 100(1 − α)% untuk σA2 /σB2 tidak memuat 1, maka kita yakin 100(1 − α)% bahwa σA2 6= σB2 . Selanjutnya, karena SA2 σB2 /SB2 σA2 merupakan kuantitas pivot yang berdistribusi F (nA − 1, nB − 1) (lihat Contoh 1.3.17), maka interval kepercayaan dua sisi 100(1 − α)% untuk σA2 /σB2 adalah µ 2 ¶ sB s2B Fα/2 (nA − 1, nB − 1), 2 F1−α/2 (nA − 1, nB − 1) , s2A sA dimana

n

s2A

n

A B 1 X 1 X (xi − x¯)2 dan s2B := (yi − y¯)2 . := nA − 1 i=1 nB − 1 i=1

4.1.1.2 Membandingkan µA dan µB Perbedaan efektivitas antara metode I dan metode II juga dapat dilihat dari selisih antara µA dan µB . Jika σA2 dan σB2 diketahui, maka ¯ − Y¯ ) − (µA − µB ) (X q 2 ∼ N (0, 1) 2 σA σB + nA nB merupakan kuantitas pivot untuk µA − µB . Jadi interval kepercayaan dua sisi 100(1 − α)% untuk µA − µB adalah  x¯ − y¯ − z1−α/2



s

s σA2 nA

+

σB2 nB

, x¯ − y¯ − zα/2

σA2 nA

+

σB2 nB



Dalam kasus σA2 dan σB2 tidak diketahui, kita bisa mengasumsikan σA2 = σB2 =: σ 2 untuk menyederhanakan permasalahan. Estimator tak bias untuk σ 2 adalah Sp2 :=

(nA − 1)SA2 + (nB − 1)SB2 . nA + nB − 2

56

Selanjutnya, karena Sp2 S2 S2 (nA + nB − 2) 2 = (nA − 1) A2 + (nB − 1) B2 ∼ χ2 (nA + nB − 2), σ σ σ maka ¯ − Y¯ ) − (µA − µB ) (X r ³ = ´ 1 1 Sp2 nA + nB

¯ Y¯ )−(µA −µB ) (X− r ³ ´ σ 2 n1 + n1 A

q

Sp2 σ2

B

∼ t(nA + nB − 2).

Jadi interval kepercayaan dua sisi 100(1 − α)% untuk µA − µB adalah s µ Ã ¶ 1 1 2 (¯ x − y¯) − t1−α/2 (nA + nB − 2) Sp + , nA nB s µ ¶! 1 1 (¯ x − y¯) − tα/2 (nA + nB − 2) Sp2 + . nA nB 4.1.1.3 Sampel berpasangan Untuk dapat menarik kesimpulan bahwa suatu obat baru dapat menurunkan suhu badan, n pasien diukur suhu badannya 15 menit sebelum dan 15 menit sesudah minum obat tersebut. Misalkan suhu badan pasien ke i sebelum minum obat adalah Xi dan sesudah minum obat adalah Yi , i = 1, . . . , n. Misalkan Di := Xi − Yi ∼ N (µ1 − µ2 , σ12 + σ22 − 2σ12 ), dimana µ1 := E(Xi ), µ2 := E(Yi ), σ12 := V ar(Xi ), σ22 := V ar(Yi ) dan σ12 := Cov(Xi , Yi ), maka 2 SD (n − 1) 2 ∼ χ2 (n − 1), 2 σ1 + σ2 − 2σ12 2 dimana SD :=

Pn

i=1 (Di

2 ¯ ¯ := Pn Di /n. Ini − D)/(n − 1), E(SD ) = σ12 + σ22 − 2σ12 , D i=1

berakibat ¯ − (µ1 − µ2 ) D q ∼ t(n − 1). 2 SD n

57

Jadi interval kepercayaan dua sisi 100(1 − α)% untuk µ1 − µ2 adalah ! Ã r r 2 2 S S D ¯ D . d¯ − t1−α/2 (n − 1) , d − tα/2 (n − 1) n n

4.2

Metode umum

Pada dasarnya interval kepercayaan untuk parameter θ ∈ Θ selalu dapat dikonstruksikan meskipun kuantitas pivot untuk θ tidak tersedia asalkan ada suatu statistik yang distribusinya bergantung hanya pada θ. Secara umum misalkan X1 , . . . , Xn mempunyai fungsi densitas bersama fX1 ,...,Xn (·; θ) dan misalkan S : w(X1 , . . . , Xn ) merupakan statistik dengan fungsi densitas fS (·; θ) dan fungsi distribusi kumulatif Rs FS (·; θ), dengan FS (s; θ) = −∞ fS (t; θ) dt. Selanjutnya misalkan h1 , h2 : θ → R merupakan fungsi-fungsi sedemikian hingga P {h1 (θ) < S < h2 (θ)} = 1 − α, α ∈ (0, 1). Jika s merupakan suatu nilai pengamatan dari S, maka {θ ∈ Θ : h1 (θ) < s < h2 (θ)} merupakan daerah kepercayaan 100(1−α)% untuk θ. Kita sebut himpunan ini daerah kepercayaan karena belum tentu merupakan interval pada R.

4.2.1

Kasus h1 dan h2 monoton naik

Jika h1 dan h2 merupakan fungsi monoton naik dari θ, maka berlaku © ª © ª −1 {θ ∈ Θ : h1 (θ) < s < h2 (θ)} = θ ∈ Θ : θ < h−1 1 (s) ∩ θ ∈ Θ : h2 (s) < θ Jika θU dan θL merupakan penyelesaian dari persamaan h1 (θU ) = s dan h2 (θL ) = s, maka {θ ∈ Θ : h1 (θ) < s < h2 (θ)} = {θ ∈ Θ : θL < θ < θU }. Jadi interval kepercayaan dua sisi 100(1 − α)% untuk θ adalah (θL , θU ). Untuk menentukan h1 dan h2

58

kita mulai dari persamaan P {h1 (θ) < S < h2 (θ)} = 1 − α. Salah satu kemungkinan yang dipenuhi oleh h1 dan h2 adalah FS (h2 (θ); θ) = 1 − α/2 dan FS (h1 (θ); θ) = α/2, α ∈ (0, 1). Contoh 4.2.1. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi dengan fungsi densitas f (x; θ) =

   (1/θ2 ) exp{−(x − θ)/θ2 } ; x ≥ θ   0

; x<θ

Misalkan kita akan mengkonstruksikan interval kepercayaan dua sisi 90% untuk θ. Ambil S = X1:n := min{X1 , . . . , Xn }, maka untuk x ≥ θ, P {S ≤ x} =1 − P {min{X1 , . . . , Xn } > x} =1 − P {Xi > x, ∀i = 1, . . . , n} =1 − Πni=1 P {Xi > x} =1 − Πni=1 (1 − P {Xi ≤ x}) µ ¶ Z x n 2 2 =1 − Πi=1 1 − (1/θ ) exp{−(t − θ)/θ } dt θ

Dengan substitusi u = −(t − θ)/θ2 , diperoleh P {Xi ≤ x} = 1 − exp{−(x − θ)/θ2 }. Jadi FS (x; θ) =

   1 − exp{−n(x − θ)/θ2 } ; x ≥ θ   0

.

; x<θ

Fungsi-fungsi h1 dan h2 dipilih dengan menyelesaiakn persamaan FS (h1 (θ); θ) = 0, 05 ⇔ 1 − exp{−n(h1 (θ) − θ)/θ2 } = 0, 05 FS (h2 (θ); θ) = 0, 95 ⇔ 1 − exp{−n(h2 (θ) − θ)/θ2 } = 0, 95,

59

yang menghasilkan penyelesaian h1 (θ) = θ − ln(0, 95)θ2 /n ≈ θ + 0, 0513θ2 /n h2 (θ) = θ − ln(0, 05)θ2 /n ≈ θ + 2, 996θ2 /n. Dapat disimpulkan bahwa h1 dan h2 merupakan fungsi monoton naik. Misalkan dari suatu pengamatan diperoleh s = 2, 50, maka dari persamaan h1 (θU ) = 2, 50 dan h2 (θL ) = 2, 50, diperoleh θU = 2, 469 dan θL = 1, 667. Jadi interval kepercayaan dua sisi 90% untuk θ adalah (1, 667; 2, 469). Catatan: Meskipun secara matematik S tidak disyaratkan merupakan statistik cukup ataupun MLE untuk θ, tetapi dianjurkan S yang dipilih sebaiknya merupakan statistik cukup atau MLE untuk θ.

4.2.2

Kasus h1 dan h2 monoton turun

Jika h1 an h2 merupakan fungsi-fungsi yang monoton turun terhadap θ ∈ Θ, maka untuk setiap hasil pengamatan s berlaku © ª © ª −1 {θ ∈ Θ : h1 (θ) < s < h2 (θ)} = θ ∈ Θ : h−1 1 (s) < θ ∩ θ ∈ Θ : θ < h2 (s) © ª −1 = θ ∈ Θ : h−1 1 (s) < θ < h2 (s) . Jadi jika h1 dan h2 memenuhi FS (h2 (θ); θ) = 1 − α/2 dan FS (h1 (θ); θ) = α/2, maka ¡ ¢ −1 interval h−1 1 (s), h2 (s) merupakan interval kepercayaan dua sisi 100(1 − α)% untuk θ. Misalkan θL dan θU merupakan penyelesaian dari persamaan h1 (θL ) = s dan h2 (θU ) = s, maka interval (θL , θU ) merupakan interval kepercayaan dua sisi 100(1 − α)% untuk θ.

60

4.3

Soal-soal

1. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi N (µ, σ 2 ). (a) Misalkan σ 2 = 9. Tentukan interval kepercayaan dua sisi 90% untuk µ, jika x¯ = 19, 3 dan n = 16. (b) Misalkan σ 2 tidak diketahui. Tentukan interval kepercayaan dua sisi 90% untuk µ, jika x¯ = 19, 3, s2 = 10, 24 dan n = 16. 2. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi W EI(θ, 2) (a) Tunjukan bahwa Q := 2

Pn i=1

Xi2 /θ2 ∼ χ2 (2n).

(b) Gunakan Q untuk mengkonstruksikan interval kepercayaan dua sisi 100γ% untuk θ. (c) Konstruksikan interval kepercayaan dua sisi 100γ% untuk P{X > t}. 3. Misalkan X1 , . . . , Xn1 sampel random dari Exp(θ1 ) dan Y1 , . . . , Yn2 sampel random dari Exp(θ2 ) dimana kedua sampel saling bebas. ¯ Y¯ ) ∼ F (2n1 , 2n2 ). (a) Tunjukkan (θ2 /θ1 )(X/ (b) Konstruksikan interval kepercayaan 100γ% untuk θ2 /θ1 . 4. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi dengan fungsi distribusi kumulatif ( FXi (x; θ) =

1 − exp{−θ(x − θ)} ; x ≥ θ 0

; x<θ

dengan θ > 0. (a) Tentukan CDF FS (·; θ) untuk S := min{X1 , . . . , Xn }.

,

61

(b) Tentukan fungsi h(θ) sedemikian hingga G(h(θ); θ) = 1−α, dan tunjukkan bahwa h bukan fungsi monoton. (c) Tentukan penyelesaian dari persamaan h(θ) = s. 5. Misalkan f (x; p) := pfX1 (x) + (1 − p)fX2 (x), dimana X1 ∼ N (1, 1) dan X2 ∼ N (0, 1). Dengan berdasarkan pada sampel berukuran n = 1 diambil dari f (x; p), konstruksikan interval kepercayaan dua sisi 100γ% untuk p. (Petunjuk: gunakan transformasi integeral probabilitas!) 6. Diberikan dua sampel random yang saling bebas X1 , . . . , Xn1 dari N (µ1 , σ12 ) dan Y1 , . . . , Yn2 dari N (µ2 , σ22 ). Jika µ1 dan µ2 diasumsikan diketahui, konstruksikan interval kepercayaan dua sisi 100(1 − α)% untuk σ22 /σ12 dengan menggunakan statistik cukup.

Chapter 5 Uji hipotesis Pengertian dan prosudur estimasi titik dan estimasi interval untuk parametr-parameter suatu populasi telah dibahas pada Chapter 2 dan Chapter 4. Pada chapter ini kita akan membahas metode inferensi yang lain yaitu uji hipotesis. Berbeda dengan estimasi titik atau interval, pada uji hipotesis pendugaan awal terhadap distribusi dari populasi diberikan, selanjutnya berdasarkan sampel ditarik kesimpulan apakah pendugaan awal tersebut ditolak atau diterima. Pada chapter ini pembicaraan akan dibatasi pada kasus parametrik, yaitu fungsi densitas dari populasinya diidentifikasi oleh parameter-parameter yang tidak diketahui. Ruang sampel tetap kita nyatakan dengan χ ⊆ Rn .

5.1

Pendahuluan

Definisi 5.1.1. Misalkan X ∼ fX (·; θ), θ ∈ Θ ⊆ R. Hipotesis statistik adalah pernyataan tentang distribusi dari X. Dalam kasus parametrik ini hipotesis statistik adalah pernyataan tentang θ. 62

63

Dalam uji hipotesis ruang parameter Θ dibagi menjadi dua himpunan bagian yang saling asing, yaitu Θ0 ⊂ Θ dan Θ1 := Θ − Θ0 . Bersesuaian dengan Θ0 dan Θ1 , hipotesis statistik juga terdiri dari dua pernyataan yang saling berlawanan, yaitu hipotesis nol (H0 ) yang menyatakan bahwa θ ∈ Θ0 dan hipotesis alternatif (H1 ) yang menyatakan bahwa θ ∈ Θ1 . Biasanya kedua hipotesis ini dituliskan sebagai H0 : θ ∈ Θ0 vs H1 : θ ∈ Θ1 . Jika diberikan sampel yang diambil dari populasi fX (·; θ), θ ∈ Θ, prosudur uji hipotesis harus mampu menetukan apakah H0 ditolak atau diterima. Karena itu kita membagi ruang sampel χ menjadi dua himpunan bagian yang saling asing, yaitu C := {(x1 , . . . , xn ) ∈ χ : H0 ditolak} dan χ − C. Selanjutnya C disebut daerah penolakan (daerah kritis), sedangkan χ − C disebut daerah penerimaan. Definisi 5.1.2. Suatu tes untuk hipotesis H0 : θ ∈ Θ0 vs H1 : θ ∈ Θ1 adalah suatu fungsi ψ : χ → {0, 1}, sedemikian hingga ∀(x1 , . . . , xn ) ∈ χ,    1 ; jika (x1 , . . . , xn ) ∈ C . ψ(x1 , . . . , xn ) =   0 ; jika (x1 , . . . , xn ) 6∈ C Jadi ψ merupakan fungsi penolakan dari H0 , dimana H0 akan ditolak jika ψ = 1 dan tidak ditolak jika ψ = 0. Selanjutnya berlaku E(ψ) = P(menolak H0 ) Pada setiap eksperimen yang melibatkan pengamatan pasti ada kesalahan yang berimbas pada proses pengambilan keputusan terhadap H0 . Ada dua tipe kesalahan yang dapat dilakukan dalam penolakan terhadap H0 , yaitu 1. Kesalahan tipe I, yaitu kesalahan yang dilakukan karena menolak H0 padahal H0 benar. 2. Kesalahan tipe II, yaitu kesalahan yang dilakukan karena tidak menolak H0 padahal H0 salah.

64

Probabilitas kedua kesalahan dinyatakan sebagai P(kesalahan tipe I) = P(C | θ ∈ Θ0 ) = E(ψ) di bawah H0 , P(kesalahan tipe II) = 1 − P(C | θ ∈ Θ1 ) = 1 − E(ψ) di bawah H1 . Definisi 5.1.3. Fungsi power dari tes ψ adalah suatu fungsi Gψ : Θ → [0, 1] yang diberikan oleh Gψ (θ) := P(C | θ ∈ Θ) = E(ψ) untuk θ ∈ Θ. Selanjutnya, ukuran (size) dari ψ adalah supθ∈Θ0 Gψ (θ). Untuk suatu bilangan α ∈ (0, 1), tes ψ dikatakan tes dengan signifikansi α jika Gψ (θ) ≤ α, ∀θ ∈ Θ0 . Karena untuk setiap θ ∈ Θ0 , Gψ (θ) ≤ supθ∈Θ0 Gψ (θ), maka setiap tes adalah tes dengan tingkat signifikansi yang diberikan oleh ukurannya. Definisi 5.1.4. Suatu hipotesis yang berbentuk H0 : θ = θ0 vs H1 : θ = θ1 untuk suatu θ0 , θ1 ∈ Θ disebut hipotesis sederhana. Sedangkan hipotesis yang menyatakan bahwa θ berada pada suatu interval disebut hipotesis komposit. Jadi hipotesis yang berbentuk H0 : θ < θ1 vs H1 : θ ≥ θ1 untuk suatu θ1 ∈ Θ adalah hipotesis komposit. Catatan: Untuk hipotesis sederhana H0 : θ = θ1 vs H1 : θ = θ2 untuk θ1 6= θ2 , berlaku supθ∈Θ0 Gψ (θ) = maxθ∈{θ0 } Gψ (θ) = Gψ (θ0 ). Maka ψ adalah tes dengan ukuran yang diberikan oleh Gψ (θ0 ). Jadi dalam kasus ini Gψ (θ0 ) juga dapat diambil sebagai tingkat signifikansinya.

5.1.1

Menentukan daerah kritik

Dari penjelasan di atas secara logika tes yang baik adalah tes yang meminimumkan P(kesalahan tipe I) dan P(kesalahan tipe II) secara simultan. Akan tetapi karena kedua kesalahan ini tidak dapat diminimumkan secara bersamaan (lihat Lehmann

65

dan Romano, 2005, hal. 57), prosudur terbaik yang dapat dilakukan adalah kita memilih terlebih dahulu bilangan kecil α, biasanya dipilih α = 0, 01 atau α = 0, 05 sebagai tingkat signifikansi sedemikian hingga P(kesalahan tipe I) ≤ α dan pada sisi lain P(kesalahan tipe II) dibuat minimum. Karena P(kesalahan tipe II) = 1 − Gψ (θ), ∀θ ∈ Θ1 , jadi daerah kritik yang dipilih adalah daerah kritik yang memenuhi P(kesalahan tipe I) ≤ α sedemikian hingga power dibawah H1 maksimum, yaitu Gψ (θ), ∀θ ∈ Θ1 maksimum. Contoh 5.1.5. Ada atau tidaknya kandungan minyak bumi pada suatu daerah dapat diperediksi dengan melihat kecepatan reaksi dari tanah dipermukaan daerah tersebut dengan suatu zat A yang diasumsikan berdistribusi N (µ, 16). Dari pengalaman diketahui bahwa µ = 10 jika tidak ada kandungan minyak dan µ = 11 jika sebaliknya. Untuk dapat menarik kesimpulan ya atau tidak sebuah eksperimen dilakukan dengan mengambil sampel random berukuran n = 25, yaitu X1 , . . . , X25 , dimana Xi adalah kecepatan reaksi diukur dalam ml/detik dan menguji hipotesis H0 : µ = 10 =: µ0 vs ¯ merupakan statistik cukup dan MLE untuk µ, adalah H1 : µ = 11 =: µ1 . Karena X ¯ Selanjutnya masuk akal untuk menduga sifat-sifat dari µ dengan sifat-sifat dari X. ¯ yang besar akan menunjukan bahwa sampel mendukung karena µ1 > µ0 , nilai-nilai X H1 , karena itu masuk akal jika daerah kritik didefinisikan sebagai © ª ¯ C := {(x1 , . . . , xn ) ∈ χ : x¯ ≥ k} = ω ∈ Ω : X(ω) ≥k , dimana k adalah konstanta yang ditentukan kemudian. Kita definisikan tes ψ : χ → {0, 1}, sedemikian hingga ∀(x1 , . . . , xn ) ∈ χ,    1 ; jika x¯ ≥ k ψ(x1 , . . . , xn ) = .   0 ; jika x¯ < k

66

Karena hipotesisnya merupakan hipotesis sederhana, tes atau daerah kritik berukuran α = 0, 05 diturunkan dari persamaan Gψ (µ0 ) = 0, 05 © ª ¯ ≥ k | µ = µ0 = 10 = 0, 05 ⇔P X ½¯ ¾ X − µ0 k − µ0 ⇔P = 0, 05 ≥ 4/5 4/5 ½ ¾ k − µ0 ⇔P Z≥ = 0, 05, 4/5 ini berakibat

k−µ0 4/5

= z1−α , atau k = µ0 + z1−α 4/5 = 11, 316. Jadi daerah kritik

berukuran 0, 05 adalah C = {(x1 , . . . , xn ) ∈ χ : x¯ ≥ 11, 316} ½ ¾ x¯ − 10 = (x1 , . . . , xn ) ∈ χ : ≥ 1, 645 . 4/5 Ini berarti tes berukuran 0, 05 akan menolak H0 jika data yang diperoleh menunjukan x¯ ≥ 11, 316 atau

x ¯−10 4/5

≥ 1, 645. Sebaliknya jika data memberikan nilai sedemikian

hingga x¯ < 11, 316 atau

x ¯−10 4/5

< 1, 645, maka H0 tidak ditolak. Selanjutnya kita

selidiki power dari ψ dibawah H1 yang diberikan oleh ½¯ ¾ X − µ0 Gψ (µ1 ) =P ≥ 1, 645 | µ = µ1 4/5 ¾ ½¯ X − µ1 µ0 − µ1 ≥ 1, 645 + =P 4/5 4/5 ½¯ ¾ X − µ1 =P ≥ 1, 645 − 5/4 = 0, 346. 4/5 Mari kita bandingkan tes diatas dengan tes yang didefinisikan sebagai berikut: γ : χ → {0, 1}, sedemikian hingga ∀(x1 , . . . , xn ) ∈ χ,    1 ; jika 10 ≤ x¯ ≤ 10.1006 γ(x1 , . . . , xn ) =   0 ; jika x¯ < 10 atau 10.1006 < x¯

67

untuk menguji hipotesis sederhana H0 : µ = 10 =: µ0 vs H1 : µ = 11 =: µ1 . Tes ini juga merupakan tes dengan ukuran 0, 05, karena © ª ¯ ≤ 10, 1006 | µ = 10 Gγ (µ0 ) =P 10 ≤ X ½ ¾ ¯ − 10 X 0, 1006 =P 0 ≤ = 0, 05. ≤ 4/5 4/5 Akan tetapi power dari γ di bawah H1 adalah © ª ¯ ≤ 10, 1006 | µ = 11 Gγ (µ1 ) =P 10 ≤ X © ª © ª ¯ ≤ 10, 1006 | µ = 11 − P X ¯ ≤ 10 | µ = 11 =P X ½¯ ¾ ½¯ ¾ X − µ1 X − µ1 =P ≤ 0, 12575 − 5/4 − P ≤ −5/4 4/5 4/5 =0.130 − 0.106 = 0, 024. Ini berarti power dari ψ dibawah H1 jauh lebih besar dibandingkan dengan power dari γ dibawah H1 . Dengan demikian diantara kedua tes tersebut, ψ lebih powerful dari γ. Contoh 5.1.6. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi N (µ, σ 2 ), σ 2 diasumsikan tidak diketahui. 1. Tes berukuran α untuk hipotesis H0 : µ ≤ µ0 vs H1 : µ > µ0 adalah menolak H0 √ √ jika n(¯ x−µ0 )/s ≥ t1−α (n−1). Sebaliknya H0 tidak ditolak jika n(¯ x−µ0 )/s < t1−α (n − 1). Selanjutnya fungsi power di bawah H1 adalah ½√

¾ ¯ − µ0 ) n(X Gψ (µ) = P ≥ t1−α (n − 1) | µ > µ0 S ½√ ¯ ¾ n(X − µ + µ − µ0 ) =P ≥ t1−α (n − 1) S    √n(X  ¯ − µ)/σ + √n(µ − µ0 )/σ q =P ≥ t1−α (n − 1)   (n−1)S 2 /(n − 1) σ2

68 ( =P

) Z +∆ p ≥ t1−α (n − 1) , V /ν

√ dimana ∆ := n(µ − µ0 )/σ > 0, V := (n − 1)S 2 /σ 2 , ν := n − 1. Dalam hal p ini Z + ∆/ V /ν berdistribusi t students non central dengan derajat bebas ν dan parameter non central ∆. Jika ∆ = 0, maka power dibawah alternatif akan mencapai ukuran dari tes tersebut, yaitu α. 2. Tes berukuran α untuk hipotesis H0 : µ ≥ µ0 vs H1 : µ < µ0 adalah menolak H0 √ √ jika n(¯ x − µ0 )/s ≤ tα (n − 1). Sebaliknya H0 tidak ditolak jika n(¯ x − µ0 )/s > tα (n − 1). 3. Tes berukuran α untuk hipotesis H0 : µ = µ0 vs H1 : µ 6= µ0 adalah menolak √ √ H0 jika n(¯ x − µ0 )/s ≥ t1−α/2 (n − 1) atau n(¯ x − µ0 )/s ≤ −t1−α/2 (n − 1). √ Sebaliknya H0 tidak ditolak jika −t1−α/2 < n(¯ x − µ0 )/s < t1−α/2 (n − 1).

5.1.2

Nilai p (p-value)

Untuk sembarang α ∈ (0, 1), misalkan Cα merupakan daerah kritik dari tes berukuran α untuk hipotesis H0 : θ ∈ Θ0 vs H1 : θ ∈ Θ1 berdasarkan sampel random X1 , . . . , Xn . Secara umum Cα akan mempunyai bentuk sebagai berikut: Cα := {(x1 , . . . , xn ) ∈ χ : q(x1 , . . . , xn ) ≥ q1−α } , dimana q1−α adalah quantil ke 1−α untuk distribusi dari statistik q(X1 , . . . , Xn ). Untuk sembarang α1 dan α2 , jika α1 < α2 , maka q1−α1 > q1−α2 . Fakta ini mengakibatkan Cα1 ⊂ Cα2 . Ini berarti, jika kita diberikan dua konstanta α1 dan α2 , jika H0 ditolak pada tingkat signifikansi α1 , maka H0 pasti ditolak juga pada tingkat signifikansi α2 . Permasalahan sebaliknya adalah jika diberikan suatu data (x1 , . . . , xn ) ∈ χ, apakah

69

H0 ditolak atau tidak pada tingkat signifikansi α1 dan α2 ? Permasalahan ini memperkenalkan kita pada konsep nilai p atau p−value. Definisi 5.1.7. Diberikan data (x1 , . . . , xn ) ∈ χ, nilai p dari suatu tes adalah nilai α terkecil sedemikian hingga H0 ditolak. Dengan kata lain p-value := inf Cα , sedemikian hingga (x1 , . . . , xn ) ∈ Cα . α∈(0,1)

Jika Cα = {(x1 , . . . , xn ) ∈ χ : q(x1 , . . . , xn ) ≥ q1−α }, maka berlaku p-value := inf q1−α , sedemikian hingga q(x1 , . . . , xn ) ≥ q1−α α∈(0,1)

=P {q(X1 , . . . , Xn ) ≥ q(x1 , . . . , xn )} . Sebaliknya, jika Cα = {(x1 , . . . , xn ) ∈ χ : q(x1 , . . . , xn ) ≤ qα }, maka p-value := inf qα , sedemikian hingga q(x1 , . . . , xn ) ≤ qα α∈(0,1)

=P {q(X1 , . . . , Xn ) ≤ q(x1 , . . . , xn )} . Contoh 5.1.8. Pada Contoh 5.1.6 bagian 1, misalkan hipotesisnya adalah H0 : µ ≤ 80 vs H1 : µ > 80, jika dari eksperimen diperoleh data dengan n = 40, x¯ = 85 dan s2 = 100, maka (√ p-value =P

¯ − 80) 40(X ≥ S

√

40(85 − 80) 10

)

=P {T (39) ≥ 3, 162} = 0, 0015, dimana T (39) menyatakan variabel berdistribusi t dengan derajat bebas 39. Jadi keputusan yang diambil berdasarkan data tersebut akan menolak H0 untuk setiap α ≥ 0, 0015.

70

5.2

Metode memilih tes terbaik

Dari Contoh 5.1.5, tes berukuran α untuk suatu hipotesis yang sama adalah tidak tunggal. Dua atau lebih tes dapat mempunyai ukuran yang sama, tetapi power di bawah alternatif H1 belum tentu sama. Pada sub bab ini kita akan merumuskan metode memilih tes yang terbaik (tes dengan power di bawah H1 terbesar) diantara semua tes berukuran α. Definisi 5.2.1. Misalkan ψ1 dan ψ2 merupakan dua tes dengan ukuran α untuk hipotesis H0 : θ ∈ Θ0 vs H1 : θ ∈ Θ1 . Tes ψ1 dikatakan secara seragam lebih baik dari ψ2 , jika Gψ1 (θ) ≥ Gψ2 (θ), ∀θ ∈ Θ1 . Misalkan Cα merupakan himpunana semua tes berukuran α untuk hipotesis H0 : θ ∈ Θ0 vs H1 : θ ∈ Θ1 . Suatu tes ψ ∈ Cα dikatakan terbaik secara seragam (Uniformly Most Powerful Test) atau tes UMP berukuran α, jika Gψ (θ) ≥ Gψ∗ (θ), ∀θ ∈ Θ1 dan ∀ψ ∗ ∈ Cα .

5.2.1

Tes UMP untuk hipotesis sederhana

Misalkan X1 , . . . , Xn merupakan n variabel random dengan fungsi densitas bersama f (x1 , . . . , xn ; θ), θ ∈ Θ ⊆ R. Suatu tes ϕ : χ → {0, 1} untuk hipotesis H0 : θ = θ0 vs H1 : θ = θ1 , dengan θ0 , θ1 ∈ Θ, θ0 6= θ1 , disebut tes Neyman-Pearson (tes N-P) berukuran α, jika   1 ; jika ϕ(x1 , . . . , xn ) =  0 ; jika

f (x1 ,...,xn ;θ0 ) f (x1 ,...,xn ;θ1 ) f (x1 ,...,xn ;θ0 ) f (x1 ,...,xn ;θ1 )

≤k >k

,

untuk setiap titk (x1 , . . . , xn ) ∈ χ, dimana k ∈ [0, ∞) merupakan sembarang konstanta yang akan ditentukan dari persamaan Gϕ (θ0 ) = α. Pada definisi ini diasumsikan f (x1 , . . . , xn ; θ1 ) > 0.

71

Teorema 5.2.2. Tes di atas adalah tes UMP berukuran α. Proof. Misalkan ψ merupakan sembarang tes berukuran α untuk hipotesis sederhana H0 : θ = θ0 vs H1 : θ = θ1 , yaitu Gψ (θ0 ) = α. Misalkan M ≥ : {(x1 , . . . , xn ) ∈ χ : ϕ(x1 , . . . , xn ) ≥ ψ(x1 , . . . , xn )} M < : {(x1 , . . . , xn ) ∈ χ : ϕ(x1 , . . . , xn ) < ψ(x1 , . . . , xn )} . Jika (x1 , . . . , xn ) ∈ M ≥ , maka ϕ(x1 , . . . , xn ) > 0. Ini berakibat f (x1 , . . . , xn ; θ0 ) ≤ kf (x1 , . . . , xn ; θ1 ). Sebaliknya, jika (x1 , . . . , xn ) ∈ M < , maka ϕ(x1 , . . . , xn ) < 1. Ini berakibat f (x1 , . . . , xn ; θ0 ) > kf (x1 , . . . , xn ; θ1 ). Maka Gϕ (θ1 )−Gψ (θ1 ) = Eθ1 (ϕ − ψ) Z = (ϕ(x1 , . . . , xn ) − ψ(x1 , . . . , xn ))f (x1 , . . . , xn ; θ1 )dx1 , . . . , dxn χ Z = (ϕ(x1 , . . . , xn ) − ψ(x1 , . . . , xn ))f (x1 , . . . , xn ; θ1 )dx1 , . . . , dxn M≥ Z + (ϕ(x1 , . . . , xn ) − ψ(x1 , . . . , xn ))f (x1 , . . . , xn ; θ1 )dx1 , . . . , dxn < Z M 1 ≥ (ϕ(x1 , . . . , xn ) − ψ(x1 , . . . , xn )) f (x1 , . . . , xn ; θ0 )dx1 , . . . , dxn k M≥ Z 1 + (ϕ(x1 , . . . , xn ) − ψ(x1 , . . . , xn )) f (x1 , . . . , xn ; θ0 )dx1 , . . . , dxn k < Z M 1 = (ϕ(x1 , . . . , xn ) − ψ(x1 , . . . , xn )) f (x1 , . . . , xn ; θ0 )dx1 , . . . , dxn k χ 1 1 = (Gϕ (θ0 ) − Gψ (θ0 )) = (α − α) = 0. k k Jadi Gϕ (θ1 ) ≥ Gψ (θ1 ). Disini Eθ1 menyatakan ekspektasi dibawah H1 . Contoh 5.2.3. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi bedistribusi Exp(θ), θ > 0. Kita akan merumuskan tes N-P berukuran α untuk hipotesis

72

H0 : θ = θ0 vs H1 : θ = θ1 , dimana diasumsikan θ1 > θ0 . Karena ( ) µ ¶n n X f (x1 , . . . , xn : θ0 ) θ1 ≤k⇔ exp (1/θ1 − 1/θ0 ) xi ≤ k f (x1 , . . . , xn ; θ1 ) θ0 i=1 ⇔

n X

xi ≥ k1 , dimana k1 :=

i=1

ln k − n ln(θ1 /θ0 ) . 1/θ1 − 1/θ0

Pada kasus ini (1/θ1 − 1/θ0 ) < 0 sehingga tanda ”≤” berubah menjadi ”≥”. Maka daerah penolakan berukuran α diturunkan dari persamaan: ( n ) ½ Pn ¾ X 2 i=1 Xi 2k1 P Xi ≥ k1 | θ = θ0 = α ⇔ P ≥ = α. θ0 θ0 i=1 P Selanjutnya karena 2 ni=1 Xi /θ0 berdistribusi χ2 (2n), maka 2k1 /θ0 = χ21−α (2n). Jadi P P tes N-P berukuran α akan menolak H0 jika 2 ni=1 xi /θ0 ≥ χ21−α (2n) atau ni=1 xi ≥ θ0 χ21−α (2n)/2, untuk θ1 > θ0 . Jika diasumsikan θ2 > θ0 , maka dapat ditunjukan bahwa tes N-P berukuran α untuk hipotesis H0 : θ = θ0 vs H1 : θ = θ2 akan menolak P P H0 jika 2 ni=1 xi /θ0 ≥ χ21−α (2n) atau ni=1 xi ≥ θ0 χ21−α (2n)/2. Kedua tes tersebut adalah sama asalkan θ1 dan θ2 diasumsikan lebih besar dari θ0 . Contoh 5.2.4. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi bedistribusi N (0, σ 2 ), 0 < σ 2 < ∞. Kita ingin merumuskan tes N-P berukuran α untuk menguji hipotesis H0 : σ 2 = σ02 vs H1 : σ 2 = σ12 , dimana diasumsikan σ12 > σ02 . Karena f (x1 , . . . , xn ; σ02 ) f (x1 , . . . , xn ; σ12 )

µ ≤k⇔ ⇔

σ12 σ02

n X i=1

(

¶2 exp

n X

¡ ¢ x2i 1/2σ12 − 1/2σ02

) ≤k

i=1

x2i ≥ k1 , dimana k1 :=

ln k − n ln(σ12 /σ02 ) . 1/2σ12 − 1/2σ02

Konstanta k1 ditentukan dari persamaan ) ( n ( n µ ¶ ) X X Xi 2 k1 ≥ 2 = α. P Xi2 ≥ k1 | σ 2 = σ02 = α ⇔ P σ0 σ0 i=1 i=1

73 P ³ i ´2 Karena ni=1 X berdistribusi χ2 (n), maka tes N-P berukuran α akan menolak H0 σ0 P ³ ´2 P jika ni=1 σx0i ≥ χ21−α (n) atau ni=1 x2i ≥ σ02 χ21−α (2n). Contoh 5.2.5. (Kasus diskrit) Misalkan X1 , . . . , Xn merupakan sampel random dari populasi bedistribusi P OIS(λ), λ > 0. Andaikan kita ingin merumuskan tes N-P berukuran α untuk menguji hipotesis H0 : λ = λ0 vs H1 : λ = λ1 , dimana diasumsikan λ1 > λ0 . Karena n

X Pn f (x1 , . . . , xn ; σ02 ) i=1 xi ≤ k ⇔ ≤ k ⇔ exp {n(λ − λ )} (λ /λ ) xi ≥ k 1 , 1 0 0 1 f (x1 , . . . , xn ; σ12 ) i=1 dimana k1 := k exp{n(λ0 − λ1 )}/ ln(λ0 /λ1 ). Perubahan tanda ”≤” menjadi tanda P ”≥” terjadi karena asumsi λ1 > λ0 , sehingga ln(λ0 /λ1 ) < 0. Misalkan S := ni=1 Xi , maka dibawah H0 , S berdistribusi P OIS(nλ0 ). Jika P {S ≥ i | λ = λ0 } = αi , dan P misalkan αi ≤ α ≤ αi+1 , maka tes yang menolak H0 , jika ni=1 xi ≥ i adalah tes N-P berukuran αi . Catatan: Pada kasus diskrit, tes N-P berukuran α mungkin tidak bisa dicapai secara eksak. Tetapi, diberikan α, kita bisa memilih k sedemikian hingga menghasilkan tes dengan ukuran sebesar-besarnya α.

5.2.2

Tes UMP untuk hipotesis komposit

Kita akan mengkonstruksikan tes UMP berukuran α untuk hipotesis H0 : θ = θ0 vs H1 : θ < θ1 . Metode yang ditempuh adalah dengan pertama-tama mendefinisikan tes N-P berukuran α untuk hipotesis sederhana H0 : θ = θ0 vs H1 : θ = θ1 untuk sembarang θ1 dengan θ1 < θ0 . Jika dapat ditunjukkan bahwa tes ini tidak bergantung

74

pada θ1 , maka tes ini adalah tes UMP berukuran α untuk hipotesis komposit H0 : θ = θ0 vs H1 : θ < θ1 . Contoh 5.2.6. Kita perhatikan kembali Contoh 5.2.3. Misalkan ψ : χ → {0, 1} merupakan tes untuk hipotesis H0 : θ = θ0 vs H1 : θ = θ1 untuk sembarang θ1 dengan θ1 > θ0 , dimana ∀(x1 , . . . , xn ) ∈ χ, ψ(x1 , . . . , xn ) =

   1;

jika

f (x1 ,...,xn ;θ0 ) f (x1 ,...,xn ;θ1 )

≤k

  0;

jika

f (x1 ,...,xn ;θ0 ) f (x1 ,...,xn ;θ1 )

>k

Tes UMP berukuran α untuk hipotesis ini akan menolak H0 jika 2n¯ x/θ0 ≥ χ21−α (2n). Tes ini tidak akan berubah selama θ1 > θ0 . Jadi ψ merupakan tes N-P berukuran α yang tidak bergantung pada θ1 selama θ1 > θ0 . Maka ψ adalah tes UMP berukuran α untuk hipotesis H0 : θ = θ0 vs H1 : θ > θ0 . Fungsi power dari ψ adalah ½ ¯ ¾ ½ ¯ ¾ 2nX 2nX θ 2 2 Gψ (θ) =P ≥ χ1−α (2n) | θ = P ≥ χ1−α (2n) θ0 θ θ0 ½ ¯ ¾ µ ¶ 2nX θ0 2 θ0 2 =P ≥ χ1−α (2n) = 1 − Fχ2 (2n) χ (2n) , θ θ θ 1−α dimana Fχ2 (2n) (x) adalah fungsi distribusi kumulatif dari variabel χ2 (2n). Karena θ0 2 χ (2n) θ 1−α

merupakan fungsi turun dari θ, maka Gψ (θ) merupakan fungsi monoton

naik dari θ, sehingga berlaku supθ≤θ0 Gψ (θ) = Gψ (θ0 ) = α. Berdasarkan hasil ini, ψ juga merupakan tes UMP berukuran α untuk hipotesis komposit H0 : θ ≤ θ0 vs H1 : θ > θ 0 . Secara analog tes UMP berukuran α berdasarkan sampel random dari populasi Exp(θ) untuk menguji hipotesis H0 : θ = θ0 vs H1 : θ < θ0 , akan menolak H0 jika 2n¯ x/θ0 ≤ χ2α (2n). Misalkan tes ini sebagai ψ ∗ , maka fungsi power dari ψ ∗ adalah ½ ¯ ¾ ½ ¯ ¾ µ ¶ 2nX 2nX θ θ0 2 2 2 Gψ∗ (θ) =P ≤ χα (2n) | θ = P ≤ χα (2n) = Fχ2 (2n) χ (2n) . θ0 θ θ0 θ α

75

Jelaslah Gψ∗ (θ) merupakan fungsi turun dari θ, oleh karena itu supθ≥θ0 Gψ∗ (θ) = Gψ∗ (θ0 ) = α. Jadi ψ ∗ merupakan tes UMP berukuran α untuk hipotesis H0 : θ ≥ θ0 vs H1 : θ < θ0 .

5.2.3

Keluarga monotone likelihood ratio (MLR)

Misalkan X1 , . . . , Xn mempunyai fungsi densitas bersama f (x1 , . . . , xn ; θ), dengan θ ∈ Θ ⊂ R. Misalkan T : χ → R merupakan statistik. Maka f (x1 , . . . , xn ; θ) dikatakan dari keluarga monotone likelihood ratio (MLR) dalam T , jika terdapat suatu fungsi non negatif g(t) sedemikian hingga untuk setiap θ1 dan θ2 dengan θ1 < θ2 berlaku: f (x1 , . . . , xn ; θ2 ) = g(T (x1 , . . . , xn ); θ1 , θ2 ) f (x1 , . . . , xn ; θ1 ) dengan g(T (x1 , . . . , xn ); θ1 , θ2 ) monoton naik dalam T (x1 , . . . , xn ). Contoh 5.2.7. Misalkan X1 , . . . , Xn merupakan sampel random dari P OIS(λ), dengan λ > 0. Maka untuk λ1 < λ2 , berlaku Pn f (x1 , . . . , xn ; λ2 ) = en(λ1 −λ2 ) (λ2 /λ1 ) i=1 xi . f (x1 , . . . , xn ; λ1 ) P Misalkan T (x1 , . . . , xn ) := ni=1 xi , karena λ2 /λ1 > 1, maka ruas kanan dari per-

samaan di atas merupakan fungsi monoton naik dari T (x1 , . . . , xn ). Jadi fungsi densitas bersama f (x1 , . . . , xn ; λ) = e−nλ λ P dalam T (X1 , . . . , Xn ) = ni=1 Xi .

Pn

i=1

xi

/Πni=1 (xi !) adalah dari keluarga MLR

Teorema 5.2.8. Misalkan X1 , . . . , Xn mempunyai fungsi densitas bersama yang dapat dituliskan sebagai: f (x1 , . . . , xn ; θ) = exp{q(θ)T (x1 , . . . , xn ) + h(x1 , . . . , xn ) + c(θ)}, θ ∈ Θ ⊂ R,

76

dimana h merupakan fungsi hanya dari (x1 , . . . , xn ), sedangkan c dan q adalah fungsifungsi dari θ saja. Jika q monoton naik secara tegas, maka f (x1 , . . . , xn ; θ) merupakan anggota keluarga MLR dalam T (X1 , . . . , Xn ). Proof. Jika θ1 < θ2 , maka f (x1 , . . . , xn ; θ2 ) = exp{(q(θ2) − q(θ1 ))T (x1 , . . . , xn ) + c(θ2 ) − c(θ1 )}. f (x1 , . . . , xn ; θ1 ) Karena q merupakan fungsi monoton naik secara tegas dari θ, maka ruas kanan dari persamaan di atas merupakan fungsi monoton dari T (x1 , . . . , xn ). Jadi f (x1 , . . . , xn ; θ) merupakan anggota keluarga MLR dalam T . Contoh 5.2.9. Jika X1 , . . . , Xn merupakan sampel random dari populasi N (µ, 16), dengan −∞ < µ < ∞, maka berlaku

( ) n 1 1 X 2 f (x1 , . . . , xn ; µ) = √ exp − (xi − µ) 32 i=1 4 2π Pn 2 µ 2 ½ ¶¾ √ nµ µ i=1 xi = exp x¯ − − + ln(4 2π) 16 32 32 = exp {q(θ)T (x1 , . . . , xn ) + h(x1 , . . . , xn ) + c(θ)} ,

dengan q(θ) := nµ/16, h(x1 , . . . , xn ) := −

Pn i=1

√ x2i /32, c(µ) := −µ2 /32 − ln(4 2π),

dan T (x1 , . . . , xn ) := x¯. Jelaslah q merupakan fungsi monoton naik tegas dari µ, ¯ sehingga dapat disimpulkan f (x1 , . . . , xn ; µ) dari keluarga MLR dalam X. Teorema 5.2.10. Jika f (x1 , . . . , xn ; θ), θ ∈ Θ ⊂ R merupakan anggota dari keluarga MLR dalam T (X1 , . . . , Xn ), maka tes UMP berukuran α untuk hipotesis H0 : θ ≤ θ0 vs H1 : θ > θ0 adalah ϕ∗ (x1 , . . . , xn ) =

   1;

jika T (x1 , . . . , xn ) ≥ k

  0;

jika T (x1 , . . . , xn ) < k

,

77

dimana k adalah konstanta yang ditentukan dari persamaan P {T (X1 , . . . , Xn ) ≥ k | θ = θ0 } = α. Jika nilai k yang memenuhi persamaan ini adalah k ∗ , maka daerah kritik dari tes ini adalah Cϕ∗ := {(x1 , . . . , xn ) ∈ χ : T (x1 , . . . , xn ) ≥ k ∗ } . Proof. Pertama-tama akan ditunjukkan bahwa ϕ∗ merupakan tes N-P berukuran α untuk hipotesis sederhana H00 : θ = θ0 vs H10 : θ = θ1 , untuk sembarang θ1 ∈ Θ dengan θ1 > θ0 , dan ditunjukkan bahwa tes ini tidak bergantung pada θ1 asalkan θ1 > θ0 . Kedua, kita tunjukkan bahwa fungsi power Gϕ∗ (θ) merupakan fungsi monoton naik dari θ. Karena g(t; θ0 , θ1 ) merupakan fungsi monoton naik dari t, maka berlaku: T (x1 , . . . , xn ) ≥ k ⇔g(T (x1 , . . . , xn ); θ0 , θ1 ) ≥ g(k; θ0 , θ1 ) ⇔

f (x1 , . . . , xn ; θ1 ) f (x1 , . . . , xn ; θ0 ) ≥ g(k; θ0 , θ1 ) ⇔ ≤ k∗, f (x1 , . . . , xn ; θ0 ) f (x1 , . . . , xn ; θ1 )

dimana k ∗ := 1/g(k; θ0 , θ1 ). Jadi tes ϕ∗ equivalen dengan    1; jika f (x1 ,...,xn ;θ0 ) ≤ k ∗ f (x1 ,...,xn ;θ1 ) ∗ ϕ (x1 , . . . , xn ) = .   0; jika f (x1 ,...,xn ;θ0 ) > k ∗ f (x1 ,...,xn ;θ1 ) Selanjutnya, ½ α = P {T (X1 , . . . , Xn ) ≥ k | θ = θ0 } = P

¾ f (x1 , . . . , xn ; θ0 ) ∗ ≤ k | θ = θ0 . f (x1 , . . . , xn ; θ1 )

Jadi ϕ∗ adalah tes N-P berukuran α untuk hipotesis H00 : θ = θ0 vs H10 : θ = θ1 . Tes ini tidak bergantung pada pemilihan θ1 ∈ Θ, asalkan θ1 > θ0 . Sehingga ϕ∗ adalah tes UMP berukuran α untuk hipotesis H00 : θ = θ0 vs H1 : θ > θ0 . Bahwa fungsi

78

power Gϕ∗ (θ) monoton naik pada Θ dapat dilihat pada Pruscha (2000), hal. 229-230. Akibat dari kemonotonan dari Gϕ∗ (θ), berlaku: supθ≤θ0 Gϕ∗ (θ) = Gϕ∗ (θ0 ) = α. Jadi ϕ∗ adalah tes UMP berukuran α untuk hipotesis H0 : θ ≤ θ0 vs H1 : θ > θ0 . Contoh 5.2.11. Dari Contoh 5.2.9, distribusi bersama dari X1 , . . . , Xn adalah dari ¯ Berdasarkan Teorema 5.2.10, tes UMP berukuran alpha keluarga MLR dalam X. untuk hipotesis H0 : µ ≤ µ0 vs H1 : µ > µ0 adalah    1; jika x¯ ≥ k ∗ ϕ (x1 , . . . , xn ) = ,   0; jika x¯ < k © ª ¯ ≥ k | µ = µ0 = α. Jika µ0 merupakan nilai sebenarnya dari µ, maka dengan P X daerah kritik dari ϕ∗ adalah ª © √ Cϕ∗ = (x1 , . . . , xn ) ∈ χ : n(¯ x − µ0 )/4 ≥ z1−α © √ ª = (x1 , . . . , xn ) ∈ χ : x¯ ≥ µ0 + 4z1−α / n . Remark 5.2.12. Jika f (x1 , . . . , xn ; θ) merupakan anggota dari keluarga MLR dalam T (X1 , . . . , Xn ), maka tes UMP berukuran α untuk hipotesis H0 : θ ≥ θ0 vs H1 : θ < θ0 adalah ϕ∗ (x1 , . . . , xn ) =

   1;

jika T (x1 , . . . , xn ) ≤ k

  0;

jika T (x1 , . . . , xn ) > k

,

dimana k adalah konstanta yang ditentukan dari persamaan P {T (X1 , . . . , Xn ) ≤ k | θ = θ0 } = α. Catatan: Jika f (x1 , . . . , xn ; θ) merupakan anggota dari keluarga MLR dalam T (X1 , . . . , Xn ),

79

untuk θ1 < θ0 , maka

f (x1 ,...,xn ;θ1 ) f (x1 ,...,xn ;θ0 )

merupakan fungsi monoton turun dari T (x1 , . . . , xn ),

sehingga ¾ ½ f (x1 , . . . , xn ; θ1 ) ∗ {(x1 , . . . , xn ) ∈ χ : T (x1 , . . . , xn ) ≤ k} ⊆ (x1 , . . . , xn ) ∈ χ : ≥k f (x1 , . . . , xn ; θ0 ) untuk suatu k ∗ , dimana k ∗ := g(k; θ0 , θ1 ).

5.3

Tes dengan membandingkan fungsi likelihood

Tes dengan membandingkan fungsi likelihood (engl. Likelihood Ratio Test) disingkat LRT merupakan salah satu tes yang berhubungan langsung dengan maksimum likelihood estimator yang dibahas pada Chapter 2. Pada sub bab sebelumnya prosudur tes UMP diturunkan terbatas pada hipotesis sederhana dan hipotesis komposit satu sisi. Tetapi untuk hipotesis komposit dua sisi H0 : θ = θ0 vs H1 : θ 6= θ0 tes UMP tidak dapat diturunkan. Permasalahan ini dan permasalahan tes dengan kehadiran parameter pengganggu dapat ditangani dengan tes likelihood ratio. Definisi 5.3.1. Misalkan L(θ; x1 , . . . , xn ) merupakan fungsi likelihood dari variabel random X1 , . . . , Xn . Misalkan λ(x1 , . . . , xn ) :=

supθ∈H0 L(θ; x1 , . . . , xn ) . supθ∈Θ L(θ; x1 , . . . , xn )

Tes LR berukuran α untuk hipotesis H0 : θ ∈ Θ0 vs H1 : θ ∈ Θ1 adalah    1; jika λ(x1 , . . . , xn ) ≤ k φ(x1 , . . . , xn ) = ,   0; jika λ(x1 , . . . , xn ) > k dimana 0 < k < 1 adalah konstanta yang tidak diketahui yang ditentukan dari persamaan sup P{λ(X1 , . . . , Xn ) ≤ k} = α.

θ∈H0

80

Remark 5.3.2. Misalkan θˆ0 adalah MLE untuk θ pada daerah yang dibatasi pada Θ0 (MLE yang dibatasi pada H0 ) dan θˆ adalah MLE untuk θ pada daerah Θ (MLE yang tidak dibatasi). Maka λ(x1 , . . . , xn ) =

L(θˆ0 ; x1 , . . . , xn ) . ˆ x1 , . . . , x n ) L(θ;

Jadi daerah kritik dari tes LR dikonstruksikan dengan cara sedemikian rupa sehingga titik-titik sampel mempunyai rasio yang kecil. Contoh 5.3.3. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi N (µ, 1), dimana µ tidak diketahui, −∞ < µ < ∞. Kita tertarik untuk mengkonstruksikan tes LR untuk hipotesis H0 : µ = µ0 vs H1 : µ 6= µ0 , dimana µ0 adalah konstanta yang diketahui (ditentukan oleh ekperimenter). Karena pada H0 dispesifikasikan dengan jelas bahwa Θ0 = {µ0 }, maka supµ∈H0 L(µ; x1 , . . . , xn ) = maxµ∈H0 L(µ; x1 , . . . , xn ) = ¯ maka L(µ0 ; x1 , . . . , xn ). MLE untuk µ pada daerah −∞ < µ < ∞ adalah µ ˆ = X, berlaku ( " n #) n X X L(µ0 ; x1 , . . . , xn ) λ(x1 , . . . , xn ) = = exp −1/2 (xi − µ0 )2 − (xi − x¯)2 . L(¯ x; x1 , . . . , x n ) i=1 i=1 Selanjutnya, karena

Pn

i=1 (xi

− µ0 )2 =

Pn

i=1 (xi

− x¯)2 + n(¯ x − µ0 )2 , maka diperoleh

½

¾ 1 2 λ(x1 , . . . , xn ) = exp − n(¯ x − µ0 ) . 2 Selanjutnya sup P {λ(X1 , . . . , Xn ) ≤ k} = P {λ(X1 , . . . , Xn ) ≤ k | µ = µ0 } = α ¾ ¾ ½ ½ 1 ¯ 2 ⇔ P exp − n(X − µ0 ) ≤ k = α 2 ©√ ª ¯ − µ0 ))2 ≥ −2 ln k = α. ⇔ P ( n(X

µ∈H0

81 √ ¯ Karena ( n(X − µ0 ))2 berdistribusi χ2 (n), maka tes LR berukuran α akan menolak H0 , jika n(¯ x − µ0 )2 ≥ χ2 (n)1−α atau k = exp{−χ21−α (n)/2}. Cara lain adalah ©√ ª ¯ − µ0 ))2 ≥ −2 ln k = α P ( n(X n√ o √ √ √ ¯ ¯ ⇔P n(X − µ0 ) ≤ − −2 ln k atau n(X − µ0 ) ≥ −2 ln k = α. √

¯ − µ0 ) berdistribusi N (0, 1), maka tes LR berukuran α akan menolak n(X √ √ H0 , jika n(¯ x − µ0 ) ≤ −z1−α/2 atau n(¯ x − µ0 ) ≥ z1−α/2 . Karena

Contoh 5.3.4. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi N (µ, σ 2 ), dengan µ dan σ 2 parameter-parameter yang tidak diketahui, −∞ < µ < ∞ dan 0 < σ 2 < ∞. Kita akan menurunkan prosudur tes LR berukuran α untuk hipotesis H0 : µ = µ0 vs H1 : µ 6= µ0 , dimana µ0 adalah bilangan yang diketahui. Pada kasus ini ruang parameter Θ0 dan Θ adalah Θ0 = {(µ, σ 2 ) : µ = µ0 , 0 < σ 2 < ∞} = {µ0 } × (0, ∞), Θ = {(µ, σ 2 ) : −∞ < µ < ∞, 0 < σ 2 < ∞} = (−∞, ∞) × (0, ∞). Dari Contoh 2.2.4 pada Chapter 2 diperoleh MLE untuk µ dan σ 2 pada Θ adalah P ¯ dan σ ¯ 2 . Sedangkan MLE untuk µ dan σ 2 pada Θ0 adalah µ ˆ=X ˆ 2 = n1 ni=1 (Xi − X) P µ ˆ0 = µ0 dan σ ˆ02 = n1 ni=1 (Xi − µ0 )2 . Sehingga n o Pn 1 2 −n/2 2 (2πˆ σ0 ) exp − 2ˆσ2 i=1 (xi − µ0 ) © 10 Pn ª λ(x1 , . . . , xn ) = 2 −n/2 (2πˆ σ ) exp − 2ˆσ2 i=1 (xi − x¯)2 Pn Pn µ 2 ¶−n/2 ¾ ½ 2 ¯)2 1 σ ˆ0 1 i=1 (xi − µ0 ) i=1 (xi − x P + = exp − 1 Pn σ ˆ2 2 n i=1 (xi − µ0 )2 2 n1 ni=1 (xi − x¯)2 µ 2 ¶−n/2 µ ¶−n/2 σ ˆ0 n(¯ x − µ0 )2 = = 1 + Pn ¯)2 σ ˆ2 i=1 (xi − x µ ¶ √ −n/2 [ n(¯ x − µ0 )]2 /(n − 1) = 1+ . s2

82

Selanjutnya, sup P {λ(X1 , . . . , Xn ) ≤ k} = α (µ ) ¶−n/2 √ ¯ [ n(X − µ0 )]2 /(n − 1) ⇔P 1+ ≤k =α S2 n p p o © 2 ª ⇔P T (n − 1) ≥ k1 = α ⇔ P T (n − 1) ≥ k1 atau T (n − 1) ≤ − k1 = α µ∈H0

√ ¯ dimana T (n − 1) := [ n(X − µ0 )]/S, dan k1 := (n − 1)k −2/n . Karena T (n − 1) berdistribusi t dengan derajat bebas n − 1, maka tes LR berukuran α akan menolak H0 √ √ jika [ n(¯ x − µ0 )]/s ≥ t1−α/2 (n − 1) atau [ n(¯ x − µ0 )]/s ≤ −t1−α/2 (n − 1). Karena √ T 2 (n − 1) berdistribusi F (1; n − 1), maka H0 juga ditolak jika [ n(¯ x − µ0 )]2 /s2 ≥ f1−α (1; n − 1).

5.4

Soal-soal

1. Suatu kotak berisi empat kelereng, θ berwarna putih dan 4 − θ berwarna hitam. Hipotesis H0 : θ = 2 vs H1 : θ 6= 2 dites dengan cara berikut: Dua klereng diambil dengan pengembalian, selanjutnya H0 ditolak jika kedua klereng yang terambil mempunyai warna yang sama. (a) Hitung P{Kesalahan tipe I}. (b) Hitung P{Kesalahan tipe II}. (c) Kerjakan (a) dan (b) jika pengambilan dilakukan tanpa pengembalian. 2. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi EXP (1, η). Hipotesis H0 : η ≤ η0 vs H1 : η > η0 akan dites berdasarkan statistik X1:n . (a) Tentukan Cα yang berbentuk {(x1 , . . . , xn ) ∈ χ : x1:n ≥ c}.

83

(b) Tentukan fungsi power untuk tes pada (a). 3. Diberikan suatu distribusi dengan fungsi densitas ( θxθ−1 ; jika 0 < x < 1 f (x; θ) = 0 ; jika x ≤ 0 atau x ≥ 1 (a) Berdasar pada sampel random berukuran n, konstruksikan tes MP berukuran α = 0, 05 untuk hipoptesis H0 : θ = 1 vs H1 : θ = 2. (b) Tentukan power dibawah alternatif dari tes pada (a). 4. Jika X1 , . . . , Xn mempunyai fungsi densitas bersama f (x1 , . . . , xn ; θ) dan S adalah statistik cukup untuk θ. Tunjukkan bahwa tes MP untuk hipotesis H0 : θ = θ0 vs H1 : θ = θ1 dapat dinyatakan dalam S. 5. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi dengan fungsi densitas ( f (x; θ) =

(3x2 /θ)e−x 0

3 /θ

; jika 0 < x ; jika x ≤ 0

.

Tentukan daerah kritik dari suatu tes UMP berukuran α untuk hipotesis H0 : θ = θ0 vs H1 : θ > θ0 . 6. Misalkan X1 , . . . , Xn merupakan sampel random dari suatu populasi diskrit dengan fungsi densitas ( f (x; θ) =

[θ/(θ+1)]x (θ+1)

; jika x ∈ {0, 1, . . .}

0

; jika x 6∈ {0, 1, . . .}

.

Tentukan tes UMP untuk hipotesis H0 : θ = θ0 vs H1 : θ > θ0 . 7. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi W EI(θ, 2). Turunkan suatu tes UMP untuk hipotesis H0 : θ ≥ θ0 vs H1 : θ < θ0 .

84

8. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi EXP (θ). (a) Turunkan suatu tes RL untuk hipotesis H0 : θ = θ0 vs H1 : θ 6= θ0 . (b) Turunkan tes RL untuk hipotesis H0 : θ = θ0 vs H1 : θ > θ0 . 9. Perhatikan dua sampel random yang saling bebas Xi ∼ N (µ1 , σ12 ) dan Yj ∼ N (µ2 , σ22 ). (a) Turunkan suatu tes RL untuk H0 : σ12 = σ22 jika diasumsikan µ1 dan µ2 diketahui. (b) Turunkan suatu tes RL untuk H0 : σ12 = σ22 jika diasumsikan µ1 dan µ2 tidak diketahui. 10. Misalkan X1 , . . . , Xn merupakan sampel random dari populasi EXP (θ, η). Misalkan θˆ dan ηˆ merupakan MLE untuk θ dan η. (a) Tunjukkan bahwa θˆ dan ηˆ saling bebas. ˆ ¯ −θ)/η, V2 = 2n(ˆ (b) Misalkan V1 = 2n(X η −η)/θ, dan V3 = 2nθ/θ. Tunjukkan bahwa V1 ∼ χ2 (2n), V2 ∼ χ2 (2), dan V3 ∼ χ2 (2n − 2). (c) Tunjukkan bahwa (n − 1)(ˆ η − η)/θˆ ∼ F (2; 2n − 2). (d) Turunkan tes RL untuk hipotesis H0 : η = η0 vs H1 : η ≥ η0 . (e) Tunjukkan bahwa daerah kritik berukuran α dari tes RL adalah n o Cα = (x1 , . . . , xn ) ∈ χ : (n − 1)(ˆ η − η0 )/θˆ ≥ f1−α (2; 2n − 2) .

Chapter 6 Teori sampel besar

85

Chapter 7 Teori Bayes

86

Chapter 8 Estimasi dengan metode bootstrap

87