Estadística Matemática Control 1 José Luis Molina Borboa 112214 12 de septiembre de 2011 Todos los cálculos fueron hechos con diez decimales de precisión. 1. Considere la distribución angular con función de densidad f ( f (x; α) =
1+αx 2 , |x|
≤1
con |α| ≤ 1. a) Encuentre el estimador de momentos (EMM) del parámetro α. Sean x1 ,...,x n v.a.i.i.d ∼ Angular( Angular(α) ⇒ E [X ] =
1
1
ˆ
ˆ
1+αx 2
dx =
1
Y tenemos que m1 =
x1 +...+xn n
1 2
x + αx2 dx =
1
−
1 2
x
2
2
3
+ α x3
|1 1 = −
α
3
(= E [X ]) ])
Entonces, igualando obtenemos 1 α ˆ =3 n
n
xi = 3x 3x
i=1
b) ¿Cómo encontraría el correspondiente estimador de máxima verosimilitud (EMV)? Construya la ecuación correspondiente. La función de máxima verosimilitud está dada por: n
L(α, x) = f ( f (x | α) =
f ( f (xi | α)
i=1
Aplicando logaritmo a la función, obtenemos la función que tenemos que maximizar n
(α, x) =
ln(1 ln(1 + axi ) − n ln(2)
i=1
1
2. En Comunidad ITAM encontrará asociada a su clave única la muestra observada de tamaño n = 20, proveniente de una población que es modelada mediante una distribución gamma , X ∼ Γ(α, λ), con función de densidad λα xα 1 λx f (x; α, λ) = e IR+ (x) Γ(α) −
−
con α > 0 y λ > 0.
a) Encuentre los EMM, α y λ. Con esta parametrización, sabemos que E [X ] = ya que V ar(X ) =
α α(α + 1) y E [X 2 ] = λ λ2
= E [X 2 ] − E [X ]2 .
α λ2
Sean x1 ,...,x n v.a.i.i.d como arriba. Los momentos se obtienen de la siguiente manera: m1 =
x1 + ... + xn =x n
x21 + ... + x2n m2 = n Igualando
α λ
= m1 y
α(α+1) λ2
= m2 , obtenemos los estimadores resolviendo para α y λ: α ˆ=
m21 m2 − m21
ˆ= λ
m1 . m2 − m21
Haciendo el cálculo con la muestra observada de tamaño 20 [1], obtenemos que m1 = 0.659132053 y m2 = 0.571561255. Por lo tanto, las estimaciones de los parámetros por el método de momentos son: 0.6591320532 α ˆ= = 3.168748677 0.571561255 − 0.6591320532 0.65913205 ˆ= λ = 4.807456506 0.571561255 − 0.6591320532 Vemos que, en efecto,
α ˆ
ˆ λ
= 0.659132052 = m1 (= x) y
2
α ˆ (α ˆ +1)
ˆ2 λ
= 0.571561255 = m2 .
ˆ EMV. Incluya los detalles de los primeros b)Mediante algún método numérico encuentre α ˆ y λ, pasos del algoritmo. Tenemos que la función de máxima verosimilitud está dada por: n
1 λα xα i e Γ(α) i=1
L(α, λ; x) =
−
−λxi
Aplicamos logaritmo para obtener la función log de verosimilitud : n
(α, λ; x) = n[ α ln λ − lnΓ(α) ] + (α − 1)
n
ln xi − λ
i=1
xi
i=1
Derivando parcialmente e igualando a cero obtenemos: ∂ = n ln λ − nΨ(α) + ∂α
n
ln xi = 0
i=1
n
∂ α =n − xi = 0 ∂λ λ i=1 Donde Ψ(α) es la función digamma, definida por Ψ(α) =
d dα
lnΓ(α).
El máximo de λ sí puede ser obtenido analíticamente con facilidad, y puede ser estimado una vez que conozcamos α ˆ: α α ˆ ˆ = nˆ λ = xi x
ˆ obtenemos: Dividiendo cada derivada parcial entre n y sustituyendo el valor de λ 1 ∂ n 1 = ln(α ) − Ψ(α) + n ∂α xi n
n
1 ln xi = ln α − ln x − Ψ(α) + n i=1
1 ∂ α 1 = − ˆ n ∂λ n λ
n
xi =
i=1
α α x
n
ln xi . . . (1)
i=1
−x=0
Igualando (1) a cero, obtenemos la función de la cual debemos despejar α. Usaremos el método de iteraciones de Newton-Raphson, i.e., xn+1 = xn −
f (xn ) f (xn )
Con esto, α1 está dado por (utilizando α0 como el obtenido por el método de momentos): ln α0 − Ψ(α0 ) − ln x + n1 α1 = α0 − 1/α0 − Ψ (α0 )
n i=1
ln xi
y así sucesivamente. Las aproximaciones utilizadas para la función Ψ(α) y su derivada (la función trigamma) se encuentran listadas al final del documento. 3
k 0 1 2 3 4 5 6 7 8 9
Lk 0.000066445 0.000117113 0.000153862 0.000155687 0.0001556916 0.0001489101 0.0001556333 0.0001557382 0.0001556916 0.0001556916
k -9.619135 -9.052368 -8.779453 -8.767659 -8.7676333 -8.8121673 -8.7680076 -8.767334 -8.7676333 -8.7676333
αˆk 3.168748677 1.748041851 2.10251526 2.1962252 2.20086904 2.00879475 2.18314261 2.20072806 2.20087946 2.20087947
λˆk 4.80745651 2.65203588 3.18982403 3.33199575 3.33904114 3.04763627 3.31214754 3.33882725 3.33905695 3.33905696
k 1.420706826 0.354473409 0.09370994 0.00464384 0.19207429 0.17434786 0.01758545 0.0001514 0.00000001
Donde Lk es el valor de la función de verosimilitud, k el valor de ln(L), αˆk , λˆk las correspondientes estimaciones y k el cambio en la aproximación de |Lk − Lk 1 |. −
ˆ ≈ 3.33905696. Concluimos que, utilizando el método de máxima verosimilitud, αˆ≈2.20087947 y λ Volvemos a observar que, en efecto, αλˆˆ = 0.659132052 = x y son iguales a E [X ] y E [X 2 ], respectivamente.
4
ˆ (α ˆ +1) α ˆ2 λ
= 0.571561255. Que a su vez
Aproximaciones utilizadas Ψ(k) =
Ψ (k) =
ln k − (1 + (1 − (1/10 − 1/(21k 2 ))/k2 )/(6k))/(2k), si k ≥ 8 si k < 8 Ψ(k + 1) − 1/k, (1 + (1 + (1 − (1/5 − 1/(7k 2 ))/k2 )/(3k))/(2k))/k, Ψ (k + 1) + 1/k2 ,
Muestra aleatoria 0.75873171 0.18260325 0.54185029 0.93762201 0.1608437 0.56494826 0.55476157 0.16670722 0.60921295 0.56956728 0.83235714 0.03494693 1.04358582 0.35917232 1.46056279 1.04211486 0.85511495 1.28639687 0.54058647 0.68095467
5
si k ≥ 8 si k < 8