Convergencia
En este cap´ cap´ıtulo se presenta una introducci´ on al tema de convergencia de on variables aleatorias. Hist´oricamente oricamente este tema surge a trav´ trav´es es de ciertas preguntas que se formularon acerca del comportamiento del promedio de variables aleatorias n1 ni=1 X i cuando n crece a infinito. En la ultima u ´ ltima parte del texto texto estudiaremo estudiaremoss algunos algunos resultados resultados importantes importantes sobre este comportamiento miento limite particular. En este cap´ cap´ıtulo estudiaremos distintas distintas formas en que una sucesi´on on infinita de variables aleatorias puede converger de manera general. En la may mayor or´´ıa de las situaciones que consideraremos supondremos sup ondremos que existe un espacio de probabilidad (Ω, (Ω , F , P ) P ) en donde una sucesi´on on infinita de variables aleatorias X 1 , X 2 , . . . estan todas ellas definidas.
7.1. 7.1.
Tipos Tipos de con converge rgenci ncia
Convergencia puntual
Sea X 1 , X 2 , . . . una sucesi´on on infinita de variables aleatorias. Al evaluar cada una de estas variables en un elemento ω se obtiene la sucesi´on num´ num´erica X 1 (ω ), X 2 (ω ), . . . Suponga que esta sucesi´ on converge a un cierto n´ on umero umero real denotado por X (ω ). Si lo anterior se cumple para todos y cada uno
de los elementos de Ω, entonces se dice que la sucesi´on on de variables aleatorias converge converge puntualmente, puntualmente, y su l´ımite es la funci´ on on X : Ω → R definida naturalmente por X (ω ) = l´ımn→∞ X n (ω ). Se ha demostrado antes que en esta situaci´on on la funci´on l´ımite X es efectivamente una variable aleatoria. Formalmente se tiene entonces la siguiente definici´on. on.
de los elementos de Ω, entonces se dice que la sucesi´on on de variables aleatorias converge converge puntualmente, puntualmente, y su l´ımite es la funci´ on on X : Ω → R definida naturalmente por X (ω ) = l´ımn→∞ X n (ω ). Se ha demostrado antes que en esta situaci´on on la funci´on l´ımite X es efectivamente una variable aleatoria. Formalmente se tiene entonces la siguiente definici´on. on. ´ n. (Convergencia puntual). La sucesi´on Definicion. o on de variables aleatorias X 1 , X 2 , . . . converge puntualmente a X si para cada ω en Ω, l´ım X n (ω ) = X (ω ).
n→∞
Ejemplo. Ejemplo. Considere el espacio medible ([0, ([0, 1] 1],, B [0, [0, 1]), y defina la sucesi´on on de variables ariables aleatoria aleatoriass contin continuas uas X n (ω ) = ω n . Como en este caso el espacio muestral es un subconjunto de n´ umeros reales, podemos graficar las umeros variables aleatorias como en la Figura 7.1. X n (ω )
1
ω
1 Figura 7.1: Gr´afica afica de la variable aleatoria X n (ω ) = ω n . Entonces para cada ω ∈ [0 [0,, 1), la sucesi´on on num´ num´erica X n (ω ) converge a 0, mientras que para ω = 1, y para cualquier valor de n, X n (ω ) = 1. De esta manera la sucesi´on on converge puntualmente a la variable aleatoria X (ω ) =
0
si ω ∈ [0 [0,, 1), 1), 1 si ω = 1.
Ejercicio. Considere el espacio medible (N, 2N ). Determine si existe convergencia puntual para cada una de las siguientes sucesiones de variables aleatorias discretas. En caso afirmativo afirmativo encuentre la variable aleatoria l´ımite. a) X n (ω ) = ω mod n b) X n (ω ) = m´ın{ω, n} c) X n (ω ) = m´ax ax{ω, n}
Una sucesi´on on de variables aleatorias es entonces una sucesi´on on de funciones, pero a diferencia de la situaci´on o n que se estudia en los cursos de an´alisis alisis matem´ atico, el dominio de definici´on atico, on de estas funciones, es decir, el espacio muestral en este caso, no tiene una estructura algebraica excepto la dada por la σ-´ algebra y la medida de probabilidad. La forma en la que se utilialgebra za esta medida de probabilidad es la que determina los distintos tipos de convergencia. Convergencia casi segura
En algunas situaciones la convergencia puntual resulta ser una condici´on on muy fuerte pues se pide la convergencia de la sucesi´ on on evaluada en todos y cada uno de los elementos del espacio muestral. Se puede ser menos estricto y pedir, por ejemplo, que la convergencia se verifique en todo el espacio Ω excepto en un subconjunto de probabilidad cero. ´ n. (Convergencia casi segura). La sucesi´on Definicion. o on de variables aleatorias X 1 , X 2 , . . . converge casi seguramente a la variable X , si P {ω ∈ Ω : l´ım X n (ω ) = X (ω )} = 1. n→∞
Es decir, en la convergencia casi segura se permite que para algunos valores de ω , la sucesi´on on num´ num´erica ic a X 1 (ω ), X 2 (ω ), . . . pueda no converger, sin embargo el subconjunto de Ω en donde esto suceda debe tener probabilidad
c.s.
cero. Para indicar la convergencia casi segura se escribe X n −→ X , o bien l´ım X n = X c.s. A menudo se utiliza el t´ ermino ermin o convergencia convergencia casi donden→∞ quiera , o bien convergencia casi siempre para denotar este tipo de convergencia. Observe que omitiendo el argumento ω , la condici´on on para la convergencia casi segura se escribe en la forma m´as as corta: P ( P ( l´ımn→∞ X n = X X )) = 1, o simplemente P ( P (X n → X ) = 1. Es posib posible le demo demost stra rarr que que el co conj njun unto to {ω ∈ Ω : X n (ω ) → X (ω )) es medible de modo que tiene sentido aplicar la probabilidad, probab ilidad, al respecto resp ecto v´ ease ease el ejercicio ejercic io 505. Puede tambi´ en en demostrarse demostr arse que bajo este tipo de conv convergencia, ergencia, el l´ımite es unico u ´nico casi seguramente, es decir, si X n converge a X c.s. c.s . y tambi´ tambi´en en converge conver ge a Y c.s., entonces X = Y casi seguramente. Ejemplo. Ejemplo. Considere el espacio de probabilidad ([0, ([0, 1] 1],, B [0, [0, 1] 1],, P ) P ) con P la medida uniforme, es decir, la medida de probabilidad de un intervalo es su longitud. Defina la sucesi´on on de variables aleatorias como se muestran en la Figura 7.2. X n (ω ) = 1[0, [0,1/n] /n] (ω )
1
ω 1/n
1
Figura 7.2: Gr´afica afica de la variable aleatoria X n (ω ) = 1[0, [0,1/n] /n] (ω ). Es decir, la variable X n tiene distribuci´ on on Bernoulli con par´ametro ametro p = 1/n, /n, y co conv nverg ergee casi casi segura seguramen mente te a la variabl ariablee al aleat eatori oriaa consta constant ntee cero. cero. Para demostrar esto se necesita verificar que P ( P (X n → 0) = 1. Pero esta igualdad es evidente a partir del hecho de que el conjunto {ω ∈ Ω : X n (ω ) → 0} es el intervalo (0, (0, 1], el cual tiene probabilidad uno. El punto ω = 0 es el unico u ´ nico punto muestral para el cual X n (ω ) no converge a cero. Esto demuestra que
c.s.
X n −→ 0.
Ejercicio. Sea A un evento cualquiera. Demuestre que la siguiente sucesi´on on de variables aleatorias no converge para ning´ un un ω en Ω. X n =
1
A
1A
c
si n es primo, si n no es primo.
Convergencia en probabilidad
Un tipo tipo de co con nverge ergenc ncia ia a´ un un menos menos restri restricti ctiv va que la co conv nverg ergenc encia ia ca casi si segura es la convergencia en probabilidad la cual se define a continuaci´on. on. ´ n. (Convergencia en probabilidad). La sucesi´on Definicion. o on de variables aleatorias X 1 , X 2 , . . . converge en probabilidad a X , si para cada ǫ > 0, l´ım P {ω ∈ Ω : |X n (ω ) − X (ω )| > ǫ} = 0. n→∞
p
Para denotar la convergencia en probabilidad se escribe X n −→ X , y omitiendo el argumento ω la condici´on on se escr escrib ibee l´ımn→∞ P ( P ( |X n − X | > ǫ ) = 0. Nuevament Nuevamentee puede comprobarse que el l´ımite es unico u´nico casi seguramente. Ejemplo. Ejemplo. Considere el espacio de probabilidad ((0, ((0, 1), 1), B (0, (0, 1), 1), P ), P ), con P la medida uniforme. Defina la sucesi´on on de eventos A1 = (0, (0, 1/2), 2), A2 = (1/ (1/2, 1), 1), A3 = (0, (0, 1/3), 3), A4 = (1/ (1/3, 2/3), 3), A5 = (2/ (2/3, 1), 1), A6 = (0, (0, 1/4), 4), A7 = (1/ (1/4, 2/4), 4), A8 = (2/ (2/4, 3/4), 4), A9 = (3/ (3/4, 1), 1),
······
Sea X n = 1A . Las gr´aficas aficas de estas primeras variables aleatorias se mues p tran en la Figura 7.3. Entonces X n −→ 0 pues para cualquier ǫ > 0, n
l´ım P ( P (|X n − 0| > ǫ) = l´ım P ( P (An ) = 0.
n→∞
n→∞
Por otro lado observe que esta sucesi´on on de variables aleatorias no converge casi seguramente pues el conjunto {ω ∈ Ω : l´ım X n (ω ) existe} es va vacc´ıo. n→∞
X 1
X 2
1
1
1
1
X 3
X 4
1
X 5
1
1
1
1
1
aficas de las primeras variables aleatorias X n = 1A . Figura 7.3: Gr´aficas n
En algunos casos la aplicaci´on on de la desigualdad de Chebyshev resulta util u ´ til para demostrar este tipo de convergencia como se muestra a continuaci´on. on. Ejercicio. Sea X 1 , X 2 , . . . una sucesi´on on de variables aleatorias independientes cada una de ellas con distribuci´ on o n N(µ, N(µ, σ 2 ) y defina el promedio S n = n1 ni=1 X i . Use la desigualdad de Chebyshev para demostrar que p S n → µ. Observe que el mismo argumento funciona para cualquier sucesi´ on on de variables aleatorias independientes indep endientes id´ enticamente enticamente distribuidas con varianza finita.
Convergencia en media
En este tipo de convergencia convergencia se usa la esperanza para determinar la cercan´ cercan´ıa entre dos variables aleatorias. ´ n. (Conve Definicion. o (Converg rgenc encia ia en media) media).. La suce sucesi si´´on on de varia ariabl bles es aleatorias integrables X 1 , X 2 , . . . converge en media a la variable aleatoria integrable X si l´ım E |X n − X | = 0. n→∞
A este tipo de converge convergencia ncia tambi´ tambi´ en en se le llama convergencia en L1 y se le m
L1
denota por X n −→ X , o X n −→ X . A partir de la definici´on on de convergencia en media es inmediato preguntarse si de all´ all´ı se sigue la convergencia convergencia de la sucesi´ on de medias. La respuesta es on afirmativa. m
Ejercicio. Use la desigualdad de Jensen para demostrar que si X n → X , entonces E (X n ) → E (X ). ).
Convergencia Convergen cia en media cuadr´ cuadr ´ atica atic a
Nuevamente usando el concepto de esperanza pero ahora aplicado al segundo momento se tiene la convergencia en media cuadr´atica. atica. M´as as adelante demostraremos que la convergencia en media cuadr´ atica atica implica la convergencia en media.
´ n. (Conve ´ tica). La sucesi´on Definicion. o (Conver rgencia gencia en media media cuadr cuadratica). a on de variables aleatorias X 1 , X 2 , . . . converge en media cuadr´ atica atica a X , si l´ım E |X n − X |2 = 0.
n→∞
En este tipo de convergencia se presupone que tanto los elementos de la sucesi´ on on como el l´ l´ımite mismo son variables aleatorias con segundo segund o momento finito. A este tipo de convergencia convergencia tambi´ tambi´ en en se le llama convergencia en L2 , L2
m.c.
y se le denota por X n −→ X , o X n −→ X . En general puede definirse la convergencia en Lk , para cada entero k ≥ 1, cuando se cumple la condici´on on E |X n − X |k → 0. Resulta que mientras mayor es el valor de k , m´ as restrictiva es la condici´on as on de convergencia.
Convergencia en distribuci´ on on
Este es el tipo de convergencia menos restrictiva de todas las mencionadas. converge rgenc ncia ia d´ ebil eb il . En contextos m´as as generales generale s se le llama tambi´ en en conve ´ n. (Convergencia en distribucion). ´ n). La sucesi´on Definicion. o o on de variables aleatorias X 1 , X 2 , . . . converge en distribuci´on on a X , si para todo punto x en donde la funci´on on F X X (x) es continua, se cumple que l´ım F X X (x) = F X X (x).
n→∞
n
d
d
d
En este caso se escribe X n → X , o F X X → F X X , o bien X n → F X X . Por ejemplo, si la distribuci´on on l´ımite es la distribuci´ distrib uci´on on normal est´andar, andar, puede d escribirse X n → N(0, N(0, 1). Observe que para este tipo de convergencia se hace n
uso s´olamente olamente de las funciones de distribuci´on on y por lo tanto las variables aleatorias correspondientes pueden estar definidas en distintos espacios de probabilidad. La unicidad u nicidad del l´ımite no se da en el sentido casi seguro como en lo loss ante anteri rior ores es tipos tipos de co con nverge ergenc ncia ia,, sino sino en el sen sentido tido m´ as as d´ebil ebil de igualdad de distribuciones. Ejemplo. Ejemplo. Considere la sucesi´on on X 1 , X 2 , . . ., ., en donde cada X n tiene distrid buci´on on N(0, N(0, σ 2 /n). /n). Demostraremos que X n → 0. Como F X X (x) =
u2 /2(σ 2(σ2 /n) /n)
−
2πσ /n e du, 0 si x < 0, l´ım F (x) = 1/2 si x = 0, 1 si x > 0.
n
se cumple que
x
1
n→∞
2
−∞
Xn X
Gr´aficamente aficamente la distribuci´ on on l´ımite se muestra en la Figura F igura 7.4. Observe Obser ve que la variable aleatoria constante X = 0 tiene funci´on on de distribuci´on on F X X (x) =
0 1
si x < 0, si x ≥ 0.
d
Tenemos entonce entoncess que X n −→ 0, pues l´ım F X X (x) = F X X (x) para todo n
n→∞
punto x donde F X X (x) es continua, esto es, para todo x en el conjunto R \{ 0}. Observe que las funciones F X F (x) cuando x = 0. X (x) no convergen a F ( n
En la siguiente secci´on on demostraremos que la convergencia en probabilidad implica implica la conv convergenci ergenciaa en distri distribuci buci´ on. o´n. El rec´ rec´ıproco ıproco en genera generall es falso falso excepto cuando el l´ımite es una constante. constante. Este es el contenido del siguiente resultado el cual ser´a usado m´as as adelante adelante para demostrar la ley d´ ebil ebil de los grandes n´ umeros. umeros. d
p
´ n. Sea c una constante. Si X n −→ c, entonces X n −→ c. Proposicion. o
F X (x) n
1
x
Figura 7.4: Sucesi´on on y l´ımite de las funciones de distribuci´on on F X (x). n
on on de distribuci´on on de la variable aleatoria constante Demostraci´ on. La funci´ c es F ( F (x) =
0
si x < c, 1 si x ≥ c,
que tiene un unico u ´ nico punto de discontinuidad en x = c. Suponga entonces que F X F (x) para x = c. Para cualquier ǫ > 0 se tiene que X (x) → F ( n
P ( P (|X n − c| ≥ ǫ) = P ( P (X n ≤ c − ǫ) + P ( P (X n ≥ c + ǫ) P (X n ≤ c − ǫ) + P ( P (X n > c + ǫ/ ǫ/2) 2) ≤ P ( = F X ǫ/2) 2).. X (c − ǫ) + 1 − F X X (c + ǫ/ n
n
De modo modo que l´ım P ( P (|X n − c| ≥ ǫ) = F ( F (c − ǫ) + 1 − F ( F (c + ǫ/ ǫ/2) 2) = 0. n→∞
A manera de resumen y sin mayores precisiones, se presenta en la siguiente tabla las definiciones de los distintos tipos de convergencia mencionados. En la siguiente secci´on on se estudian las relaciones entre estos tipos de convergencia.
7.2. 7.2.
Convergencia
´n Definici on o
puntual
X n (ω ) → X (ω ) para cada ω en Ω.
casi segura
P ( P (X n → X ) = 1.
en media
E |X n − X | → 0.
en media cuadr´atica atica
E |X n − X |2 → 0.
en probabilidad
P ( P (|X n − X | > ǫ) → 0.
en distribuci´on on
F X (x) → F X (x) en puntos de continuidad x de F X . n
Rela Relaci cion ones es entr entre e los tipos tipos de con converge ergenc ncia ia
En esta secci´on on se establecen algunas relaciones generales entre los tipos de convergencia de variables aleatorias mencionados en la secci´on on anterior. En la Figura 7.5 se ilustran de manera gr´afica afica estas relaciones. En este diagrama la contenci´on on se interpreta como implicaci´ on, on, por ejemplo, la converg convergencia encia casi segura implica la conve convergencia rgencia en probabilidad, y ´esta esta a su vez implica la convergencia en distribuci´on. on. Estos y otros resultados se demuestran a continuaci´ on. on. ´ n. Convergencia c.s. ⇒ convergencia en prob. Proposicion. o
Demostraci´ on. Sea ǫ > 0. Para cada natural n defina los eventos ∞
An
= (|X − X | > ǫ). k
k=n
Conv.
Conv. en m. c.
casi
segura
Conv. en m. Conv. en probabilidad Conv. en distribuci´on on on entre los tipos de convergencia. Figura 7.5: Relaci´on
Esta sucesi´on on es decreciente y su l´ımite es entonces la intersecci´ on on de todos los eventos. Como (|X n − X | > ǫ) ⊆ An , entonces P ( P (|X n − X | > ǫ) ≤ P ( P (An ). Por lo tanto, l´ım P ( P (|X n − X | > ǫ) ≤
n→∞
l´ım P ( P (An )
n→∞
= P ( P ( l´ım An ) n→∞ ∞
=
P ( P ( A ) n
n=1
= P ( P (|X n − X | > ǫ, para cada n ≥ 1 ) = P ( P ( l´ım X n = X X )) n→∞
= 0.
El rec´ rec´ıproco de la proposici´ on anterior es, en general, falso, es decir, la on convergencia en probabilidad no implica necesariamente la convergencia casi
siempre. siempre. Para comprobar esta afirmaci´ on on un on se proporciona a continuaci´ on continuaci´ ejemplo.
⇒ conv. c.s.). Considere Ejemplo. Ejemplo. (En general, conv. en prob. = el espacio de probabilidad ((0, ((0, 1), 1), B (0, (0, 1), 1), P ), P ), con P la medida uniforme. Defina nuevamente la sucesi´ on on de eventos A1 = (0, (0, 1/2), A2 = (1/ (1/2, 1), A3 = (0, (0, 1/3), A4 = (1/ (1/3, 2/3), A5 = (2/ (2/3, 1), A6 = (0, (0, 1/4), A7 = (1/ (1/4, 2/4), A8 = (2/ (2/4, 3/4), A9 = (3/ (3/4, 1), 1), . . . y con ellos las variables aleatorias X n = 1A , cuyas gr´aficas aficas aparecen en la Figura 7.3. Hemos comprobado antes que p X n −→ 0, sin embargo la sucesi´on on no converge casi seguramente pues X n (w) no converge para ning´ un un ω . n
⇒ convergenci Ejemplo. Ejemplo. (En (En gene genera ral, l, conv conv.. en medi media a = convergencia a c.s.). m Considere la sucesi´on on de variables X n del ejemplo anterior. Entonces X n −→ 0 pues E |X n − 0| = P ( P (An ) → 0. Sin embargo esta sucesi´on on no converge c.s.
El ejemplo anterior anterior sirve tambi´ tambi´en en para mostrar que, en general, la converconvergencia en media cuadr´atica atica no implica la convergencia casi segura. En este ejemplo se cumple que E |X n − X |2 → 0, y sin embargo X n no converge a X c.s. Ejemplo. Ejemplo. (En general, conv. c.s. = ⇒ conv. en media). Considere el espacio ((0, ((0, 1), 1), B (0, (0, 1), 1), P ), P ), con P la medida de probabilidad uniforme. Defina la sucesi´on on X n = n 1(0, (0,1/n) /n) . Entonces X n converge a cero casi seguramente pues P ( P (l´ım X n = 0) = P (Ω) P (Ω) = 1. Sin embargo no hay convergencia en media pues E |X n − 0| = E (X n ) = 1 −→ 0.
Este ejemplo puede ser usado tambi´ tambi´ en en para demostrar que la converge convergencia ncia casi segura no implica necesariamente la convergencia en media cuadr´ atica. atica. ´ n. Convergencia en m.c. ⇒ convergencia en media. Proposicion. o
Demostraci´ on. La desigualdad de Jensen establece que para u convexa,
u(E (X )) )) ≤ E (u(X )). )). Tomando u(x) = x2 se obtiene E 2 |X n − X | ≤ E |X n − X |2 , de donde se sigue el resultado. Alternativamente la ultima u ´ ltima desigualdad es consecuencia de la desigualdad de Cauchy-Schwarz. Ejemplo. Ejemplo. (En general, conv. en media = m.c.) Sea X n = ⇒ conv. en m.c.) n 1(0, ((0, 1), 1), B (0, (0, 1), 1), P ), P ), con P la medida uniforme. (0,1/n ) sobre el espacio ((0, Entonces X n converge a cero en media pues E |X n − 0| = E (X n ) = 1/n → 0. Sin embargo, no hay convergencia en media cuadr´atica atica pues E |X n − 0|2 = E (X n2 ) = 1 −→ 0. 2
´ n. Convergencia en media ⇒ convergencia en prob. Proposicion. o
Demostraci´ on. Para cada ǫ > 0 defina el evento An = (|X n − X | > ǫ).
Entonces E |X n − X | = E (|X n − X | 1A ) + E (|X n − X | 1A ) n
c n
≥ E (|X n − X | 1A ) ≥ ǫ P ( P (|X n − X | > ǫ). n
Por hip´otesis, otesis, el lado izquierdo tiende a cero cuando n tiende a infinito. Por lo tanto P ( P (|X n − X | > ǫ) → 0. El rec´ rec´ıproco del resultado anterior anterior es, en general, falso.
⇒ conv. en media). ConsiEjemplo. Ejemplo. (En general, conv. en prob. = dere nuevamente el espacio ((0, ((0, 1), 1), B (0, (0, 1), 1), P ), P ), con P la medida uniforme, y defina las variables X n = n 1(0, (0,1/n) /n) . Entonces X n converge en probabilidad a cero pues para cualquier ǫ > 0, P ( P (|X n − 0| > ǫ) = P ( P (X n > ǫ) = 1/n → 0.
Sin embargo, la sucesi´on on no converge en media pues E |X n − 0| = E (X n ) = 1 −→ 0.
´ n. Convergencia en prob. ⇒ convergencia en dist. Proposicion. o
p
Demostraci´ on. Suponga que X n −→ X , y sea x un punto de continuidad
de F X X (x). Para cualquier ǫ > 0, F X P (X n ≤ x) X (x) = P ( n
= P ( P (X n ≤ x, |X n − X | ≤ ǫ) + P ( P (X n ≤ x, |X n − X | > ǫ)
≤ P ( P (X ≤ x + ǫ) + P ( P (|X n − X | > ǫ). Por hip´otesis otesis el segundo sumando del lado derecho tiende a cero cuando n tiende a infinito. Entonces para cualquier ǫ > 0, l´ım sup F X X (x) ≤ F X X (x + ǫ). n→∞
n
Por la continuidad lateral, l´ım sup F X X (x) ≤ F X X (x). n→∞
n
Ahora se demuestra la desigualdad inversa. Para cualquier ǫ > 0 F X P (X ≤ x − ǫ) X (x − ǫ) = P ( = P ( P (X ≤ x − ǫ, |X n − X | ≤ ǫ) + P ( P (X ≤ x − ǫ, |X n − X | > ǫ)
≤ P ( P (X n ≤ x) + P ( P (|X n − X | > ǫ). Nuevamente el segundo sumando tiende a cero cuando n tiende a infinito. Entonces F X ım inf F X X (x − ǫ) ≤ l´ X (x). n
n→∞
Por la continuidad en x, F X ım inf F X X (x) ≤ l´ X (x). n→∞
n
En resumen, F X ım inf F X ım sup F X X (x) ≤ l´ X (x) ≤ l´ X (x) ≤ F X X (x). n→∞
n
n→∞
n
El rec´ rec´ıproco de la proposici´ prop osici´ on anterior no siempre es v´alido, on alido, es decir, la convergencia en distribuci´ on no siempre implica la convergencia en probaon bilidad.
⇒ conv. en prob.) Sea X Ejemplo. Ejemplo. (En general, conv. en dist. = con distribuci´ on on normal est´andar, andar, y sea X n =
X
si n es par, −X si n es impar.
Entonces claramente cada una de las variable X n tambi´en en tiene tien e distri distribu bu-ci´ on on normal est´andar andar y por lo tanto para cualquier n´ umero umero real x, F X X (x) → n
d
F X on on no converge en proX (x), es decir, X n −→ X . Sin embargo la sucesi´ babilidad a X , pues para valores impares de n y para valores peque˜ nos nos de ǫ > 0, P ( P (|X n − X | > ǫ) = P (2 P (2|X | > ǫ) > 1/2. Lo anterior demuestra que 0. l´ım P ( P (|X n − X | > ǫ) =
n→∞
Esto Esto concluy concluyee la verifica erificaci´ ci´ on y ejemplos de todas las implicaciones y no on implicaciones que se derivan del diagrama de la Figura 7.5. El lector interesado en profundizar los temas aqui expuestos puede consultar el cap´ cap´ıtulo 5 del libro de Karr [18], o el excelente texto de Gut [13], asi como los textos cl´ asicos asicos de teor teor´ıa de la medida medida [5] o [14 [14], ], por ejemplo ejemplo.. Los resulta resultados dos de convergencia en espacios de probabilidad aqui mencionados pueden no ser v´alidos alidos en espacios de medida m´as as generales.
7.3. 7.3.
Doss resul Do resulta tados dos import importan ante tess de con conv verge ergenci ncia a
Sea X 1 , X 2 , . . . una sucesi´on on de variabl ariables es al alea eato tori rias as co con n espera esperanz nzaa finita finita.. Suponga que X n converge casi seguramente a X . Es natural preguntarse si la sucesi´ on on de n´ umeros umeros E (X n ) converge a E (X ). ). Tal converg convergen encia cia num´erica erica equivaldr equivaldr´´ıa a poder po der intercambiar intercambiar las operaciones de l´ımite y esperanza, esperan za, es decir, l´ım E (X n ) = E ( l´ım X n ). n→∞
n→∞
Por ejemplo, considere el espacio ((0, ((0, 1), 1), B (0, (0, 1), 1), P ), P ), con P la medida de probabilidad uniforme. Hemos considerado antes la sucesi´on on de variables aleatorias X n = n 1(0, ımite es X = 0 ca casi si segu segura rame men nte. te. Sin Sin (0,1/n) /n) , cuyo l´ embargo E (X n ) es siempre 1 y no converge a E (X ) = 0. Este es un ejemplo sencillo en donde no es v´alido alido intercambiar intercambiar la esperanza y el l´ımite. En esta secci´ on se estudian dos resultados que establecen condiciones bajo las cuales on es v´ alido alido este intercambio. ´ tona. Sea 0 ≤ X 1 ≤ X 2 ≤ · · · Teorema de convergencia monotona. o una sucesi´on on de variables aleatorias convergente casi seguramente a una variable X . Entonces l´ım E (X n ) = E (X ).
n→∞
). Por lo Demostraci´ on. Como 0 ≤ X n ≤ X , entonces 0 ≤ E (X n ) ≤ E (X ). tanto l´ım E (X n ) ≤ E (X ).
n→∞
Ahora resta demostrar la desigualdad contraria. Primero se aproxima a X de la siguiente forma. Sea ǫ > 0 arbitrario, y para cada entero k ≥ 0 defina el evento Ak = ( kǫ ≤ X < (k + 1)ǫ 1)ǫ ). Esta es una colecci´on on de eventos disjuntos dos a dos, cuya uni´on on es Ω. Defina ahora la variable aleatoria
discreta aproximante Y ((ω ) = kǫ Y
si
kǫ ≤ X (ω ) < (k + 1)ǫ. 1)ǫ.
Observe que Y aproxima a X de la forma: Y ≤ X < Y + ǫ. O bien X − ǫ < Y ≤ X . Por lo tanto, E (X ) − ǫ ≤ E (Y Y )) ≤ E (X ). ) . Para cada n´ umero umero natural n defina el evento Bn = (X n ≥ Y Y ). ). No es dif´ dif´ıcil comprobar que Bn ր Ω. Por lo tanto, para k fijo, Ak ∩ Bn ր Ak cuando n → ∞, y entonces P ( P (Ak ∩ Bn ) ր P ( P (Ak ). Ahora considere la variable aleatoria discreta Y 1B dada por Y ((ω ) si ω ∈ Bn , Y Y 1B (ω ) = 0 si ω ∈ / Bn . n
n
Entonces 0 ≤ Y 1B ≤ X n , y por lo tanto 0 ≤ E (Y 1B ) ≤ E (X n ). Entonces n
n
l´ım E (X n ) ≥
n→∞
l´ım E (Y 1B ) n
n→∞
∞
=
l´ım E (Y 1 l´ım kǫ P ( P (B l´ım kǫ P ( P (B kǫ P (P (A ). n→∞
Bn ∩Ak )
k =0 ∞
=
≥
n→∞
n→∞
n
∩ Ak )
n
∩ Ak )
k =0 m k =0
m
=
k
k=0
Como esta desigualdad es v´alida alida para cualquier m ≥ 0, se obtiene ∞
l´ım E (X ) ≥ kǫ P ( P (A ) = E (Y Y )) ≥ E (X ) − ǫ.
n→∞
n
k
k =0
Dado que ǫ > 0 es arbitrario, arbitrario, se concluye concluye que l´ım E (X n ) ≥ E (X ). ). n→∞
El siguiente resultado establece otro tipo de condici´ on on suficiente para obtener la misma conclusi´on. on.
Teorema de convergencia dominada. dominada. Sea X 1 , X 2 , . . . una sucesi´on on de variables aleatorias para la cual existe otra variable Y integrable tal que |X n | ≤ Y Y ,, para n ≥ 1. Si l´ım X n = X c.s., entonces X y X n son n→∞ integrables y l´ım E (X n ) = E (X ). n→∞
Demostraci´ on. Sea Y n = ´ınf {X n , X n+1 , . . .}. Entonces Y n ր X cuando n →
(Y n + Y ), en donde Y n + Y ≥ 0, pues como ∞. Por lo tanto (Y Y )) ր (X + Y Y ), −X n ≤ Y Y ,, entonces X n ≥ −Y para toda n, y por lo tanto Y n ≥ −Y Y .. Por el teorema de convergencia mon´ otona, otona, E (Y n + Y Y )) ր E (X + Y Y ). ). De donde se obtiene E (Y n ) ր E (X ). Sea ahora Z n = sup{X n , X n+1 , . . .}. Entonces Z n ց X cuando n → ∞. Por lo tanto (Y (Y − Z n ) ր (Y − X ), ), en donde Y − Z n ≥ 0, pues como X n ≤ Y para toda n, entonces Z n ≤ Y Y .. Por el teorema de convergencia mon´otona, otona, E (Y − Z n ) ր E (Y − X ). ). De donde se obtiene E (Z n ) ց E (X ). Ahora observe que Y n ≤ X n ≤ Z n . Por lo tanto E (Y n ) ≤ E (X n ) ≤ E (Z n ). Al hacer n tender a infinito se obtiene el resultado. Estos dos d os teoremas son herramientas fuertes en la teor´ teor´ıa de la probabilidad. En particular, se usar´an an en la ultima u ´ ltima parte del curso para formalizar algunas demostraciones.
7.4.
Ejerci rcicios Convergencia casi segura
505. 50 5. Para la co con nverge ergenc ncia ia ca casi si segu segura ra se pide pide que el co conju njun nto {ω ∈ Ω : X n (ω ) → X (ω )) tenga probabilidad uno. Demuestre la medibilidad de tal conjunto probando que es id´ entico entico al evento evento ∞
∞
∞
( |X − X | ≤ 1/k ). n
k=1 m=1 n=m
506. Demuestre Demuestre que en la conve convergenci rgenciaa casi segura, el l´ımite ımite es unico u´nico casi c.s. c.s. seguramente, es decir, si X n −→ X , y X n −→ Y Y ,, entonces X = Y casi seguramente. Sugerencia: |X − Y | ≤ |X − X n | + |X n − Y |. c.s.
c.s.
507.. Demuest 507 Demuestre re que si X n −→ X , entonces aX n + b −→ aX + b, en donde a y b son constantes. c.s.
c.s.
508.. Demuest 508 Demuestre re que si X n −→ X y Y n −→ Y Y ,, entonces c.s.
a ) X n + Y n −→ X + Y . c.s.
b ) X n Y n −→ X Y .
509. Considere Considere el espacio espacio de probabilidad probabilidad ([0 ([0,, 1] 1],, B [0, [0, 1] 1],, P ), P ), con P la medida de probabilidad uniforme. Demuestre que la sucesi´on on X n = n1[0, [0,1/n) /n) converge casi seguramente a la variable aleatoria constante cero. ´ n equivalente para la convergencia casi segura. 510. Condicion o c.s. Demuestre que X n −→ X si, y s´ olo olo si, para cualquier ǫ > 0, P ( P ( |X n − X | > ǫ para una infinidad de valores de n ) = 0. 511.. Use el ejerci 511 ejercicio cio anteri anterior or para demostra demostrarr que si para cualqui cualquier er ǫ > 0, c.s. ∞ P ( P ( X X > ǫ ) < , entonces X | − | ∞ − n n → X . n=1
Convergencia en probabilidad
512. Demuestr Demuestree que en la conve convergenc rgencia ia en probabilida probabilidad, d, el l´ımite es unico u´nico p p casi seguramente, es decir, si X n −→ X , y X n −→ Y Y ,, entonces X = Y casi seguramente. Sugerencia: P ( P (|X − Y | > ǫ) ≤ P ( P (|X − X n | > ǫ/ ǫ/2) 2)+ + P ( P (|X n − Y | > ǫ/ ǫ/2). 2). 513.. Conside 513 Considere re el espac espacio io de probab probabili ilidad dad ((0, ((0, 1] 1],, B (0, (0, 1] 1],, P ), P ), en donde P es la medida de probabilidad uniforme. Defina las variables aleatorias discretas n k X n = 1( − , ] . n
k
1 m
k n
k=1
Demuestre que X n converge en probabilidad a una variable aleatoria con distribuci´on on uniforme en el intervalo (0, (0, 1]. p
p
514.. Dem 514 Demuestre uestre que si X n −→ X , entonces aX n + b −→ aX + b, en donde a y b son constantes. p
p
515. 51 5. Supong Suponga a que X n −→ x y Y n −→ y , en donde x y y son dos n´ umeros umeros reales fijos. Demuestre que p
a ) X n + Y n −→ x + y . p
xy . b ) X n Y n −→ xy. p
c ) Si g es continua en x, entonces g (X n ) −→ g (x). p
p
516.. Dem 516 Demuestre uestre que si X n −→ X y Y n −→ Y Y ,, entonces p
Y .. a ) X n + Y n −→ X + Y p
Y .. b ) X n Y n −→ X Y 517. 51 7. Sean Sean X 1 , X 2 , . . . variables aleatorias independientes cada una con distribuci´ on on unif[a, unif[a, b]. Demuestre que cuando n tiende a infinito p
a ) m´ın{X 1 , . . . , Xn } −→ a. p
ax{X 1 , . . . , Xn } −→ b. ax b ) m´
p
518. 51 8. Demues Demuestre tre que si X n −→ X , entonces
X n2
p
−→ X 2 .
519. 51 9. Sea c > 0 una constante. Use la desigualdad de Chebyshev para de p mostrar que si X n tiene distribuci´ on on gama(cn,n gama(cn,n), ), entonces X n −→ c. Convergencia en media
520. 52 0. Demues Demuestre tre que en la co conv nverg ergenc encia ia en media, media, el l´ımite ımite es unico u´nico casi m m seguramente, es decir, si X n −→ X , y X n −→ Y Y ,, entonces X = Y casi seguramente. Sugerencia: E |X − Y | ≤ E |X − X n | + E |X n − Y |. m
m
521. 52 1. Demues Demuestre tre que si X n −→ X , entonces aX n + b −→ aX + b, en donde a y b constantes. m
m
m
522. 52 2. Suponga que X n −→ X y Y n −→ Y Y .. Demuestre que X n + Y n −→ X X + + m Y .. Proporcione un contraejemplo para la afirmaci´ Y on: on: X n Y n −→ X Y Y .. Convergenci Converg encia a en media medi a cuadr´ cuad r´ atica atica
523. 52 3. Dem Demuest uestre re que en la co con nvergenc ergencia ia en me media dia cuadr´ cuadr´ atica, atica, el l´ımite es m.c. m.c. u unico ´ nico casi seguramente, es decir, si X n −→ X , y X n −→ Y Y ,, entonces X = Y casi seguramente. Sugerencia: Por la desigualdad cr con r = 2, E |X − Y |2 ≤ 2 (E |X − X n |2 + E |X n − Y |2 ). m.c.
m.c.
524. 52 4. Demues Demuestre tre que si X n −→ X , entonces aX n + b −→ aX + b, en donde a y b son constantes. m.c.
525.. Use la desigualdad 525 desigualdad de Cauchy Cauchy-Sc -Schw hwarz arz para demostrar demostrar que si X n −→ m.c. m.c. X y Y n −→ Y Y ,, entonces X n + Y n −→ X + Y Y .. Convergencia en distribuci´ on on
526. 52 6. Demues Demuestre tre que en la co conv nverg ergenc encia ia en distri distribuci buci´ on, o´n, el l´ımite es unico u ´nico d d en distribuci´ on, on, es decir, si X n −→ X , y X n −→ Y Y ,, entonces X y Y
tienen la misma distribuci´on. on. Sugerencia: |F X X (x) − F Y Y (x)| ≤ |F X X (x) − F X X (x)| + |F X X (x) − F Y Y (x)|. n
n
d
d
527. 52 7. Sea Sea c una constante y suponga que X n −→ X y Y n −→ Y Y .. Demuestre que d
a ) cX n −→ cX . d
X + + c. b ) X n + c −→ X d
d
528.. Dem 528 Demuestre uestre que si X n −→ X y Y n −→ Y Y ,, entonces no necesariamente d X n + Y n −→ X + Y Y .. 529. Demuestr Demuestree que p
d
a ) si X n −→ 0, entonces X n −→ 0. d
d
d
d
d
b ) si X n −→ 0 y Y n −→ 0, entonces X n + Y n −→ 0. d
c ) si X n −→ 0 y Y n −→ 0, entonces X n Y n −→ 0.
530.. Conside 530 Considere re el espac espacio io de probab probabili ilidad dad ([0, ([0, 1] 1],, B [0, [0, 1] 1],, P ) P ) en donde P es la medida de probabilidad uniforme. Demuestre que la sucesi´on on X n = 1[0, converge en distribuci´on on a la variable aleatoria X = 1[0, [0,1/2+1/n 2+1/n)) converge [0,1/2] . 531. 53 1. Sea Sea X n con distribuci´on on unif[a unif[a − 1/n,a + 1/n], /n], en donde a es una d constante. Demuestre que X n −→ a. 532. 53 2. Sea Sea X n con distribuci´on on uniforme en el conjunto {0, 1, . . . , n}, y sea X continua con distribuci´on on uniforme en el intervalo [0, [0, 1]. Demuestre que
1 n X n
d
−→ X .
533. 53 3. Sea Sea X con distribuci´on on uniforme en el conjunto {0, 1}. Demuestre que la siguiente sucesi´on on de variables aleatorias converge en distribuci´on on pero no converge en probabilidad. X n =
X
si n es par, 1 − X si n es impar.
Relaciones entre los tipos de convergencia
534. Otr Otro ejem ejempl plo o de que que la conv conv.. casi casi seg segura ura no impl implic ica a la conv. en media. Sea X 1 , X 2 , . . . una sucesi´on on de variables aleatorias independie indep endientes ntes e id´enticamente enticamente distribuid distr ibuidas as tales que para par a cada numeu´mero natural natural n, P ( P (X n = 0) = 1/ 1/4, P ( P (X n = 1) = 1/ 1/2 y P ( P (X n = 2) = 1/ 1/4. Defina el producto Y n = X 1 X 2 · · · X n . Demuestre que Y n converge a cero, casi seguramen seguramente, te, pero no as´ as´ı en media, ni en media cuadr´ atica. atica. 535. 53 5. Sea A1 , A2 , . . . una sucesi´on on de eventos convergente al evento A. ¿En qu´e sentido senti do la sucesi sucesi´ o´n de variables aleatorias 1A converge a 1A ? on n
536. 53 6. Sea X n con distribuci´ on on N(µ N(µn , σn2 ) y X con distribuci´ on on N(µ, N(µ, σ 2 ). Suponga µn → µ y σn2 → σ2 , con σn2 , σ 2 > 0. ¿En ¿En qu´e sentid sentidoo X n → X ?