Clase No. 20 de PyE
Transcript of Clase No. 20 de PyE
Clase No. 20 de PyE
Jose Rafael Leon RamosIMERL UDELAR
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Teorema Central del Lımite.Veremos hoy los rudimentos del Teorema Central del Lımite (TCL)daremos un bosquejo de la demostracion en un caso sencillo.Veremos por que es util y luego lo aplicaremos a la distribucion delos estimadores. Esto ultimo nos llevara a aplicaciones a laspruebas de hipotesis y a la construccion de intervalos de confianza.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Consideremos para ilustrar de que viene el TCL. Sean X1, . . . ,Xn
una coleccion de v.a. (i.i.d) supongamos que E(Xi ) = 0 yVar(Xi ) = σ2. Definamos la siguiente sucesion
Sn =X1 + . . .+ Xn
σ√n
.
Se tiene que E(Sn) = 0 y Var(Sn) = 1.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Definamos ahora Fn(x) = P(Sn ≤ x) y Φ(x) la distribucion de lagaussiana estandar. Se tiene el siguiente teorema
Teorema. (TLC) Bajo las hipotesis enunciadas anteriormente secumple
Fn(x)→ Φ(x), ∀x ∈ R.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Comentarios:1.- Si las v.a. tienen distribucion de Bernoulli esto es Xi
d= Bi (p).
Entonces si definimos Yi = Xi − p. Tenemos E(Yi ) = 0 yVar(Yi ) = Var(Xi ) = p(1− p). Ası
Fn(x) = P(X1 + X2 + . . .+ Xn − np√
np(1− p)≤ x)
= P(Y1 + Y2 + . . .+ Yn√
np(1− p)≤ x)→ Φ(x).
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Esto se puede expresar de la manera siguiente. Denotemos porB(n, p) una binomial de parametros n y p entonces
B(n, p)d= X1 + X2 + . . .+ Xn.. Entonces
P(B(n, p)− np√
np(1− p)≤ x) ∼ Φ(x).
El sımbolo ∼ significa equivalencia asintotica.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Todo esto implica
P(B(n, p) ≤ y) = P(B(n, p)− np ≤ y − np)
= P(B(n, p)− np√
np(1− p)≤ y − np√
np(1− p)) ∼ Φ(
y − np√np(1− p)
).
Esta relacion implica que podemos aproximar la distribucion de labinomial con la distribucion de una gaussiana estandar.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
2.- Sean ahora {Xi}∞i=1 una sucesion de v.a. i.i.d tales queE(Xi ) = µ y Var(Xi ) = σ2.Vamos a estudiar la aproximacion gaussiana de la distribucion de lamedia empırica X n = X1+...+Xn
n . Tenemos
P(X n ≤ x) = P((X1 − µ) + . . .+ (Xn − µ)
n≤ x − µ)
= P((X1 − µ) + . . .+ (Xn − µ)
σ√n
≤√n(x − µ)
σ) ∼ Φ(
√n(x − µ)
σ)
Este resultado sera muy util para la definicion de intervalos deconfianza y para pruebas de hipotesis.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
3.- Las hipotesis bajo las cuales se cumple el resultado son muyindispensables. Por ejemplo una v.a. que no cumple el resultado esla distribucion de Cauchy que es aquella que tiene como densidadla funcion β(x) = 1
π(1+x2)pues tenemos que si C tiene distribucion
de Cauchy entonces
E(X 2) =
∫ ∞−∞
x21
π(1 + x2)dx =∞
y por consecuencia no existe la varianza.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Ejemplo 2. Estimar la probabilidad que salgan entre 40 y 60 carasen 100 lanzamientos de una moneda justa. Sabemos que p = 1
2 . Siusamos el TCL tenemos
P(40 ≤ B(100,1
2) ≤ 60) ∼ Φ(
10
5)− Φ(−10
5) = Φ(2)− (1− Φ(2))
= 2Φ(2)− 1 = 0,9544
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Normalidad asintotica de un estimador.Un estimador se dice asintoticamente normal si su distribucionestandarizada se puede aproximar por la distribucion de lagaussiana estandar. Expliquemos este enunciado. Sea Tn unestimador de un parametro θ construido a partir de una muestraaleatoria simple X1, . . . ,Xn. Sean E(Tn) y Var(Tn) su esperanza ysu varianza respectivamente.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Entonces Tn es asintoticamente normal si
P(Tn − E(Tn)√
Var(Tn)≤ t)→ Φ(t).
Hemos visto que la media empırica X n es un estimadorasintoticamente normal.Supongamos ahora que conocemos la esperanza µ de una variablealeatoria X y no conocemos su varianza σ2.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Si disponemos de una muestra aleatoria simple de esa distribucionentonces podemos definir el estimador
σ2n =1
n
n∑i=1
(Xi − µ)2.
Entonces E[σ2n] = σ2 y Var(σ2n) = 1nVar((X − µ)2) := 1
nγ2
supondremos tambien que este ultimo parametro es finito.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
P(σ2n − σ2
γ√n
≤ t) = P(1√n
n∑i=1
[(Xi − µ)2 − σ2
γ] ≤ t)→ Φ(t).
Este resultado se deduce del TCL si se lo aplicamos a las v.a.
Yi = (Xi−µ)2−σ2
γ . Resultando este estimador asintoticamentenormal.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
El metodo delta.Sea X1, ...,Xn un muestreo aleatorio de X con distribucion p(x ; θ)que depende de un parametro θ. Sea Tn un estimador consistentede θ y consideremos g(Tn) un estimador de g(θ) para una funciong : R→ R con derivada continua.
Como el estimador es consistente esto es TnP→ θ sabemos que
g(Tn)→ g(θ). Supongamos que la funcion g es diferenciable porel teorema de Taylor al primer orden tenemos
g(Tn) = g(θ) + g ′(θ)(Tn − θ) + resto.
Olvidamos el resto pues consideramos que es despreciable.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Ası podemos escribir
Eg(Tn) = g(θ) + g ′(θ)(E(Tn)− θ).
Si el estimador Tn es asintoticamente insesgado. Entoncespodemos escribir
g(Tn)− g(θ)√Var(Tn)
= g ′(θ)Tn − E(Tn)√
Var(Tn)∼ N(0, (g ′(θ))2).
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Demostracion del TCL.Sean dos funciones Fδ y F δ con tres derivadas continuas yacotadas y que verifican la cadena de desigualdades.
1(−∞,x−δ](y) ≤ Fδ(y) ≤ 1(∞,x](y) ≤ F δ(y) ≤ 1(−∞,x+δ](y)
Figura: Funciones aproximantes
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Se tiene lo siguiente. Sea Xn una sucesion de v.a. y denotemos porGn sus funciones de distribucion ası
Gn(x) = P(Xn ≤ x) = E(1(−∞,x](Xn))
de esta manera tenemos que
Gn(x − δ) < E[Fδ(Xn)] < Gn(x) < E[F δ(Xn)] < Gn(x + δ)
Supongamos que para cada δ > 0 tenemos que
lımn→∞
E[Fδ(Xn)] = E[Fδ(X )] y lımn→∞
E[F δ(Xn)] = E[F δ(X )],
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Entonces
E[Fδ(X )] ≤ lım infn→∞
Gn(x) ≤ lım supn→∞
Gn(x) ≤ E[F δ(X )].
Ademas
GX (x − δ) = P(X ≤ x − δ) ≤ E[Fδ(X )] ≤ P(X ≤ x) = GX (x)
e igual para la otra funcion. Si GX es continua en x se tiene que
lımδ→0
E[Fδ(X )] = lımδ→0
E[F δ(X )] = GX (x).
Por consiguiente se desprende que
lımn→∞
Gn(x) = GX (x)
para todo punto de continuidad de GX .
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Supondremos, de manera mas general, que para toda funcioncontinua y acotada f con tres derivadas acotadas se tiene
E[f (Xn)]→ E[f (X )].
Para demostrar el TCL sean X1, . . . ,Xn va i.i.d con E(Xi ) = 0 yE(X 2
i ) = 1 y consideremos Y1, . . . ,Yn i.i.d N(0, 1) eindependientes de las Xi .
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Sabemos que la v.a.
Zn =Y1 + . . .+ Yn√
n
d= N(0, 1).
Sea tambien
Sn =X1 + . . .+ Xn√
n.
Para f una funcion continua y acotada con tres derivadas acotadas
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
queremos evaluar entonces
|E[f (Sn)− f (Zn)]
= |n−1∑j=0
f (1√n
(
j∑i=1
Yi +n∑
i=j+1
Xi ))− f (1√n
(
j+1∑i=1
Yi +n∑
i=j+2
Xi ))|
Definimos
θj =
j∑i=1
Yi +n∑
i=j+2
Xi ,
de esta forma
|E[f (Sn)−f (Zn)]| = |n−1∑j=0
E[f (1√n
(Xj+1+θj))−f (1√n
(Yj+1+θj))]|.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
f (1√n
(Xj+1 + θj))
= f (1√nθj) + f ′(
1√nθj)
Xj+1√n
+1
2f ′′(
1√nθj)
X 2j+1
n
+1
6f ′′′(
αjXj+1 + (1− αj)θj√n
)(Xj+1√
n)3
f (1√n
(Yj+1 + θj))
= f (1√nθj) + f ′(
1√nθj)
Yj+1√n
+1
2f ′′(
1√nθj)
Y 2j+1
n
+1
6f ′′′(
αjYj+1 + (1− αj)θj√n
)(Yj+1√
n)3
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Notemos varias cosas. En primer lugar por construccion θj esindependiente de Xj+1 y de Yj+1. Por otra parte
E[f ′(1√nθj)
Xj+1√n
] = E[f ′(1√nθj)]E[
Xj+1√n
] = 0,
E[f ′′(1√nθj)
X 2j+1
n] = E [f ′′(
1√nθj)]E[
X 2j+1
n] = E [f ′′(
1√nθj)]
1
n.
Los mismos resultados se obtienen para los terminos queinvolucran a Yj+1.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE
Estos hechos implican que
|E[f (Sn)− f (Zn)]|
= |E[1
6
n−1∑j=0
[f ′′′(αjXj+1 + (1− αj)θj√
n)(Xj+1√
n)3
− 1
6f ′′′(
αjXj+1 + (1− αj)θj√n
)(Yj+1√
n)3]]|
≤ 1
6
||f ′′′||∞√n
(E[|X |3] + E[|Y |3])→ 0
si E[|X |3] <∞, pues siempre se verifica E[|Y |3] <∞.
Jose Rafael Leon Ramos IMERL UDELAR Clase No. 20 de PyE