Estimación Máximo Verosímil

Universidad Católica Andrés Bello
Preparaduría Probabilidades y Estadísticas
UNIVERSIDAD CATOLICA ANDRES BELLO
Urb. Montalbán – La Vega – Apartado 29068
Teléfono: 471-4148 Fax: 471-3043
Caracas, 1021 - Venezuela
___________
Facultad de Ingeniería
Escuela de Ingeniería Informática
----------------------Preparador: Eduardo Lakatos Contreras
ESTIMACIÓN MÁXIMO VEROSIMIL
Estimadores: Existen 2 tipos: puntuales y de intervalos.
Estimador puntual: Se escoge una muestra al azar de tamaño n, de una población f(x) y
luego se utiliza cierto método para llegar a un solo número.
PROPIEDADES DE UN BUEN ESTIMADOR
(1)
(2)
(3)
(4)
Insesgamiento
Eficiencia
Suficiencia
Consistencia n
Principales
(mínima varianza)
N (Si la muestra se aproxima a la población)
Insesgamiento
E( )
E ( x)
x
Xi
E(
n
)
1
E(
n
estimador
Xi
Xi)
N
E (x)
Eficiencia
Si tengo
1
,
2
y S1 , S 2 . Si S1 < S 2 entonces S1 es más eficiente que S 2 .
Consistencia
Estimador que a lo largo de toda la muestra no cambia.
Existen varios métodos para hallar estimadores puntuales:
Método de momento.
Método de máxima verosimilitud
Preparador: Eduardo Lakatos Contreras
Universidad Católica Andrés Bello
Preparaduría Probabilidades y Estadísticas
Método de mínimos cuadrados.
Método de boot strap.
METODO DE MAXIMA VEROSIMILITUD (Estimación máximo verosímil)
PASOS (1):
n
1. L
/x
f Xi /
i 1
2. log L / x
3. MAX log L
/x
Luego de hallar el estimador se prueban las propiedades. Las más importantes son la
insesgabilidad y la eficiencia.
f (x)
P(x)
Función de densidad.
Función de probabilidad o masa.
PASOS (2):
I) Hallar la función de verosimilitud
n
L
f (X i )
En el caso continua <<proceso de medición>>
P( X i )
En el caso discreto <<proceso de conteo>>
i 1
n
L
i 1
II) Hallar el log L
III) Derivamos él log L
punto critico y se despeja
d log L
d( )
con respecto al parámetro y sé iguala a cero para hallar el
.
0
Al despejar
se halla el estimador máximo verosímil (
es el estimador)
EJEMPLO 1)
Sea X una variable de Bernoulli. Hallar el estimador máximo verosímil para P.
P( x)
P x .(1
p )1
x
Preparador: Eduardo Lakatos Contreras
Universidad Católica Andrés Bello
Preparaduría Probabilidades y Estadísticas
n
I) L
/x
f Xi /
i 1
n
( p X i .(1 p )1
L P/ x
Xi
i 1
n
n
Xi
1 Xi
p i 1 .((1 p ) i 1
II) log L
)
/x
n
n
Xi
log L P / x
log p
n
(1 X i )
log(1 p)
i 1
i 1
=
n
X i log p
i 1
III) MAX log L
/x
n
n
Xi
dL P / x
d ( p)
(1 X i ) log(1 p)
i 1
(1 X i )
i 1
i 1
p
(1 p)
n
( 1)
Igualo a 0.
n
Xi
n
i 1
Xi
i 1
p
(1
p)
n
n
(1 p)
p(n
Xi
i 1
n
Xi )
i 1
n
Xi
p
i 1
n
Xi
p.n
i 1
p
Xi
i 1
n
Xi
p.n
i 1
n
Xi
p
i 1
n
P
x
Solución
Preparador: Eduardo Lakatos Contreras
Universidad Católica Andrés Bello
Preparaduría Probabilidades y Estadísticas
EJEMPLO 2)
Para una muestra X1, X2,…., Xn donde Xi es una variable aleatoria con probabilidad p.
Encuentre el estimador máximo verosímil para .
x
f ( x)
.e
x
= lease Factorial.
n
I) L
/x
f Xi /
i 1
n
Xi
L( x / )
i 1
II) log L
/x
n
.e
Xi
.e n
X 1 X 2 ... X n
i 1
Xi
n
Xi
.e n
X 1 X 2 ... X n
i 1
log L( x / )
log
n
Xi
log(
n
.e
i 1
) log( X 1 X 2 ... X n )
n
Xi
log(
i 1
) log(e
n
) log( X 1 X 2 ... X n )
n
i 1
X i log( )
III) MAX log L
n log( X 1 X 2 ... X n )
/x
n
Xi
dL X /
d( )
i 1
n Igualo a 0.
n
Xi
i 1
n
Preparador: Eduardo Lakatos Contreras
Universidad Católica Andrés Bello
Preparaduría Probabilidades y Estadísticas
n
Xi
i 1
n
ˆ
x
Media poblacional.
EJEMPLO 3)
, 2 ,
Sea X1, X2,…., Xn una variable aleatoria que se distribuye normal X~N
encuentre el estimador máximo verosímil de
y 2 y compruebe si son buenos
estimadores de no ser buenos estimadores plantee un nuevo estimador.
1
f ( x)
e
2
(x
)2
2
2
n
I) L
/x
f Xi /
i 1
n
L( .
2
/ Xi)
(
2
i 1
II) log L
e
2
2
n
1
)
( 2
)n
e
i 1
(Xi
2
)2
2
/x
2
log L(
)2
( xi
1
/ Xi)
log1
III) MAX log L
n
log(2 .
2
n
2
)
i 1
(Xi
2
)2
2
/x
Sacamos primero para
y luego para
2
Para
dL( / )
d( )
n
(Xi
)
2
n
1
(0
2
0
(Xi
2
i 1
)2 )
n
1
2
(
(X i
2 2n i 1
n
)) 1
(X i
)
2
i 1
Igualo a 0.
i 1
Preparador: Eduardo Lakatos Contreras
Universidad Católica Andrés Bello
Preparaduría Probabilidades y Estadísticas
n
n
(Xi )
( )
i 1
0
i 1
n
(X i ) n
i 1
n
n
n
(Xi )
i 1
i 1
dL( / 2 )
d( 2 )
i 1
)2
(Xi
2
4
=
i 1
4
=0
valor estimado de
2
2
2
i 1
)2
4
2
2
n
)2
(X i
)2
(Xi
2
i 1
n
2
n
(Xi
x)2
i 1
2
Valor estimado de
S
4
(Xi
2
n
i 1
2
n
n
igualo a 0.
n
dn
x
)2
(Xi
2
2
)2
(Xi
2
2
2
n
n 2
22
n
n
i 1
ˆ
2
Para
n
(Xi )
n
Comprobar si son Buen Estimador
Para
Insesgabilidad E ( ˆ )
E( ˆ )
E( x )
E( ˆ )
x
E(
Xi
)
n
1
E(
n
1
n
E( X i )
( )
1
n
n
lim E ( ˆ )
n
n
n
1
n
Si es Insesgado
Consistencia lim E ( ˆ )
lim E ( x )
Xi)
lim E (
n
Xi
)
n
lim
n
1
n
E( X i )
1
lim n
n
n
lim
n
Preparador: Eduardo Lakatos Contreras
Universidad Católica Andrés Bello
Preparaduría Probabilidades y Estadísticas
lim E ( ˆ )
Si es Consistente
x
n
2
Para
Insesgabilidad t (
1
n
(Xi
1
(
n
Xi
E(
2
)
2
E(
2
)
E(
)2
(Xi
n
)
)2 )
2
nE( x ) 2 )
I
II
I.- V ( x) Ex 2 ( Ex ) 2
Ex 2 V ( x) ( Ex ) 2
Ex 2
II.- V ( x)
2
2
( Ex) 2
2
Ex 2
V ( x) ( Ex ) 2
1
(
n
Entonces
(n 1)
n
2
2
Para serlo: S 2
2
2
n
2
n
2
n
2
)
No es Insesgado
(x x)2
n 1
Preparador: Eduardo Lakatos Contreras