7.6.10 Estimadores de máxima verosimilitud

Sea X una v.a. con función de probabilidad

$$f(x;\,\theta)$$

Las muestras aleatorias simples de tamaño n, $X_1,X_2,\dots,X_n$ tienen por distribución de probabilidad conjunta

$$f_c(x_1,x_2,\dots,x_n;\,\theta)=f(x_1,x_2,\dots,x_n;\,\theta) f(x_1;\,\theta)\cdot f(x_2;\,\theta)\cdots f(x_n;\,\theta)$$

Esta función que depende de n+1 cantidades podemos considerarla de dos maneras:

• Fijando $\theta$, es una función de las n cantidades x_i. Esto es la función de probabilidad o densidad.
• Fijados los x_i como consecuencia de los resultados de elegir una muestra mediante un experimento aleatorio, es únicamente función de $\theta$. A esta función de $\theta$ la denominamos función de verosimilitud.

En este punto podemos plantearnos el que dado una muestra sobre la que se ha observado los valores x_i, una posible estimación del parámetro es aquella que maximiza la función de verosimilitud (cf. figura 7.1)

$$x_1,\dots,x_n \mbox{ fijados } \Longrightarrow \mbox{ Verosimilitud }\equiv\: V(\theta) = f(x_1,x_2,\dots,x_n;\,\theta)$$

  

Figura: La función de verosimilitud se obtiene a partir de la función de densidad, intercambiando los papeles entre parámetro y estimador. En una función de verosimilitud consideramos que las observaciones x₁, ..., x_n,están fijadas, y se representa la gráfica con el valor de los valores que tomaría la función de densidad para todos los posibles valores del parámetro $\theta$. El estimador máximo verosímil del parámetro buscado, $\hat{\theta}_{\cal MV}$, es aquel que maximiza su función de verosimilitud, $V(\theta )$.

Como es lo mismo maximizar una función que su logaritmo (al ser este una función estrictamente creciente), este máximo puede calcularse derivando con respecto a $\theta$la función de verosimilitud ( bien su logaritmo) y tomando como estimador máximo verosímil al que haga la derivada nula:

$$\frac{\partial \,\log V}{\partial\,\theta} \left(\hat{\theta}_{\cal M V}\right) = 0.$$

De modo más preciso, se define el estimador máximo verosímil como la v.a.

$$\hat{\theta}_{\cal M V} = \max_{\tilde{\theta} \in I\!\!R} f(X_1,X_2,\dots,X_n;\,\tilde{\theta})$$

Los estimadores de máxima verosimilitud tienen ciertas propiedades en general que a continuación enunciamos:

1.

Son consistentes;

2.

Son invariantes frente a transformaciones biunívocas, es decir, si $\hat{\theta}_{\cal MV}$ es el estimador máximo verosímil de $\theta$ y $g(\tilde{\theta})$ es una función biunívoca de $\tilde{\theta}$, entonces $g(\hat{\theta}_{\cal M V})$es el estimador máximo verosímil de $g(\theta)$.

3.

Si $\hat{\theta}$ es un estimador suficiente de $\theta$, su estimador máximo verosímil, $\hat{\theta}_{\cal MV}$ es función de la muestra a través de $\hat{\theta}$;

4.

Son asintóticamente normales;

5.

Son asintóticamente eficientes, es decir, entre todos los estimadores consistentes de un parámetro $\theta$, los de máxima verosimilitud son los de varianza mínima.

6.

No siempre son insesgados.