OLS vs MLE: diferencia y comparación

En estadística, existen varios conceptos que nos ayudan a llegar a un determinado resultado. Los datos estadísticos pueden variar de contenido a contenido y de cantidad a cantidad.

La estadística es un tipo de rama que nos ayuda a adquirir una idea aproximada sobre un evento en curso. Nos ayuda a predecir los resultados y con ello a tomar decisiones sobre los mismos.

El análisis estadístico se realiza sobre la base de varios datos que se recopilan durante un determinado evento o después de él. Sin embargo, varios tipos de datos se analizan utilizando varios tipos de conceptos.

Dos de estos conceptos son 1. MCO o mínimos cuadrados ordinarios y 2. MLE o estimación de máxima verosimilitud.

Puntos clave

1. Los mínimos cuadrados ordinarios (OLS) es un método estadístico para estimar modelos de regresión lineal al minimizar la suma de los errores al cuadrado.
2. La estimación de máxima verosimilitud (MLE) es una técnica estadística que estima parámetros maximizando la función de verosimilitud.
3. OLS es específico para la regresión lineal, mientras que MLE se puede aplicar a varios modelos estadísticos.

MCO vs MLE

OLS estima los parámetros que minimizan la suma de los residuos cuadrados, mientras que MLE estima los parámetros que maximizan la probabilidad de los datos observados. OLS es un método más simple e intuitivo, mientras que MLE puede manejar modelos más complejos y ser más eficiente en muestras pequeñas.

El método utilizado para calcular y estimar los parámetros desconocidos presentes en un cierto lineal regresión modelo se conoce como mínimos cuadrados ordinarios (OLS). Es un método en el que el número de errores se distribuye equitativamente.

Es una de las técnicas más consistentes cuando los regresores en el modelo se originan externamente.

El método en estadística que se utiliza para estimar varios parámetros cuando se asume la distribución de probabilidad de los datos estadísticos observados se conoce como estimación de máxima verosimilitud (MLE).

La estimación de máxima verosimilitud es el punto en el espacio de parámetros que maximiza la función de verosimilitud.

Tabla de comparación

Parámetros de comparación	OLS	MLE
Formularios completos	Mínimos cuadrados ordinarios.	Estimación de máxima verosimilitud.
También conocido como	Mínimos cuadrados lineales	No hay otro nombre
Usado para	El método de mínimos cuadrados ordinarios se utiliza para la determinación de varios parámetros desconocidos que están presentes en un modelo de regresión lineal.	La estimación de máxima verosimilitud es el método que se utiliza para 1. Estimación de parámetros 2. Ajuste de un modelo estadístico a los datos estadísticos.
Descubierto por	Adrien Marie Legendre	El concepto se derivó colectivamente con la ayuda de las contribuciones realizadas por Gauss, Hagen y Edgeworth.
Inconvenientes	No está disponible y es aplicable a los datos estadísticos que están censurados. No se puede aplicar a datos que tienen valores extremadamente grandes o valores extremadamente pequeños. Hay comparativamente menos propiedades de optimización en este concepto.	Durante el cálculo de datos estadísticos que tienen valores extremadamente pequeños, el método de estimación de máxima verosimilitud puede estar bastante sesgado. En algunos casos, es posible que deba resolver específicamente las ecuaciones de probabilidad. A veces, la estimación de los valores numéricos puede no ser trivial.

¿Qué es OLS?

El método utilizado para calcular y estimar los parámetros desconocidos presentes en un determinado modelo de regresión lineal se conoce como mínimos cuadrados ordinarios (OLS). El descubrimiento de este concepto en el mundo de la estadística lo hizo Adrien Marie Legendre.

Los marcos en los que se aplican los mínimos cuadrados ordinarios pueden variar.

Se debe tener que seleccionar un marco apropiado donde los mínimos cuadrados ordinarios se puedan convertir en un modelo de regresión lineal particular para encontrar los parámetros desconocidos ubicados en el mismo.

Uno de los aspectos diferenciales de este concepto es si tratar a los regresores como variables aleatorias o como constantes con valores predefinidos.

Si los regresores se tratan como variables aleatorias, entonces el estudio puede ser más innato y las variables pueden ser muestras juntas para un estudio colectivo. estudio observacional. Esto conduce a algunos resultados comparativamente más precisos.

Sin embargo, si los regresores se tratan como constantes con valores predefinidos, entonces el estudio se considera comparativamente más como un experimento.

Existe otro modelo clásico de regresión lineal en el que se pone el énfasis en los datos muestrales que son finitos. Esto lleva a la conclusión de que los valores de los datos son limitados y fijos, y la estimación de los datos se realiza sobre la base de los datos fijos.

Promover inferencia de la estadística también se calcula en un método comparativamente más fácil.

¿Qué es MLE?

El método en estadística que se utiliza para estimar varios parámetros cuando se asume la distribución de probabilidad de los datos estadísticos observados se conoce como estimación de máxima verosimilitud (MLE).

Tiene propiedades comparativamente más óptimas que muchos otros conceptos que se utilizan para calcular los parámetros desconocidos en varios modelos estadísticos.

La estimación inicial se realiza sobre la base de la función de verosimilitud básica de los datos muestrales estadísticos.

La predicción aproximada de los datos se realiza como el conjunto de datos, y su probabilidad es también la probabilidad de obtener un conjunto similar de datos para el modelo estadístico de probabilidad dado. 

Toda la predicción aproximada del conjunto de datos consta de varios parámetros desconocidos que se encuentran en todo el modelo de probabilidad. Estos valores o estos parámetros desconocidos maximizan la probabilidad del conjunto de datos.

Estos valores se conocen como estimaciones de máxima verosimilitud. Existen varias funciones de probabilidad que también son útiles para las distribuciones que se usan comúnmente en el análisis de confiabilidad.

Existieron modelos censurados bajo los cuales se calculan los datos censurados en el análisis de confiabilidad, y el concepto de estimación de máxima verosimilitud puede usarse para hacer lo mismo.

Se pueden estimar varios parámetros utilizando este concepto, ya que proporciona un enfoque comparativamente más consistente hacia él.

Se pueden generar varios conjuntos de hipótesis para los parámetros de los datos utilizando este concepto. Contiene aproximadamente tanto distribuciones normales como varianzas muestrales.

Principales diferencias entre OLS y MLE

1. El método OLS es el método de mínimos cuadrados ordinarios. Por otro lado, el método MLE es la estimación de máxima verosimilitud.
2. El método de cuadrados lineales ordinarios también se conoce como método de mínimos cuadrados lineales. Por otra parte, el método de máxima verosimilitud no tiene otro nombre por el que se le conozca.
3. El método de los mínimos cuadrados ordinarios tiene comparativamente menos propiedades óptimas. Por otro lado, la estimación de máxima verosimilitud tiene propiedades comparativamente más óptimas.
4. El método de mínimos cuadrados ordinarios no se puede utilizar para datos censurados. Por otro lado, el método de estimación de máxima verosimilitud se puede utilizar para datos censurados.
5. El método de mínimos cuadrados ordinarios se utiliza para la determinación de varios parámetros desconocidos que están presentes en un modelo de regresión lineal. Por otro lado, la estimación de máxima verosimilitud es el método que se utiliza para 1. Estimación de parámetros 2. Ajuste de un modelo estadístico a los datos estadísticos.

Referencias

1. https://methods.sagepub.com/base/download/BookChapter/the-multivariate-social-scientist/d49.xml
2. https://rss.onlinelibrary.wiley.com/doi/abs/10.1111/j.2517-6161.1961.tb00430.x

Última actualización: 13 julio, 2023