OLS vs MLE: Diferença e Comparação

Em estatística, existem vários conceitos que nos ajudam a chegar a um determinado resultado. Os dados estatísticos podem variar de conteúdo para conteúdo e quantidade para quantidade.

A estatística é um tipo de ramo que nos ajuda a ter uma ideia aproximada de um evento em andamento. Isso nos ajuda a prever os resultados e, assim, tomar decisões sobre os mesmos.

A análise estatística é feita com base em vários dados coletados durante um determinado evento ou após ele. No entanto, vários tipos de dados são analisados ​​usando vários tipos de conceitos.

Dois desses conceitos são 1. OLS ou mínimos quadrados ordinários e 2. MLE ou estimativa de máxima verossimilhança.

Principais lições

  1. Ordinary Least Squares (OLS) é um método estatístico para estimar modelos de regressão linear minimizando a soma dos erros quadrados.
  2. Estimativa de Máxima Verossimilhança (MLE) é uma técnica estatística que estima parâmetros maximizando a função de verossimilhança.
  3. OLS é específico para regressão linear, enquanto MLE pode ser aplicado a vários modelos estatísticos.

OLS x MLE

OLS estima os parâmetros que minimizam a soma dos quadrados dos resíduos, enquanto o MLE estima os parâmetros que maximizam a verossimilhança dos dados observados. O OLS é um método mais simples e intuitivo, enquanto o MLE pode lidar com modelos mais complexos e ser mais eficiente em pequenas amostras.

OLS x MLE

O método usado para calcular e estimar os parâmetros desconhecidos presentes em um determinado regressão modelo é conhecido como mínimos quadrados ordinários (OLS). É um método no qual o número de erros é igualmente distribuído.

É uma das técnicas mais consistentes quando os regressores do modelo se originam externamente.

O método em estatística que é usado para estimar vários parâmetros quando a distribuição de probabilidade é assumida dos dados estatísticos observados é conhecido como estimativa de máxima verossimilhança (MLE).

A estimativa de máxima verossimilhança é o ponto no espaço de parâmetros que maximiza a função de verossimilhança.

Tabela de comparação

Parâmetros de ComparaçãoOLSMLE
Todas as formasMínimos quadrados ordinários.Estimativa de máxima verossimilhança.
Também conhecido comoMínimos quadrados linearesNenhum outro nome
Usado paraO método dos mínimos quadrados ordinários é usado para a determinação de vários parâmetros desconhecidos que estão presentes em um modelo de regressão linear. A estimativa de máxima verossimilhança é o método usado para 1. Estimação de parâmetros 2. Ajustar um modelo estatístico aos dados estatísticos.
Descoberto porAdrian Marie LegendreO conceito foi derivado coletivamente com a ajuda das contribuições feitas por Gauss, Hagen e Edgeworth.
desvantagensNão está disponível e aplicável a dados estatísticos censurados. Não pode ser aplicado a dados que tenham valores extremamente grandes ou valores extremamente pequenos. Existem comparativamente menos propriedades de otimização neste conceito.Durante o cálculo de dados estatísticos que possuem valores extremamente menores, o método de estimativa de máxima verossimilhança pode ser bastante tendencioso. Em alguns casos, pode ser necessário resolver especificamente as equações de verossimilhança. Às vezes, a estimativa dos valores numéricos pode ser não trivial.

O que é OLS?

O método usado para calcular e estimar os parâmetros desconhecidos presentes em um determinado modelo de regressão linear é conhecido como mínimos quadrados ordinários (OLS). A descoberta deste conceito no mundo da estatística foi feita por Adrien Marie Legendre.

Leia também:  Calculadora de diferença de dois quadrados

As estruturas nas quais os mínimos quadrados ordinários são aplicáveis ​​podem variar.

Deve-se selecionar uma estrutura apropriada onde os mínimos quadrados ordinários possam ser lançados em um determinado modelo de regressão linear para descobrir os parâmetros desconhecidos localizados no mesmo.

Um dos aspectos desse conceito que é diferencial é tratar os regressores como variáveis ​​aleatórias ou como constantes com valores predefinidos.

Se os regressores forem tratados como variáveis ​​aleatórias, o estudo pode ser mais inato e as variáveis ​​podem ser amostras juntas para um coletivo estudo observacional. Isso leva a alguns resultados comparativamente mais precisos.

No entanto, se os regressores forem tratados como constantes com valores predefinidos, então o estudo é considerado comparativamente mais como um experimento.

Existe outro modelo de regressão linear clássico no qual a ênfase é colocada nos dados da amostra que são finitos. Isso leva à conclusão de que os valores nos dados são limitados e fixos, e a estimativa dos dados é feita com base nos dados fixos.

Mais inferência da estatística também é calculado em um método comparativamente mais fácil.

O que é MLE?

O método em estatística que é usado para estimar vários parâmetros quando a distribuição de probabilidade é assumida dos dados estatísticos observados é conhecido como estimativa de máxima verossimilhança (MLE).

Ele tem propriedades comparativamente mais ótimas do que muitos outros conceitos usados ​​para calcular os parâmetros desconhecidos em vários modelos estatísticos.

A estimativa inicial é feita com base na função de verossimilhança básica dos dados estatísticos da amostra.

Leia também:  Preenchimento x Margem: Diferença e Comparação

Aproximadamente, a previsão dos dados é feita como o conjunto de dados, e sua probabilidade também é a probabilidade de obter um conjunto semelhante de dados para o modelo estatístico de probabilidade fornecido. 

Toda a previsão aproximada do conjunto de dados consiste em vários parâmetros desconhecidos localizados no modelo de probabilidade. Esses valores ou esses parâmetros desconhecidos maximizam a probabilidade do conjunto de dados.

Esses valores são conhecidos como estimativas de máxima verossimilhança. Existem várias funções de verossimilhança que também são úteis para as distribuições comumente usadas na análise de confiabilidade.

Existem modelos censurados sob os quais os dados censurados na análise de confiabilidade são calculados, e o conceito de estimativa de máxima verossimilhança pode ser usado para fazer o mesmo.

Vários parâmetros podem ser estimados usando esse conceito, pois fornece uma abordagem comparativamente mais consistente.

Vários conjuntos de hipóteses podem ser gerados para os parâmetros nos dados usando esse conceito. Ele contém aproximadamente distribuições normais e variâncias amostrais.

Principais diferenças entre OLS e MLE

  1. O método OLS é o método dos mínimos quadrados ordinários. Por outro lado, o método MLE é a estimativa de máxima verossimilhança.
  2. O método dos quadrados lineares ordinários também é conhecido como método dos mínimos quadrados lineares. Por outro lado, o método da máxima verossimilhança não tem outro nome pelo qual seja conhecido.
  3. O método dos mínimos quadrados ordinários tem comparativamente menos propriedades ótimas. Por outro lado, a estimativa de máxima verossimilhança tem propriedades comparativamente mais ótimas.
  4. O método dos mínimos quadrados ordinários não pode ser usado para dados censurados. Por outro lado, o método de estimação de máxima verossimilhança pode ser usado para dados censurados.
  5. O método dos mínimos quadrados ordinários é usado para a determinação de vários parâmetros desconhecidos que estão presentes em um modelo de regressão linear. Por outro lado, a estimativa de máxima verossimilhança é o método usado para 1. Estimação de parâmetros 2. Ajustar um modelo estatístico aos dados estatísticos.
Referências
  1. https://methods.sagepub.com/base/download/BookChapter/the-multivariate-social-scientist/d49.xml
  2. https://rss.onlinelibrary.wiley.com/doi/abs/10.1111/j.2517-6161.1961.tb00430.x

Última atualização: 13 de julho de 2023

dot 1
Um pedido?

Eu me esforcei tanto para escrever esta postagem no blog para fornecer valor a você. Será muito útil para mim, se você considerar compartilhá-lo nas mídias sociais ou com seus amigos/família. COMPARTILHAR É ♥️

Deixe um comentário

Quer salvar este artigo para mais tarde? Clique no coração no canto inferior direito para salvar em sua própria caixa de artigos!