OLS versus MLE: verschil en vergelijking

In de statistiek zijn er verschillende concepten die ons helpen om een ​​bepaald resultaat te bereiken. Statistische gegevens kunnen variëren van inhoud tot inhoud en van hoeveelheid tot hoeveelheid.

Statistieken zijn een soort branche die ons helpt een globaal idee te krijgen van een aan de gang zijnde gebeurtenis. Het helpt ons om de resultaten te voorspellen en daarmee beslissingen te nemen.

Statistische analyse gebeurt aan de hand van verschillende gegevens die tijdens of na een bepaalde gebeurtenis worden verzameld. Er worden echter verschillende soorten gegevens geanalyseerd met behulp van verschillende soorten concepten.

Twee van dergelijke concepten zijn 1. OLS of gewone kleinste kwadraten en 2. MLE of maximale waarschijnlijkheidsschatting.

Key Takeaways

  1. Gewone kleinste kwadraten (OLS) is een statistische methode voor het schatten van lineaire regressiemodellen door de som van kwadratische fouten te minimaliseren.
  2. Maximum Likelihood Estimation (MLE) is een statistische techniek die parameters schat door de waarschijnlijkheidsfunctie te maximaliseren.
  3. OLS is specifiek voor lineaire regressie, terwijl MLE kan worden toegepast op verschillende statistische modellen.

OLS versus MLE

OLS schat de parameters die de som van de gekwadrateerde residuen minimaliseren, terwijl MLE de parameters schat die de waarschijnlijkheid van de waargenomen gegevens maximaliseren. OLS is een eenvoudigere en meer intuïtieve methode, terwijl MLE complexere modellen aankan en efficiënter is in kleine steekproeven.

OLS versus MLE

De methode die wordt gebruikt om de onbekende parameters in een bepaalde lineaire te berekenen en te schatten regressie model staat bekend als gewone kleinste kwadraten (OLS). Het is een methode waarbij het aantal fouten gelijkelijk wordt verdeeld.

Het is een van de meest consistente technieken wanneer de regressors in het model extern afkomstig zijn.

De methode in de statistiek die wordt gebruikt om verschillende parameters te schatten wanneer de kansverdeling wordt aangenomen van de waargenomen statistische gegevens, staat bekend als de maximale waarschijnlijkheidsschatting (MLE).

De maximale waarschijnlijkheidsschatting is het punt in de parameterruimte dat de waarschijnlijkheidsfunctie maximaliseert.

Vergelijkingstabel

VergelijkingsparametersOLSMLE
Volledige formulierenGewone kleinste kwadraten.Maximale waarschijnlijkheidsschatting.
Ook gekend alsLineaire kleinste kwadratenGeen andere naam
Gebruikt voorDe gewone kleinste-kwadratenmethode wordt gebruikt voor het bepalen van verschillende onbekende parameters die aanwezig zijn in een lineair regressiemodel. De maximale waarschijnlijkheidsschatting is de methode die wordt gebruikt voor 1. Parameterschatting 2. Het aanpassen van een statistisch model aan de statistische gegevens.
Ontdekt doorAdrian Marie LegendreHet concept werd collectief afgeleid met behulp van de bijdragen van Gauss, Hagen en Edgeworth.
NadelenHet is niet beschikbaar en van toepassing op statistische gegevens die gecensureerd zijn. Het kan niet worden toegepast op gegevens met extreem grote of extreem kleine waarden. Er zijn relatief minder optimaliteitseigenschappen in dit concept.Tijdens de berekening van statistische gegevens met extreem kleinere waarden kan de methode voor het schatten van de maximale waarschijnlijkheid nogal vertekend zijn. In sommige gevallen moet de waarschijnlijkheidsvergelijkingen specifiek worden opgelost. Soms kan de schatting van de numerieke waarden niet triviaal zijn.

Wat is OLS?

De methode die wordt gebruikt om de onbekende parameters in een bepaald lineair regressiemodel te berekenen en te schatten, staat bekend als gewone kleinste kwadraten (OLS). De ontdekking van dit concept in de wereld van de statistiek werd gedaan door Adrien Marie Legendre.

Lees ook:  P versus P-hoed: verschil en vergelijking

De kaders waarin de gewone kleinste kwadraten van toepassing zijn, kunnen variëren.

Men moet een geschikt raamwerk selecteren waar de gewone kleinste kwadraten in een bepaald lineair regressiemodel kunnen worden gegoten om de onbekende parameters daarin te vinden.

Een van de aspecten van dit concept dat differentieel is, is of de regressors moeten worden behandeld als willekeurige variabelen of als constanten met vooraf gedefinieerde waarden.

Als de regressors worden behandeld als willekeurige variabelen, kan het onderzoek meer aangeboren zijn en kunnen de variabelen samen worden bemonsterd voor een collectief onderzoek. observatie studie. Dit leidt tot relatief nauwkeurigere resultaten.

Als de regressors echter worden behandeld als constanten met vooraf gedefinieerde waarden, wordt het onderzoek relatief meer als een experiment beschouwd.

Er bestaat nog een ander klassiek lineair regressiemodel waarin de nadruk wordt gelegd op de steekproefgegevens die eindig zijn. Dit leidt tot de conclusie dat de waarden in de gegevens beperkt en vast zijn, en dat de schatting van de gegevens wordt gedaan op basis van de vaste gegevens.

Verder gevolgtrekking van de statistiek wordt ook berekend op een relatief eenvoudigere manier.

Wat is MLE?

De methode in de statistiek die wordt gebruikt om verschillende parameters te schatten wanneer de kansverdeling wordt aangenomen van de waargenomen statistische gegevens, staat bekend als de maximale waarschijnlijkheidsschatting (MLE).

Het heeft relatief meer optimale eigenschappen dan veel andere concepten die worden gebruikt om de onbekende parameters in verschillende statistische modellen te berekenen.

De initiële schatting wordt gedaan op basis van de basiswaarschijnlijkheidsfunctie van de statistische steekproefgegevens.

Lees ook:  Deja Vu versus voorgevoel: verschil en vergelijking

Ruwweg wordt de voorspelling van de gegevens gemaakt zoals de gegevensset, en de waarschijnlijkheid ervan is ook de waarschijnlijkheid van het verkrijgen van een vergelijkbare gegevensset voor het gegeven statistische waarschijnlijkheidsmodel. 

De volledige ruwe voorspelling van de set gegevens bestaat uit verschillende onbekende parameters die zich in het kansmodel bevinden. Deze waarden of deze onbekende parameters maximaliseren de waarschijnlijkheid van de set gegevens.

Deze waarden staan ​​bekend als de maximale waarschijnlijkheidsschattingen. Er bestaan ​​verschillende waarschijnlijkheidsfuncties die ook nuttig zijn voor de verdelingen die vaak worden gebruikt in betrouwbaarheidsanalyse.

Er waren gecensureerde modellen waarmee de gecensureerde gegevens in betrouwbaarheidsanalyse worden berekend, en het concept van maximale waarschijnlijkheidsschatting kan worden gebruikt om hetzelfde te doen.

Verschillende parameters kunnen worden geschat door dit concept te gebruiken, omdat het een relatief meer consistente benadering geeft.

Met behulp van dit concept kunnen verschillende hypothesesets worden gegenereerd voor de parameters in de gegevens. Het bevat ongeveer zowel normale verdelingen als steekproefvarianties.

Belangrijkste verschillen tussen OLS en MLE

  1. De OLS-methode is de gewone methode van de kleinste kwadraten. Aan de andere kant is de MLE-methode de maximale waarschijnlijkheidsschatting.
  2. De gewone lineaire kwadratenmethode wordt ook wel de lineaire kleinste kwadratenmethode genoemd. Aan de andere kant heeft de maximale waarschijnlijkheidsmethode geen andere naam waaronder deze bekend staat.
  3. De gewone methode van de kleinste kwadraten heeft relatief minder optimale eigenschappen. Aan de andere kant heeft de maximale waarschijnlijkheidsschatting relatief meer optimale eigenschappen.
  4. De gewone methode van de kleinste kwadraten kan niet worden gebruikt voor gecensureerde gegevens. Aan de andere kant kan de maximale waarschijnlijkheidsschattingsmethode worden gebruikt voor gecensureerde gegevens.
  5. De gewone kleinste-kwadratenmethode wordt gebruikt voor het bepalen van verschillende onbekende parameters die aanwezig zijn in een lineair regressiemodel. Aan de andere kant is de maximale waarschijnlijkheidsschatting de methode die wordt gebruikt voor 1. parameterschatting 2. het aanpassen van een statistisch model aan de statistische gegevens.
Referenties
  1. https://methods.sagepub.com/base/download/BookChapter/the-multivariate-social-scientist/d49.xml
  2. https://rss.onlinelibrary.wiley.com/doi/abs/10.1111/j.2517-6161.1961.tb00430.x

Laatst bijgewerkt: 13 juli 2023

stip 1
Een verzoek?

Ik heb zoveel moeite gestoken in het schrijven van deze blogpost om jou van waarde te kunnen zijn. Het zal erg nuttig voor mij zijn, als je overweegt het te delen op sociale media of met je vrienden/familie. DELEN IS ️

Laat een bericht achter

Dit artikel bewaren voor later? Klik op het hartje rechtsonder om op te slaan in je eigen artikelenbox!