OLS vs MLE: Διαφορά και σύγκριση

Στις στατιστικές, υπάρχουν αρκετές έννοιες που μας βοηθούν να φτάσουμε σε ένα συγκεκριμένο αποτέλεσμα. Τα στατιστικά δεδομένα μπορεί να διαφέρουν από περιεχόμενο σε περιεχόμενο και από ποσότητα σε ποσότητα.

Η στατιστική είναι ένας τύπος κλάδου που μας βοηθά να αποκτήσουμε μια πρόχειρη ιδέα σχετικά με ένα γεγονός που βρίσκεται σε εξέλιξη. Μας βοηθά να προβλέψουμε τα αποτελέσματα και έτσι να λάβουμε αποφάσεις σχετικά με αυτά.

Η στατιστική ανάλυση γίνεται με βάση διάφορα δεδομένα που συλλέγονται κατά τη διάρκεια ενός συγκεκριμένου γεγονότος ή μετά από αυτό. Ωστόσο, διάφορα είδη δεδομένων αναλύονται χρησιμοποιώντας διάφορους τύπους εννοιών.

Δύο από αυτές τις έννοιες είναι 1. OLS ή συνηθισμένα ελάχιστα τετράγωνα και 2. MLE ή εκτίμηση μέγιστης πιθανότητας.

Βασικές τακτικές

  1. Τα συνηθισμένα ελάχιστα τετράγωνα (OLS) είναι μια στατιστική μέθοδος για την εκτίμηση μοντέλων γραμμικής παλινδρόμησης ελαχιστοποιώντας το άθροισμα των τετραγωνικών σφαλμάτων.
  2. Η εκτίμηση μέγιστης πιθανότητας (MLE) είναι μια στατιστική τεχνική που εκτιμά τις παραμέτρους μεγιστοποιώντας τη συνάρτηση πιθανότητας.
  3. Το OLS είναι ειδικό για τη γραμμική παλινδρόμηση, ενώ το MLE μπορεί να εφαρμοστεί σε διάφορα στατιστικά μοντέλα.

OLS εναντίον MLE

Το OLS εκτιμά τις παραμέτρους που ελαχιστοποιούν το άθροισμα των τετραγωνικών υπολειμμάτων, ενώ το MLE εκτιμά τις παραμέτρους που μεγιστοποιούν την πιθανότητα των παρατηρούμενων δεδομένων. Το OLS είναι μια απλούστερη και πιο διαισθητική μέθοδος, ενώ η MLE μπορεί να χειριστεί πιο πολύπλοκα μοντέλα και να είναι πιο αποτελεσματική σε μικρά δείγματα.

OLS εναντίον MLE

Η μέθοδος που χρησιμοποιείται για τον υπολογισμό και την εκτίμηση των άγνωστων παραμέτρων που υπάρχουν σε μια συγκεκριμένη γραμμική οπισθοδρόμηση Το μοντέλο είναι γνωστό ως συνηθισμένα ελάχιστα τετράγωνα (OLS). Είναι μια μέθοδος κατά την οποία ο αριθμός των σφαλμάτων κατανέμεται εξίσου.

Είναι μια από τις πιο συνεπείς τεχνικές όταν οι παλινδρομητές στο μοντέλο προέρχονται εξωτερικά.

Η μέθοδος στα στατιστικά που χρησιμοποιείται για την εκτίμηση πολλών παραμέτρων όταν η κατανομή πιθανοτήτων υποτίθεται από τα παρατηρούμενα στατιστικά δεδομένα είναι γνωστή ως εκτίμηση μέγιστης πιθανότητας (MLE).

Η εκτίμηση μέγιστης πιθανότητας είναι το σημείο στο χώρο παραμέτρων που μεγιστοποιεί τη συνάρτηση πιθανότητας.

Συγκριτικός πίνακας

Παράμετροι ΣύγκρισηςΟΛΣΜΛΕ
Πλήρεις μορφέςΣυνήθη ελάχιστα τετράγωνα.Εκτίμηση μέγιστης πιθανότητας.
Γνωστός και ωςΓραμμικά ελάχιστα τετράγωναΚανένα άλλο όνομα
Που χρησιμοποιείται γιαΗ μέθοδος των συνηθισμένων ελαχίστων τετραγώνων χρησιμοποιείται για τον προσδιορισμό διαφόρων άγνωστων παραμέτρων που υπάρχουν σε ένα μοντέλο γραμμικής παλινδρόμησης. Η εκτίμηση μέγιστης πιθανότητας είναι η μέθοδος που χρησιμοποιείται για 1. Εκτίμηση παραμέτρων 2. Προσαρμογή ενός στατιστικού μοντέλου στα στατιστικά δεδομένα.
Ανακαλύφθηκε απόAdrien Marie LegendreΗ ιδέα προέκυψε συλλογικά με τη βοήθεια των συνεισφορών που έγιναν από τους Gauss, Hagen και Edgeworth.
μειονεκτήματαΔεν είναι διαθέσιμο και ισχύει για στατιστικά δεδομένα που λογοκρίνονται. Δεν μπορεί να εφαρμοστεί σε δεδομένα που έχουν εξαιρετικά μεγάλες τιμές ή εξαιρετικά μικρές τιμές. Υπάρχουν συγκριτικά λιγότερες ιδιότητες βελτιστοποίησης σε αυτήν την έννοια.Κατά τον υπολογισμό στατιστικών δεδομένων που έχουν εξαιρετικά μικρότερες τιμές, η μέθοδος εκτίμησης μέγιστης πιθανότητας μπορεί να είναι αρκετά προκατειλημμένη.

Τι είναι το OLS;

Η μέθοδος που χρησιμοποιείται για τον υπολογισμό και την εκτίμηση των άγνωστων παραμέτρων που υπάρχουν σε ένα συγκεκριμένο μοντέλο γραμμικής παλινδρόμησης είναι γνωστή ως συνηθισμένα ελάχιστα τετράγωνα (OLS). Η ανακάλυψη αυτής της έννοιας στον κόσμο της στατιστικής έγινε από τον Adrien Marie Legendre.

Διαβάστε επίσης:  Sword vs Katana: Difference and Comparison

Τα πλαίσια στα οποία εφαρμόζονται τα συνηθισμένα ελάχιστα τετράγωνα μπορεί να ποικίλλουν.

Κάποιος πρέπει να επιλέξει ένα κατάλληλο πλαίσιο όπου τα συνηθισμένα ελάχιστα τετράγωνα μπορούν να χυτευτούν σε ένα συγκεκριμένο μοντέλο γραμμικής παλινδρόμησης για να ανακαλύψουμε τις άγνωστες παραμέτρους που βρίσκονται στο ίδιο.

Μία από τις πτυχές αυτής της έννοιας που είναι διαφορική είναι εάν θα αντιμετωπίζονται οι παλινδρομητές ως τυχαίες μεταβλητές ή ως σταθερές με προκαθορισμένες τιμές.

Εάν οι παράγοντες παλινδρόμησης αντιμετωπίζονται ως τυχαίες μεταβλητές, τότε η μελέτη μπορεί να είναι πιο έμφυτη και οι μεταβλητές μπορούν να είναι δείγματα μαζί για μια συλλογική μελέτη παρατήρησης. Αυτό οδηγεί σε κάποια συγκριτικά πιο ακριβή αποτελέσματα.

Ωστόσο, εάν οι παλινδρομικοί παράγοντες αντιμετωπίζονται ως σταθερές με προκαθορισμένες τιμές, τότε η μελέτη θεωρείται συγκριτικά περισσότερο σαν πείραμα.

Υπάρχει ένα άλλο κλασικό μοντέλο γραμμικής παλινδρόμησης στο οποίο η έμφαση δίνεται στα δεδομένα του δείγματος που είναι πεπερασμένα. Αυτό οδηγεί στο συμπέρασμα ότι οι τιμές στα δεδομένα είναι περιορισμένες και σταθερές και η εκτίμηση των δεδομένων γίνεται με βάση τα σταθερά δεδομένα.

Περαιτέρω συμπέρασμα του στατιστικού υπολογίζεται επίσης με μια συγκριτικά ευκολότερη μέθοδο.

Τι είναι το MLE;

Η μέθοδος στα στατιστικά που χρησιμοποιείται για την εκτίμηση πολλών παραμέτρων όταν η κατανομή πιθανοτήτων υποτίθεται από τα παρατηρούμενα στατιστικά δεδομένα είναι γνωστή ως εκτίμηση μέγιστης πιθανότητας (MLE).

Έχει συγκριτικά πιο βέλτιστες ιδιότητες από πολλές άλλες έννοιες που χρησιμοποιούνται για τον υπολογισμό των άγνωστων παραμέτρων σε διάφορα στατιστικά μοντέλα.

Η αρχική εκτίμηση γίνεται με βάση τη βασική συνάρτηση πιθανότητας των δεδομένων του στατιστικού δείγματος.

Διαβάστε επίσης:  Expanding vs Factoring: Difference and Comparison

Χονδρικά η πρόβλεψη των δεδομένων γίνεται όπως το σύνολο των δεδομένων, και η πιθανότητα είναι επίσης η πιθανότητα να ληφθεί ένα παρόμοιο σύνολο δεδομένων για το δεδομένο στατιστικό μοντέλο πιθανοτήτων. 

Ολόκληρη η χονδρική πρόβλεψη του συνόλου δεδομένων αποτελείται από διάφορες άγνωστες παραμέτρους που βρίσκονται σε όλο το μοντέλο πιθανότητας. Αυτές οι τιμές ή αυτές οι άγνωστες παράμετροι μεγιστοποιούν την πιθανότητα του συνόλου δεδομένων.

Αυτές οι τιμές είναι γνωστές ως εκτιμήσεις μέγιστης πιθανότητας. Υπάρχουν αρκετές συναρτήσεις πιθανότητας που είναι επίσης χρήσιμες για τις κατανομές που χρησιμοποιούνται συνήθως στην ανάλυση αξιοπιστίας.

Υπήρχαν λογοκριμένα μοντέλα βάσει των οποίων υπολογίζονται τα λογοκριμένα δεδομένα στην ανάλυση αξιοπιστίας και η έννοια της εκτίμησης μέγιστης πιθανότητας μπορεί να χρησιμοποιηθεί για να γίνει το ίδιο.

Διάφορες παράμετροι μπορούν να εκτιμηθούν χρησιμοποιώντας αυτήν την έννοια, καθώς παρέχει μια συγκριτικά πιο συνεπή προσέγγιση προς αυτήν.

Μπορούν να δημιουργηθούν διάφορα σύνολα υποθέσεων για τις παραμέτρους στα δεδομένα χρησιμοποιώντας αυτήν την έννοια. Περιέχει περίπου τόσο κανονικές κατανομές όσο και διακυμάνσεις δείγματος.

Κύριες διαφορές μεταξύ OLS και MLE

  1. Η μέθοδος OLS είναι η συνηθισμένη μέθοδος ελαχίστων τετραγώνων. Από την άλλη πλευρά, η μέθοδος MLE είναι η εκτίμηση της μέγιστης πιθανότητας.
  2. Η μέθοδος των συνηθισμένων γραμμικών τετραγώνων είναι επίσης γνωστή ως μέθοδος γραμμικών ελαχίστων τετραγώνων. Από την άλλη πλευρά, η μέθοδος μέγιστης πιθανότητας δεν έχει άλλο όνομα με το οποίο είναι γνωστή.
  3. Η συνηθισμένη μέθοδος ελαχίστων τετραγώνων έχει συγκριτικά λιγότερες βέλτιστες ιδιότητες. Από την άλλη πλευρά, η εκτίμηση της μέγιστης πιθανότητας έχει συγκριτικά πιο βέλτιστες ιδιότητες.
  4. Η συνηθισμένη μέθοδος ελαχίστων τετραγώνων δεν μπορεί να χρησιμοποιηθεί για λογοκριμένα δεδομένα. Από την άλλη πλευρά, η μέθοδος εκτίμησης μέγιστης πιθανότητας μπορεί να χρησιμοποιηθεί για λογοκριμένα δεδομένα.
  5. Η μέθοδος των συνηθισμένων ελαχίστων τετραγώνων χρησιμοποιείται για τον προσδιορισμό διαφόρων άγνωστων παραμέτρων που υπάρχουν σε ένα μοντέλο γραμμικής παλινδρόμησης. Από την άλλη πλευρά, η εκτίμηση μέγιστης πιθανότητας είναι η μέθοδος που χρησιμοποιείται για 1. Εκτίμηση παραμέτρων 2. Προσαρμογή ενός στατιστικού μοντέλου στα στατιστικά δεδομένα.
αναφορές
  1. https://methods.sagepub.com/base/download/BookChapter/the-multivariate-social-scientist/d49.xml
  2. https://rss.onlinelibrary.wiley.com/doi/abs/10.1111/j.2517-6161.1961.tb00430.x

Τελευταία ενημέρωση: 13 Ιουλίου, 2023

dot 1
Ένα αίτημα;

Έχω καταβάλει τόση προσπάθεια γράφοντας αυτήν την ανάρτηση ιστολογίου για να σας προσφέρω αξία. Θα είναι πολύ χρήσιμο για μένα, αν σκέφτεστε να το μοιραστείτε στα μέσα κοινωνικής δικτύωσης ή με τους φίλους/την οικογένειά σας. Η ΚΟΙΝΟΠΟΙΗΣΗ ΕΙΝΑΙ ♥️

Αφήστε ένα σχόλιο

Θέλετε να αποθηκεύσετε αυτό το άρθρο για αργότερα; Κάντε κλικ στην καρδιά στην κάτω δεξιά γωνία για αποθήκευση στο δικό σας πλαίσιο άρθρων!