Διαφορές μεταξύ OLS και MLE Διαφορά μεταξύ

Anonim

OLS vs MLE

Προσπαθούμε συχνά να εξαφανίσουμε όταν το θέμα αφορά στατιστικά στοιχεία. Για ορισμένους, η αντιμετώπιση των στατιστικών είναι σαν μια τρομακτική εμπειρία. Μισούμε τους αριθμούς, τις γραμμές και τα γραφήματα. Παρ 'όλα αυτά, πρέπει να αντιμετωπίσουμε αυτό το μεγάλο εμπόδιο για να ολοκληρώσουμε τη σχολική φοίτηση. Εάν όχι, το μέλλον σας θα είναι σκοτεινό. Δεν υπάρχει ελπίδα και κανένα φως. Για να μπορέσουμε να περάσουμε στατιστικά στοιχεία, συναντάμε συχνά το OLS και το MLE. Το "OLS" σημαίνει "τα συνήθη ελάχιστα τετράγωνα" ενώ το "MLE" σημαίνει "εκτίμηση μέγιστης πιθανότητας. "Συνήθως, αυτοί οι δύο στατιστικοί όροι σχετίζονται μεταξύ τους. Ας μάθουμε για τις διαφορές μεταξύ των συνήθων ελάχιστων τετραγώνων και των εκτιμήσεων μέγιστης πιθανότητας.

Τα συνήθη ελάχιστα τετράγωνα, ή OLS, μπορούν επίσης να ονομαστούν γραμμικά ελάχιστα τετράγωνα. Αυτή είναι μια μέθοδος για τον προσδιορισμό περίπου των άγνωστων παραμέτρων που βρίσκονται σε ένα μοντέλο γραμμικής παλινδρόμησης. Σύμφωνα με τα στατιστικά βιβλία και άλλες διαδικτυακές πηγές, τα συνήθη ελάχιστα τετράγωνα αποκτώνται ελαχιστοποιώντας το σύνολο των τετραγωνικών κατακόρυφων αποστάσεων μεταξύ των παρατηρούμενων αποκρίσεων εντός του συνόλου δεδομένων και των αποκρίσεων που προβλέπονται από τη γραμμική προσέγγιση. Μέσω μιας απλής φόρμουλας, μπορείτε να εκφράσετε τον εκτιμητή που προκύπτει, ειδικά τον μοναδικό regressor, που βρίσκεται στη δεξιά πλευρά του μοντέλου γραμμικής παλινδρόμησης.

Για παράδειγμα, έχετε ένα σύνολο εξισώσεων που αποτελείται από πολλές εξισώσεις που έχουν άγνωστες παραμέτρους. Μπορείτε να χρησιμοποιήσετε τη συνήθη μέθοδο ελαχίστων τετραγώνων επειδή αυτή είναι η πιο συνηθισμένη προσέγγιση για την εξεύρεση της κατά προσέγγιση λύσης στα υπερβολικά προσδιορισμένα σας συστήματα. Με άλλα λόγια, είναι η γενική λύση σας στην ελαχιστοποίηση του αθροίσματος των τετραγώνων των σφαλμάτων στην εξίσωση σας. Η τοποθέτηση δεδομένων μπορεί να είναι η πιο κατάλληλη εφαρμογή σας. Οι πηγές στο διαδίκτυο έχουν δηλώσει ότι τα δεδομένα που ταιριάζουν καλύτερα με τα συνηθισμένα ελάχιστα τετράγωνα ελαχιστοποιούν το άθροισμα τετραγωνικών υπολειμμάτων. "Υπολειπόμενο" είναι "η διαφορά μεταξύ μιας παρατηρούμενης τιμής και της προσαρμοσμένης τιμής που παρέχεται από ένα μοντέλο. "

Η εκτίμηση μέγιστης πιθανότητας, ή MLE, είναι μια μέθοδος που χρησιμοποιείται για την εκτίμηση των παραμέτρων ενός στατιστικού μοντέλου και για την τοποθέτηση ενός στατιστικού μοντέλου στα δεδομένα. Εάν θέλετε να βρείτε τη μέτρηση ύψους κάθε παίκτη μπάσκετ σε μια συγκεκριμένη τοποθεσία, μπορείτε να χρησιμοποιήσετε την εκτίμηση μέγιστης πιθανότητας. Κανονικά, θα αντιμετωπίσετε προβλήματα όπως οι χρεώσεις κόστους και χρόνου. Αν δεν μπορούσατε να μετρήσετε όλα τα ύψη των καλαθοσφαιριστών, η μέγιστη εκτίμηση πιθανότητας θα ήταν πολύ βολική. Χρησιμοποιώντας την εκτίμηση μέγιστης πιθανότητας, μπορείτε να υπολογίσετε τον μέσο όρο και τη διακύμανση του ύψους των υποκειμένων σας. Το MLE θα ορίζει το μέσο και τη διακύμανση ως παράμετροι για τον προσδιορισμό των συγκεκριμένων παραμετρικών τιμών σε ένα δεδομένο μοντέλο.

Για να το συνοψίσουμε, η μέγιστη εκτίμηση πιθανότητας καλύπτει ένα σύνολο παραμέτρων που μπορούν να χρησιμοποιηθούν για την πρόβλεψη των δεδομένων που απαιτούνται σε μια κανονική κατανομή. Ένα δεδομένο σταθερό σύνολο δεδομένων και το πρότυπο πιθανότητας θα παράγουν πιθανώς τα προβλεπόμενα δεδομένα. Το MLE θα μας δώσει μια ενιαία προσέγγιση όταν πρόκειται για την εκτίμηση. Αλλά σε ορισμένες περιπτώσεις, δεν μπορούμε να χρησιμοποιήσουμε τη μέγιστη πιθανότητα εκτίμησης λόγω αναγνωρισμένων σφαλμάτων ή το πρόβλημα στην πραγματικότητα δεν υπάρχει καν στην πραγματικότητα.

Για περισσότερες πληροφορίες σχετικά με τα OLS και MLE, μπορείτε να ανατρέξετε σε στατιστικά βιβλία για περισσότερα παραδείγματα. Online εγκυκλοπαίδεια Οι ιστοσελίδες αποτελούν επίσης καλές πηγές πρόσθετων πληροφοριών.

Περίληψη:

  1. Το "OLS" σημαίνει "τα συνήθη ελάχιστα τετράγωνα" ενώ το "MLE" σημαίνει "εκτίμηση μέγιστης πιθανότητας. "

  2. Τα συνηθισμένα ελάχιστα τετράγωνα, ή OLS, μπορούν επίσης να ονομαστούν γραμμικά ελάχιστα τετράγωνα. Αυτή είναι μια μέθοδος για τον προσδιορισμό περίπου των άγνωστων παραμέτρων που βρίσκονται σε ένα μοντέλο γραμμικής παλινδρόμησης.

  3. Η εκτίμηση μέγιστης πιθανότητας, ή MLE, είναι μια μέθοδος που χρησιμοποιείται για την εκτίμηση των παραμέτρων ενός στατιστικού μοντέλου και για την τοποθέτηση ενός στατιστικού μοντέλου στα δεδομένα.