Trong thống kê, có một số khái niệm giúp chúng ta đạt được một kết quả cụ thể. Dữ liệu thống kê có thể thay đổi từ nội dung này sang nội dung khác và số lượng này sang số lượng khác.
Thống kê là một loại nhánh giúp chúng ta có được ý tưởng sơ bộ về một sự kiện đang diễn ra. Nó giúp chúng tôi dự đoán kết quả và từ đó đưa ra quyết định tương tự.
Phân tích thống kê được thực hiện trên cơ sở các dữ liệu khác nhau được thu thập trong hoặc sau một sự kiện nhất định. Tuy nhiên, các loại dữ liệu khác nhau được phân tích bằng cách sử dụng các loại khái niệm khác nhau.
Hai trong số các khái niệm đó là 1. OLS hoặc bình phương nhỏ nhất thông thường và 2. MLE hoặc ước lượng khả năng tối đa.
Chìa khóa chính
- Bình phương nhỏ nhất thông thường (OLS) là một phương pháp thống kê để ước tính các mô hình hồi quy tuyến tính bằng cách giảm thiểu tổng các lỗi bình phương.
- Ước tính khả năng tối đa (MLE) là một kỹ thuật thống kê ước tính các tham số bằng cách tối đa hóa hàm khả năng.
- OLS dành riêng cho hồi quy tuyến tính, trong khi MLE có thể được áp dụng cho các mô hình thống kê khác nhau.
OLS so với MLE
OLS ước tính các tham số làm giảm thiểu tổng của phần dư bình phương, trong khi MLE ước tính các tham số tối đa hóa khả năng xảy ra của dữ liệu được quan sát. OLS là một phương pháp đơn giản và trực quan hơn, trong khi MLE có thể xử lý các mô hình phức tạp hơn và hiệu quả hơn trong các mẫu nhỏ.
Phương pháp được sử dụng để tính toán và ước tính các tham số chưa biết có trong một tuyến tính nhất định hồi quy mô hình bình phương nhỏ nhất thông thường (OLS). Đó là một phương pháp trong đó số lỗi được phân bổ đều.
Đây là một trong những kỹ thuật nhất quán nhất khi các biến hồi quy trong mô hình bắt nguồn từ bên ngoài.
Phương pháp trong thống kê được sử dụng để ước tính một số tham số khi phân phối xác suất được giả định của dữ liệu thống kê được quan sát được gọi là ước tính khả năng tối đa (MLE).
Ước tính khả năng tối đa là điểm trong không gian tham số tối đa hóa hàm khả năng.
Bảng so sánh
| Các thông số so sánh | O.L.S. | MLE |
|---|---|---|
| Thông tin đầy đủ | Bình phương nhỏ nhất. | Ước lượng khả năng tối đa. |
| Còn được biết là | Bình phương nhỏ nhất tuyến tính | Không có tên nào khác |
| Được dùng cho | Phương pháp bình phương nhỏ nhất thông thường được sử dụng để xác định các tham số chưa biết khác nhau có trong mô hình hồi quy tuyến tính. | Ước lượng khả năng lớn nhất là phương pháp được sử dụng cho 1. Ước lượng tham số 2. Khớp mô hình thống kê với dữ liệu thống kê. |
| Phát hiện | Adrien Marie Legendre | Khái niệm này được bắt nguồn chung với sự giúp đỡ của những đóng góp được thực hiện bởi Gauss, Hagen và Edgeworth. |
| nhược điểm | Nó không có sẵn và áp dụng cho dữ liệu thống kê được kiểm duyệt. Nó không thể được áp dụng cho dữ liệu có giá trị cực lớn hoặc giá trị cực nhỏ. Có tương đối ít thuộc tính tối ưu hơn trong khái niệm này. | Trong quá trình tính toán dữ liệu thống kê có giá trị cực kỳ nhỏ hơn, phương pháp ước tính khả năng tối đa có thể khá sai lệch, Trong một số trường hợp, người ta có thể cần giải các phương trình khả năng một cách cụ thể, Đôi khi ước tính của các giá trị số có thể không tầm thường. |
OLS là gì?
Phương pháp được sử dụng để tính toán và ước tính các tham số chưa biết có trong một mô hình hồi quy tuyến tính nhất định được gọi là bình phương nhỏ nhất thông thường (OLS). Adrien Marie Legendre đã khám phá ra khái niệm này trong thế giới thống kê.
Các khuôn khổ áp dụng bình phương nhỏ nhất thông thường có thể khác nhau.
Người ta phải chọn một khung phù hợp trong đó các bình phương nhỏ nhất thông thường có thể được sử dụng trong một mô hình hồi quy tuyến tính cụ thể để tìm ra các tham số chưa biết nằm trong cùng một mô hình.
Một trong những khía cạnh của khái niệm vi phân này là liệu có nên coi các biến hồi quy là biến ngẫu nhiên hay là hằng số với các giá trị được xác định trước.
Nếu các biến hồi quy được coi là biến ngẫu nhiên, thì nghiên cứu có thể mang tính bẩm sinh hơn và các biến có thể là mẫu cùng nhau cho một tập thể nghiên cứu quan sát. Điều này dẫn đến một số kết quả tương đối chính xác hơn.
Tuy nhiên, nếu các biến hồi quy được coi là hằng số với các giá trị được xác định trước, thì nghiên cứu được coi là tương đối giống một thử nghiệm hơn.
Có tồn tại một mô hình hồi quy tuyến tính cổ điển khác trong đó nhấn mạnh vào dữ liệu mẫu là hữu hạn. Điều này dẫn đến một kết luận rằng các giá trị trong dữ liệu bị giới hạn và cố định, và việc ước tính dữ liệu được thực hiện trên cơ sở dữ liệu cố định.
Xa hơn suy luận thống kê cũng được tính toán theo một phương pháp tương đối dễ dàng hơn.
MLE là gì?
Phương pháp trong thống kê được sử dụng để ước tính một số tham số khi phân phối xác suất được giả định của dữ liệu thống kê được quan sát được gọi là ước tính khả năng tối đa (MLE).
Nó có các thuộc tính tương đối tối ưu hơn so với nhiều khái niệm khác được sử dụng để tính toán các tham số chưa biết trong các mô hình thống kê khác nhau.
Ước lượng ban đầu được thực hiện trên cơ sở hàm khả năng cơ bản của dữ liệu mẫu thống kê.
Dự đoán sơ bộ dữ liệu được thực hiện giống như tập dữ liệu và khả năng của nó cũng là xác suất thu được tập dữ liệu tương tự cho mô hình thống kê xác suất đã cho.
Toàn bộ dự đoán sơ bộ của tập hợp dữ liệu bao gồm nhiều tham số chưa biết khác nhau nằm trên mô hình xác suất. Các giá trị này hoặc các tham số chưa biết này tối đa hóa khả năng của tập hợp dữ liệu.
Các giá trị này được gọi là ước tính khả năng tối đa. Tồn tại một số hàm khả năng cũng hữu ích cho các bản phân phối được sử dụng phổ biến trong phân tích độ tin cậy.
Đã tồn tại các mô hình được kiểm duyệt theo đó dữ liệu được kiểm duyệt trong phân tích độ tin cậy được tính toán và khái niệm ước tính khả năng tối đa có thể được sử dụng để thực hiện điều tương tự.
Các tham số khác nhau có thể được ước tính bằng cách sử dụng khái niệm này vì nó đưa ra một cách tiếp cận tương đối nhất quán hơn đối với nó.
Một số bộ giả thuyết có thể được tạo cho các tham số trong dữ liệu bằng cách sử dụng khái niệm này. Nó xấp xỉ chứa cả phân phối bình thường cũng như phương sai mẫu.
Sự khác biệt chính giữa OLS và MLE
- Phương pháp OLS là phương pháp bình phương nhỏ nhất thông thường. Mặt khác, phương pháp MLE là ước tính khả năng tối đa.
- Phương pháp bình phương tuyến tính thông thường còn được gọi là phương pháp bình phương nhỏ nhất tuyến tính. Mặt khác, phương pháp khả năng tối đa không có tên nào khác mà nó được biết đến.
- Phương pháp bình phương nhỏ nhất thông thường có ít thuộc tính tối ưu hơn. Mặt khác, ước tính khả năng tối đa có các thuộc tính tương đối tối ưu hơn.
- Phương pháp bình phương nhỏ nhất thông thường không thể được sử dụng cho dữ liệu đã được kiểm duyệt. Mặt khác, phương pháp ước tính khả năng tối đa có thể được sử dụng cho dữ liệu được kiểm duyệt.
- Phương pháp bình phương nhỏ nhất thông thường được sử dụng để xác định các tham số chưa biết khác nhau có trong mô hình hồi quy tuyến tính. Mặt khác, ước lượng khả năng lớn nhất là phương pháp được sử dụng cho 1. Ước lượng tham số 2. Gắn mô hình thống kê vào dữ liệu thống kê.
- https://methods.sagepub.com/base/download/BookChapter/the-multivariate-social-scientist/d49.xml
- https://rss.onlinelibrary.wiley.com/doi/abs/10.1111/j.2517-6161.1961.tb00430.x
Cập nhật lần cuối: ngày 13 tháng 2023 năm XNUMX
Tôi đã nỗ lực rất nhiều để viết bài đăng trên blog này nhằm cung cấp giá trị cho bạn. Nó sẽ rất hữu ích cho tôi, nếu bạn cân nhắc chia sẻ nó trên mạng xã hội hoặc với bạn bè/gia đình của bạn. CHIA SẺ LÀ ♥️
Emma Smith có bằng Thạc sĩ tiếng Anh của Cao đẳng Irvine Valley. Cô là Nhà báo từ năm 2002, viết các bài về tiếng Anh, Thể thao và Pháp luật. Đọc thêm về tôi trên cô ấy trang sinh học.
