AIC vs BIC: Sự khác biệt và So sánh

Trong khi giải quyết một nghiên cứu tình huống, một nhà nghiên cứu gặp phải nhiều yếu tố dự đoán, khả năng và tương tác. Điều đó làm cho nó phức tạp để chọn một mô hình. Với sự trợ giúp của các tiêu chí khác nhau để lựa chọn mô hình, họ có thể giải quyết những vấn đề đó và ước tính độ chính xác.

AIC và BIC là hai quy trình tiêu chí như vậy để đánh giá một mô hình. Chúng bao gồm các yếu tố quyết định chọn lọc để tổng hợp các biến được xem xét. Năm 2002, Burnham và Anderson đã thực hiện một nghiên cứu về cả hai tiêu chí. 

Các nội dung chính

1. AIC và BIC đều là các biện pháp được sử dụng để lựa chọn mô hình trong phân tích thống kê.
2. AIC là viết tắt của Tiêu chí thông tin Akaike và BIC là viết tắt của Tiêu chí thông tin Bayesian.
3. AIC xử phạt độ phức tạp của mô hình ít hơn BIC, điều đó có nghĩa là AIC có thể được ưu tiên cho các cỡ mẫu nhỏ hơn, trong khi BIC có thể được ưu tiên cho các cỡ mẫu lớn hơn.

AIC so với BIC

AIC đo lường chất lượng tương đối của một mô hình thống kê đối với một tập hợp dữ liệu nhất định. Nó dựa trên hàm khả năng và số lượng tham số trong mô hình. BIC là một mô hình tương tự dựa trên các nguyên tắc Bayes về phép đo độ phức tạp nhưng áp dụng hình phạt lớn hơn đối với các mô hình có nhiều tham số hơn.

AIC dẫn đến các đặc điểm phức tạp, trong khi BIC có nhiều kích thước hữu hạn hơn và các thuộc tính nhất quán. Cái trước tốt hơn cho những phát hiện tiêu cực và cái sau tốt hơn cho những phát hiện tích cực.

Bảng so sánh

AIC là gì?

Mô hình lần đầu tiên được công bố bởi nhà thống kê 'Hirotugu Akaike' vào năm 1971. Và bài báo chính thức đầu tiên được Akaike xuất bản vào năm 1974 và nhận được hơn 14,000 trích dẫn.

Tiêu chí thông tin Akaike (AIC) đánh giá một khoảng liên tục ngoài khoảng tương ứng giữa xác suất không xác định, chính xác và hợp lý của sự kiện.

Đó là mục đích xác suất tích hợp của mô hình. Vì vậy, AIC thấp hơn có nghĩa là một mô hình được ước tính giống với độ chính xác hơn. Đối với kết luận âm tính giả, nó rất hữu ích.

Để đạt được một mô hình thực sự đòi hỏi xác suất nhỏ hơn 1. Kích thước của AIC là vô hạn và có số lượng tương đối cao, do đó nó mang lại những kết quả khó đoán và phức tạp.

Nó phục vụ phạm vi bao phủ tối ưu nhất của các giả định. điều khoản hình phạt của nó là nhỏ hơn. Nhiều nhà nghiên cứu tin rằng nó có lợi với những rủi ro tối thiểu trong khi giả định. Bởi vì ở đây, n lớn hơn k².

Việc tính toán AIC được thực hiện theo công thức sau: 

• AIC = 2k – 2ln(L^)

BIC là gì?

Bayesian Information Criteria (BIC) là một đánh giá về mục đích của khả năng, tuân theo độ chính xác của mô hình, theo một cấu trúc Bayes cụ thể. Vì vậy, BIC thấp hơn có nghĩa là một mô hình được công nhận là tiếp tục được dự đoán là mô hình chính xác.

Lý thuyết được phát triển và xuất bản bởi Gideon E. Schwarz vào năm 1978. Ngoài ra, nó còn được gọi là Tiêu chí thông tin Schwarz, viết tắt là SIC, SBIC hoặc SBC. Để đạt được một mô hình đúng, nó yêu cầu xác suất chính xác là 1. Đối với các kết quả dương tính giả, nó rất hữu ích. 

Các điều khoản hình phạt là đáng kể. Kích thước của nó là hữu hạn mang lại kết quả nhất quán và dễ dàng. Các nhà khoa học nói rằng phạm vi bảo hiểm tối ưu của nó ít hơn AIC đối với các giả định. Điều đó thậm chí còn dẫn đến việc chấp nhận rủi ro tối đa. Bởi vì ở đây, n là xác định được.

Việc tính toán BIC được thực hiện theo công thức sau: 

• BIC = kln(n) – 2ln(L^)

'Tiêu chí cầu', BC, được phát triển bởi Jie Ding, Vahid Tarokh và Yuhong Yang. Tiêu chí đã được xuất bản vào ngày 20 tháng 2017 năm XNUMX trong Giao dịch của IEEE về Lý thuyết thông tin. Động cơ của nó là thu hẹp khoảng cách cơ bản giữa các mô-đun AIC và BIC.

Sự khác biệt chính giữa AIC và BIC

1. AIC được sử dụng trong lựa chọn mô hình cho kết quả âm tính giả, trong khi BIC dành cho kết quả dương tính giả.
2. Cái trước có chiều vô hạn và tương đối cao. Ngược lại, cái sau có hữu hạn.
3. Thời hạn hình phạt cho lần đầu tiên nhỏ hơn. Đồng thời, cái thứ hai là đáng kể.
4. Tiêu chí thông tin Akaike có kết quả phức tạp và không thể đoán trước. Ngược lại, tiêu chí thông tin Bayesian có kết quả dễ dàng với tính nhất quán.
5. AIC cung cấp các giả định lạc quan. Đồng thời, bảo hiểm BIC là những giả định ít tối ưu hơn.
6. Rủi ro được giảm thiểu trong AIC và tối đa trong BIC.
7. Lý thuyết Akaike yêu cầu xác suất nhỏ hơn 1 và Bayesian cần chính xác 1 để đạt được mô hình thực sự.

1. https://psycnet.apa.org/record/2012-03019-001 
2. https://journals.sagepub.com/doi/abs/10.1177/0049124103262065 
3. https://journals.sagepub.com/doi/abs/10.1177/0049124104268644 
4. https://www.sciencedirect.com/science/article/pii/S0165783605002870 

Bài viết này đã được viết bởi: Supriya Kandekar