AIC vs BIC: Razlika i usporedba

Rješavajući studiju slučaja, istraživač se susreće s mnogim prediktorima, mogućnostima i interakcijama. Zbog toga je odabir modela kompliciran. Uz pomoć različitih kriterija za odabir modela mogu riješiti te probleme i procijeniti preciznost.

AIC i BIC dva su takva kriterijska procesa za ocjenjivanje modela. Sastoje se od selektivnih determinanti za agregaciju razmatranih varijabli. Godine 2002. Burnham i Anderson proveli su istraživanje o oba kriterija. 

Ključni za poneti

1. AIC i BIC su mjere koje se koriste za odabir modela u statističkoj analizi.
2. AIC je kratica za Akaike Information Criterion, a BIC je kratica za Bayesian Information Criterion.
3. AIC manje kažnjava složenost modela nego BIC, što znači da bi AIC mogao biti poželjniji za manje veličine uzorka, dok bi BIC mogao biti poželjniji za veće veličine uzorka.

AIC protiv BIC-a

AIC mjeri relativnu kvalitetu statističkog modela za određeni skup podataka. Temelji se na funkciji vjerojatnosti i broju parametara u modelu. BIC je sličan model koji se temelji na Bayesovim načelima o mjeri složenosti, ali stavlja veću kaznu na modele s više parametara.

AIC rezultira složenim svojstvima, dok BIC ima više konačnih dimenzija i dosljednijih atributa. Prvi je bolji za negativne nalaze, a drugi za pozitivne.

Tabela za usporedbu

Parametri usporedbe	AIC	BIC
Pune forme	Puni oblik AIC-a je Akaike informacijski kriterij.	Puni oblik BIC-a je Bayesov informacijski kriterij.
Definicija	Procjena kontinuiranog i odgovarajućeg intervala među neodređenim, točnim i opravdanim vjerojatnostima činjenica naziva se Akaike informacijski kriterij ili AIC.	Pod određenom Bayesovom strukturom, točna procjena svrhe mogućnosti koja slijedi model naziva se Bayesovim informacijskim kriterijem ili BIC.
Formula	Za izračun Akaike informacijskog kriterija, formula je: AIC = 2k – 2ln(L^)	Za izračun Bayesovog informacijskog kriterija, formula je: BIC = k ln(n) – 2ln(L^)
Odabir modela	Za lažno negativne rezultate, AIC je odabran u modelu.	Za lažno pozitivne rezultate, BIC je odabran u modelu.
Dimenzija	Dimenzija AIC-a je beskonačna i relativno visoka.	Dimenzija BIC-a je konačna i manja je od AIC-a.
Kazneni rok	Ovdje su kazne manje.	Ovdje su kazne veće.
Vjerojatnost	Za odabir pravog modela u AIC-u, vjerojatnost bi trebala biti manja od 1.	Za odabir pravog modela u BIC-u, vjerojatnost bi trebala biti točno 1.
Rezultati	Ovdje su rezultati nepredvidljiviji i kompliciraniji od BIC-a.	Ovdje su rezultati dosljedni i lakši od AIC-a.
Pretpostavke	Uz pomoć pretpostavki, AIC može izračunati najoptimalnije pokriće.	Uz pomoć pretpostavki, BIC može izračunati manje optimalno pokriće od tog AIC-a.
Rizici	Rizik je minimiziran s AIC-om, kao n mnogo je veći od k2.	Rizik je maksimiziran uz BIC, as n je konačan.

Što je AIC?

Model je prvi najavio statističar 'Hirotugu Akaike' 1971. A prvi službeni rad objavio je Akaike 1974. i dobio je više od 14,000 citata.

Akaike informacijski kriteriji (AIC) ocjenjuju kontinuirani pored odgovarajućeg intervala između neodređene, točne i opravdane vjerojatnosti činjenica.

To je svrha modela integrirane vjerojatnosti. Tako da niži AIC znači da se procjenjuje da je model sličniji točnosti. Za lažno negativne zaključke, to je korisno.

Za postizanje pravog modela potrebna je vjerojatnost manja od 1. Dimenzija AIC-a je beskonačna i relativno brojna, zbog čega daje nepredvidive i komplicirane rezultate.

Služi najoptimalnijem pokrivanju pretpostavki. Njegove kazne su manje. Mnogi istraživači vjeruju da koristi uz minimalne rizike dok pretpostavljaju. jer ovdje, n je veći od k².

Izračun AIC-a vrši se sljedećom formulom: 

• AIC = 2k – 2ln(L^)

Što je BIC?

Bayesov informacijski kriterij (BIC) je procjena svrhe mogućnosti, prateći točnost modela, pod određenom Bayesovom strukturom. Dakle, niži BIC znači da se model priznaje da će se dalje predviđati kao precizan model.

Teoriju je razvio i objavio Gideon E. Schwarz 1978. Također, poznata je i kao Schwarz Information Criterion, skraćeno SIC, SBIC ili SBC. Za postizanje pravog modela potrebna je vjerojatnost od točno 1. Za lažno pozitivne rezultate to je od pomoći. 

Kaznene kazne su znatne. Njegova je dimenzija konačna što daje dosljedne i jednostavne rezultate. Znanstvenici kažu da je njegova optimalna pokrivenost manja od AIC za pretpostavke. To čak dovodi do maksimalnog preuzimanja rizika. jer ovdje, n je odrediv.

Izračun BIC-a vrši se sljedećom formulom: 

• BIC = k ln(n) – 2ln(L^)

'Kriterij mosta', BC, razvili su Jie Ding, Vahid Tarokh i Yuhong Yang. Kriterij je objavljen 20. lipnja 2017. u IEEE Transactions on Information Theory. Njegov je motiv bio premostiti temeljni jaz između AIC i BIC modula.

Glavne razlike između AIC i BIC

1. AIC se koristi u odabiru modela za lažno negativne rezultate, dok je BIC za lažno pozitivne.
2. Prvi ima beskonačnu i relativno visoku dimenziju. Naprotiv, potonji ima konačan.
3. Kazna za prvo je manja. U isto vrijeme, drugi je značajan.
4. Akaike informacijski kriteriji imaju komplicirane i nepredvidive rezultate. Suprotno tome, Bayesov informacijski kriterij daje jednostavne rezultate s dosljednošću.
5. AIC daje optimistične pretpostavke. U isto vrijeme, BIC pokrića su manje optimalne pretpostavke.
6. Rizik je minimiziran u AIC-u, a maksimalan u BIC-u.
7. Akaikeova teorija zahtijeva vjerojatnost manju od 1, a Bayesian treba točno 1 da dođe do pravog modela.

Reference

1. https://psycnet.apa.org/record/2012-03019-001 
2. https://journals.sagepub.com/doi/abs/10.1177/0049124103262065 
3. https://journals.sagepub.com/doi/abs/10.1177/0049124104268644 
4. https://www.sciencedirect.com/science/article/pii/S0165783605002870 

Ovaj članak je napisala: Supriya Kandekar

Zadnje ažuriranje: 11. lipnja 2023