AIC vs BIC: Rozdíl a srovnání

Při řešení případové studie se výzkumník setkává s mnoha prediktory, možnostmi a interakcemi. To ztěžuje výběr modelu. S pomocí různých kritérií pro výběr modelu mohou tyto problémy vyřešit a odhadnout přesnost.

AIC a BIC jsou dva takové procesy kritérií pro hodnocení modelu. Skládají se ze selektivních determinantů pro agregaci uvažovaných proměnných. V roce 2002 provedli Burnham a Anderson výzkumnou studii obou kritérií. 

Key Takeaways

1. AIC a BIC jsou obě míry používané pro výběr modelu ve statistické analýze.
2. AIC znamená Akaike Information Criterion a BIC znamená Bayesian Information Criterion.
3. AIC penalizuje složitost modelu méně než BIC, což znamená, že AIC může být preferováno pro menší velikosti vzorků, zatímco BIC může být preferováno pro větší velikosti vzorků.

AIC vs BIC

AIC měří relativní kvalitu statistického modelu pro daný soubor dat. Je založen na věrohodnostní funkci a počtu parametrů v modelu. BIC je podobný model založený na Bayesovských principech na měření složitosti, ale klade větší postih na modely s více parametry.

Výsledkem AIC jsou komplexní vlastnosti, zatímco BIC má omezenější rozměry a konzistentní atributy. První je lepší pro negativní zjištění a druhý pro pozitivní.

Srovnávací tabulka

Parametry srovnání	AIC	BIC
Úplné formuláře	Úplná forma AIC je Akaike Information Criteria.	Úplná forma BIC je Bayesian Information Criteria.
Definice	Hodnocení kontinuálního a odpovídajícího intervalu mezi neurčenou, přesnou a oprávněnou pravděpodobností skutečností se nazývá Akaike Information Criteria neboli AIC.	V rámci konkrétní Bayesovské struktury se přesné vyhodnocení účelu možnosti podle modelu nazývá Bayesovská informační kritéria nebo BIC.
Vzorec	Pro výpočet informačního kritéria Akaike je vzorec: AIC = 2k – 2ln(L^)	Pro výpočet bayesovského informačního kritéria je vzorec: BIC = k ln(n) – 2 ln(L^)
Výběr Modelu	Pro falešně negativní výsledky se v modelu volí AIC.	Pro falešně pozitivní výsledky se v modelu volí BIC.
Dimenze	Dimenze AIC je nekonečná a relativně vysoká.	Dimenze BIC je konečná a je nižší než dimenze AIC.
Doba trestu	Trestní lhůty jsou zde menší.	Trestní podmínky jsou zde větší.
Pravděpodobnost	Chcete-li vybrat skutečný model v AIC, pravděpodobnost by měla být menší než 1.	Chcete-li vybrat skutečný model v BIC, pravděpodobnost by měla být přesně 1.
výsledky	Zde jsou výsledky nepředvídatelnější a komplikovanější než BIC.	Zde jsou výsledky konzistentní a jednodušší než AIC.
Předpoklady	S pomocí předpokladů může AIC vypočítat nejoptimálnější pokrytí.	S pomocí předpokladů může BIC vypočítat méně optimální pokrytí než tento AIC.
rizika	Riziko je minimalizováno s AIC, as n je mnohem větší než k2.	S BIC, as je riziko maximalizováno n je konečný.

Co je AIC?

Tento model byl poprvé oznámen statistikem 'Hirotugu Akaike' v roce 1971. A první formální článek byl publikován Akaike v roce 1974 a získal více než 14,000 XNUMX citací.

Akaike Information Criteria (AIC) hodnotí kontinuální kromě odpovídajícího intervalu mezi neurčitou, přesnou a oprávněnou pravděpodobností faktů.

Je to integrovaný pravděpodobnostní účel modelu. Takže nižší AIC znamená, že se odhaduje, že model je více podobný přesnosti. Pro falešně negativní závěry je to užitečné.

Dosažení skutečného modelu vyžaduje pravděpodobnost menší než 1. Dimenze AIC je nekonečná a relativně vysoká, díky čemuž poskytuje nepředvídatelné a komplikované výsledky.

Slouží k nejoptimálnějšímu pokrytí předpokladů. Jeho sankční podmínky jsou menší. Mnoho výzkumníků věří, že to přináší výhody s minimálními riziky a zároveň předpokládá. Protože tady, n je větší než k².

Výpočet AIC se provádí podle následujícího vzorce: 

• AIC = 2k – 2ln(L^)

Co je BIC?

Bayesian Information Criteria (BIC) je hodnocení účelu možnosti podle přesnosti modelu v rámci konkrétní Bayesovské struktury. Nižší BIC tedy znamená, že model je dále považován za přesný model.

Teorii vyvinul a publikoval Gideon E. Schwarz v roce 1978. Také je známá jako Schwarz Information Criterion, krátce SIC, SBIC nebo SBC. K dosažení skutečného modelu to vyžaduje pravděpodobnost přesně 1. Pro falešně pozitivní výsledky je to užitečné. 

Trestní podmínky jsou značné. Jeho rozměr je konečný, což poskytuje konzistentní a snadné výsledky. Vědci tvrdí, že jeho optimální pokrytí je pro předpoklady menší než AIC. To dokonce vede k maximálnímu riskování. Protože tady, n je definovatelné.

Výpočet BIC se provádí podle následujícího vzorce: 

• BIC = k ln(n) – 2 ln(L^)

„Bridge Criterion“, BC, vyvinuli Jie Ding, Vahid Tarokh a Yuhong. Yang. Kritérium bylo zveřejněno 20. června 2017 v IEEE Transactions on Information Theory. Jeho motivem bylo překlenout zásadní propast mezi moduly AIC a BIC.

Hlavní rozdíly mezi AIC a BIC

1. AIC se používá při výběru modelu pro falešně negativní výsledky, zatímco BIC je pro falešně pozitivní.
2. První jmenovaný má nekonečný a relativně vysoký rozměr. Naopak, ten druhý má konečný.
3. Trestní lhůta pro první je menší. Ten druhý je přitom podstatný.
4. Informační kritéria Akaike mají komplikované a nepředvídatelné výsledky. Naopak Bayesovské informační kritérium má snadné výsledky s konzistentností.
5. AIC poskytuje optimistické předpoklady. Zároveň jsou pokrytí BIC méně optimálními předpoklady.
6. Riziko je minimalizováno v AIC a je maximální v BIC.
7. Teorie Akaike vyžaduje pravděpodobnost menší než 1 a Bayesian potřebuje přesně 1, aby dosáhl skutečného modelu.

Reference

1. https://psycnet.apa.org/record/2012-03019-001 
2. https://journals.sagepub.com/doi/abs/10.1177/0049124103262065 
3. https://journals.sagepub.com/doi/abs/10.1177/0049124104268644 
4. https://www.sciencedirect.com/science/article/pii/S0165783605002870 

Tento článek napsal: Supriya Kandekar

Poslední aktualizace: 11. června 2023