AIC vs BIC: Diferença e Comparação

Ao resolver um estudo de caso, um pesquisador encontra muitos preditores, possibilidades e interações. Isso torna complicado selecionar um modelo. Com a ajuda de diferentes critérios de seleção de modelos, eles podem resolver esses problemas e estimar a precisão.

O AIC e o BIC são os dois processos de critérios para avaliar um modelo. Eles consistem em determinantes seletivos para a agregação das variáveis ​​consideradas. Em 2002, Burnham e Anderson fizeram uma pesquisa sobre ambos os critérios. 

Principais lições

1. AIC e BIC são medidas usadas para seleção de modelo em análise estatística.
2. AIC significa Akaike Information Criterion e BIC significa Bayesian Information Criterion.
3. O AIC penaliza menos a complexidade do modelo do que o BIC, o que significa que o AIC pode ser preferido para tamanhos de amostra menores, enquanto o BIC pode ser preferido para tamanhos de amostra maiores.

AIC x BIC

AIC mede a qualidade relativa de um modelo estatístico para um determinado conjunto de dados. Baseia-se na função de verossimilhança e no número de parâmetros do modelo. O BIC é um modelo semelhante baseado nos princípios bayesianos de medida de complexidade, mas coloca uma penalidade maior em modelos com mais parâmetros.

O AIC resulta em traços complexos, enquanto o BIC tem dimensões mais finitas e atributos consistentes. O primeiro é melhor para resultados negativos e o segundo para resultados positivos.

Tabela de comparação

Parâmetros de comparação	AIC	BIC
Todas as formas	A forma completa do AIC é o Akaike Information Criteria.	A forma completa do BIC é o Bayesian Information Criteria.
Definição	Uma avaliação de um intervalo contínuo e correspondente entre a probabilidade indeterminada, precisa e justificada dos fatos é chamada de Critério de Informação de Akaike ou AIC.	Sob uma estrutura bayesiana particular, uma avaliação precisa do propósito da possibilidade seguindo o modelo é chamada de Bayesian Information Criteria ou BIC.
Fórmula	Para calcular o critério de informação de Akaike, a fórmula é: AIC = 2k – 2ln(L^)	Para calcular o critério de informação bayesiano, a fórmula é: BIC = k ln(n) – 2ln(L^)
Seleção de modelo	Para resultados falso-negativos, o AIC é eleito no modelo.	Para resultados falso-positivos, o BIC é eleito no modelo.
Dimensão	A dimensão do AIC é infinita e relativamente alta.	A dimensão do BIC é finita e menor que a do AIC.
Termo de Penalidade	Os termos de penalidade são menores aqui.	Os termos de penalidade são maiores aqui.
Probabilidade	Para selecionar o modelo verdadeiro no AIC, a probabilidade deve ser menor que 1.	Para selecionar o modelo verdadeiro no BIC, a probabilidade deve ser exatamente igual a 1.
Resultados	Aqui, os resultados são mais imprevisíveis e mais complicados do que o BIC.	Aqui, os resultados são consistentes e mais fáceis do que AIC.
Pressupostos	Com a ajuda de suposições, o AIC pode calcular a cobertura ideal.	Com a ajuda de suposições, o BIC pode calcular uma cobertura menos ideal do que o AIC.
Riscos	O risco é minimizado com AIC, pois n é muito maior que k2.	O risco é maximizado com o BIC, pois n é finito.

O que é AIC?

O modelo foi anunciado pela primeira vez pelo estatístico 'Hirotugu Akaike' em 1971. E o primeiro artigo formal foi publicado por Akaike em 1974 e recebeu mais de 14,000 citações.

O Akaike Information Criteria (AIC) avalia um contínuo além do intervalo correspondente entre a probabilidade indeterminada, precisa e justificada dos fatos.

É o propósito de probabilidade integrada do modelo. Portanto, um AIC mais baixo significa que um modelo é estimado como mais semelhante à precisão. Para conclusões falso-negativas, é útil.

Alcançar um modelo verdadeiro requer uma probabilidade menor que 1. A dimensão do AIC é infinita e relativamente alta em número, por isso fornece resultados imprevisíveis e complicados.

Ele serve a melhor cobertura de suposições. Seus termos de penalidade são menores. Muitos pesquisadores acreditam que se beneficia com os riscos mínimos ao presumir. Porque aqui, n é maior que k².

O cálculo do AIC é feito com a seguinte fórmula: 

• AIC = 2k – 2ln(L^)

O que é BIC?

Bayesian Information Criteria (BIC) é uma avaliação do propósito da possibilidade, seguindo a precisão do modelo, sob uma determinada estrutura bayesiana. Portanto, um BIC mais baixo significa que um modelo é reconhecido como sendo antecipado como o modelo preciso.

A teoria foi desenvolvida e publicada por Gideon E. Schwarz em 1978. Também é conhecida como Schwarz Information Criterion, abreviadamente SIC, SBIC ou SBC. Para chegar a um modelo verdadeiro, é necessária uma probabilidade de exatamente 1. Para resultados falso-positivos, é útil. 

Os termos da penalidade são substanciais. Sua dimensão é finita que dá resultados consistentes e fáceis. Os cientistas dizem que sua cobertura ideal é menor que a AIC para suposições. Isso até leva à máxima assunção de riscos. Porque aqui, n é definível.

O cálculo do BIC é feito com a seguinte fórmula: 

• BIC = kln(n) – 2ln(L^)

O 'Bridge Criterion', BC, foi desenvolvido por Jie Ding, Vahid Tarokh e Yuhong Yang. O critério foi publicado em 20 de junho de 2017 em IEEE Transactions on Information Theory. Seu motivo era preencher a lacuna fundamental entre os módulos AIC e BIC.

Principais diferenças entre AIC e BIC

1. O AIC é usado na seleção de modelos para resultados falso-negativos, enquanto o BIC é para falso-positivo.
2. O primeiro tem uma dimensão infinita e relativamente alta. Pelo contrário, o último tem finito.
3. O prazo de penalidade para o primeiro é menor. Ao mesmo tempo, o segundo é substancial.
4. Os critérios de informação de Akaike têm resultados complicados e imprevisíveis. Por outro lado, o critério de informação Bayesiano tem resultados fáceis com consistência.
5. AIC fornece suposições otimistas. Ao mesmo tempo, as coberturas BIC são suposições menos ótimas.
6. O risco é minimizado no AIC e é máximo no BIC.
7. A teoria de Akaike requer uma probabilidade menor que 1, e a bayesiana precisa de exatamente 1 para alcançar o modelo verdadeiro.

Referências

1. https://psycnet.apa.org/record/2012-03019-001 
2. https://journals.sagepub.com/doi/abs/10.1177/0049124103262065 
3. https://journals.sagepub.com/doi/abs/10.1177/0049124104268644 
4. https://www.sciencedirect.com/science/article/pii/S0165783605002870 

Este artigo foi escrito por: Supriya Kandekar

Última atualização: 11 de junho de 2023