C OMPARAÇÃO DO COMPORTAMENTO DO BIC EM ALGUNS MODELOS PROBABILÍSTICOS Diogo Taurinho Prado Orientadora: Denise Duarte

I NTRODUÇÃO BIC – Bayesian Information Criterion Seleção de modelos: verossimilhança penalizada Utilizado com estimação pontual: valor mínimo

I NTRODUÇÃO Função da amostra – variável aleatória Diferentes valores para amostras de um mesmo modelo Possível estimação intervalar

O BJETIVOS Estimação intervalar do BIC Analisar comportamento pra alguns modelos

M ETODOLOGIA BIC: verossimilhança penalizada pelos parâmetros estimados ponderados L = verossimilhança do modelo k = parâmetros estimados n = número de observações

M ETODOLOGIA Dados i modelos estimados, o BIC é utilizado como: Apenas um valor Variações amostrais não são consideradas

M ETODOLOGIA Comportamento do BIC para variações de acordo com amostras de um mesmo modelo Monte Carlo Várias amostras geradas de um modelo conhecido BIC calculado para vários modelos para cada amostra Variações de valores podem ser obtidas

M ETODOLOGIA Estimação intervalar para BIC Apenas uma amostra, nenhum modelo gerador conhecido Bootstrap Obtenção de novas amostras a partir da amostra inicial Intervalos com base na variação do valor do BIC para as novas amostras

M ETODOLOGIA Modelos Utilizados – BIC consistente Cadeias de Markov Família Exponencial

M ETODOLOGIA Cadeias de Markov Ordem fixa Diferentes combinações de ordens e número de estados Diferentes probabilidades de transição e tamanhos de amostra Família Exponencial Normal, Exponencial, Poisson, Binomial, (Weibull com parâmetro conhecido), Gamma

M ETODOLOGIA Para a geração dos resultados foram criadas [p/r/s] em R Os [p/r/s] deveriam atender todos os objetivos Três diferentes [p/r/s]

M ETODOLOGIA O primeiro [p/r/s] é um gerador de amostras de Cadeias de Markov Entradas: Matriz de transição Tamanho para a amostra (n) Estado inicial Número de amostras (n.sample) Saída n.sample amostras de tamanho n

M ETODOLOGIA O segundo é um estimador de modelos de Cadeias de Markov de ordem fixa Cálculo do BIC Utilização de bootstrap paramétrico para modelos estimados através do [p/r/s] gerador de amostras

M ETODOLOGIA Entradas: Vetor com a seqüência de interesse Ordem da cadeia a ser estimada ou ordens mínima e máxima para várias cadeias Realização de bootstrap Número de amostras para bootstrap Saídas Cadeias estimadas para as ordens especificadas BIC para cada um dos modelos estimados Valores de BIC obtidos por bootstrap para cada reamostra

M ETODOLOGIA Por fim, um [p/r/s] para o cálculo de BIC para família exponencial Entradas: Amostra Famílias de interesse Opção de bootstrap Saídas BIC para cada distribuição especificada Valores do BIC para cada reamostra

R ESULTADOS – C ADEIAS DE M ARKOV BIC calculado para quatro ordens diferentes Histogramas para comparação de resultados Modelo gerador conhecido

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 1, 2 estados, n=1000

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 1, 2 estados, n=10000

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 1, 2 estados, n=50000

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 1, 2 estados, n=1000

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 1, 2 estados, n=10000

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 1, 2 estados, n=50000

R ESULTADOS – C ADEIAS DE M ARKOV Há interseção nos valores obtidos do BIC Os intervalos indicam uma possível falta de precisão Os resultados próximos para probabilidades de transição próximas ou distantes de 0,5

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 2, 2 estados, n=1000

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 2, 2 estados, n=10000

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 2, 2 estados, n=50000

R ESULTADOS – C ADEIAS DE M ARKOV Novamente, há interseção entre os valores Isso ocorre apenas para ordens superiores à geradora Não há outras diferenças com o aumento da ordem do modelo

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 2, 3 estados, n=1000

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 2, 3 estados, n=10000

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 2, 3 estados, n=50000

R ESULTADOS – C ADEIAS DE M ARKOV Comportamento semelhante aos anteriores Valores máximos e mínimos diferentes dos anteriores

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 2, 3 estados

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 2, 2 estados

R ESULTADOS – C ADEIAS DE M ARKOV Ordem 1, 2 estados

R ESULTADOS – C ADEIAS DE M ARKOV Apesar da variação dos valores, a escolha é sempre a mesma A variação dos valores do BIC não parece ser independente Acertos e erros diretamente relacionados com o tamanho da amostra

R ESULTADOS – F AMÍLIA E XPONENCIAL Última dúvida

C ONSIDERAÇÕES F INAIS O BIC sofre variações para todas as amostras diferentes A escolha do modelo correto depende de uma amostra suficientemente grande Variações de valores entre diferentes modelos não são totalmente aleatórias

C ONSIDERAÇÕES F INAIS Para Cadeias de Markov, o modelo escolhido pelo BIC é sempre o mesmo Em geral, há maior facilidade em rejeitar os modelos mais simples do que os mais complexos Variação de valores de acordo com a amostra não interferem no modelo apontado pelo BIC