Métodos e fórmulas para stepwise em Ajuste do modelo de regressão

Selecione o método ou a fórmula de sua escolha.

Método stepwise

Realiza seleção variável, adicionando ou excluindo preditores do modelo existente com base no teste-F. Stepwise é uma combinação de seleção avançada e procedimentos de eliminação regressiva. A seleção stepwise não procede se o modelo inicial usa todos os graus de liberdade.

Variáveis a serem removidas

O Minitab calcula uma estatística F e um valor-p para cada variável no modelo. Se o modelo contiver j variáveis, então F para qualquer variável, xr , está nesta fórmula:

Notação

TermoDescrição
SSE(jXr ) O Erro SS para o modelo que não contenha xr
SSE j O Erro SS para o modelo que contenha xr
MSE j O MS Erro para o modelo que contenha xr

Se o valor-p para cada variável for maior do que o valor especificado em Alfa para remoção, o Minitab remove a variável com o maior valor-p do modelo, calcula a equação de regressão, exibe os resultados e inicia a próxima etapa.

Variáveis a serem adicionadas

Se o Minitab não puder remover uma variável, o procedimento tenta adicionar uma variável. O Minitab calcula uma estatística F e um valor-p para cada variável que não está no modelo. Se o modelo contiver j variáveis, então F para qualquer variável, xa , está nesta fórmula:

Notação

TermoDescrição
SSE j Erro SS antes de xa ser adicionado ao modelo
SSE(j + Xa ) Erro SS depois de xa ser adicionado ao modelo
Graus de liberdade para variável Xa
MSE(j + Xa ) MS Erro depois de xa ser adicionado ao modelo

Se o valor-p correspondente à estatística F para qualquer variável for menor do que o valor especificado em Alfa para entrada, o Minitab adiciona a variável com o menor valor-p ao modelo, calcula a equação de regressão, exibe os resultados, passa para uma nova etapa. Quando mais nenhuma variável puder ser inserida ou removida do modelo, o procedimento stepwise é encerrado.

Procedimento de seleção forward

Um método para determinar quais os termos a serem retidos em um modelo. A seleção forward acrescenta variáveis ao modelo usando o mesmo método do procedimento stepwise. Assim que é acrescentada, uma variável nunca é removida. O procedimento de seleção forward padrão termina quando nenhuma das variáveis candidatas têm um valor-p menor do que o valor especificado em Alfa para entrada.

Procedimento de eliminação regressiva

Um método para determinar quais as variáveis devem ser retidas em um modelo. A eliminação regressiva começa com o modelo que contém todos os termos e, em seguida, remove termos, um de cada vez, utilizando o mesmo método que o procedimento stepwise. Nenhuma variável, pode entrar novamente no modelo. O procedimento de eliminação regressiva padrão termina quando nenhuma das variáveis incluídas no modelo tem um valor-p maior que o valor especificado em Alfa para remoção. A eliminação regressiva não procede se o modelo inicial usa todos os graus de liberdade.

Procedimento de critérios de informações forward

Um método para determinar quais as variáveis devem ser retidas em um modelo. O procedimento de critérios de informações forward adiciona o termo com o menor valor-p ao modelo em cada etapa. Os termos adicionais podem ser informados ao modelo em uma etapa se as configurações para análise permitirem a consideração de termos não hierárquicos, mas exigem que cada modelo seja hierárquico. O Minitab calcula os critérios de informação para cada etapa. O Minitab exibe os resultados da análise do modelo com o valor mínimo do critério de informações selecionado, seja ele AICc ou BIC. Na maioria dos casos, o procedimento continua até que uma das seguintes condições ocorra:
  • O procedimento não encontra melhora no critério para 8 etapas consecutivas.
  • O procedimento ajusta o modelo completo.
  • O procedimento ajusta um modelo que deixa 1 grau de liberdade para o erro.
Se forem especificadas as configurações para o procedimento que requer um modelo hierárquico a cada etapa e que permita apenas um termo a ser inserido por vez, então o procedimento continua até que ou ele ajuste o modelo completo ou ajuste um modelo que deixe 1 grau de liberdade para o erro. O Minitab exibe os resultados da análise do modelo com o valor mínimo do critério de informações selecionado, seja ele AICc ou BIC.

Seleção forward com validação

A seleção forward com procedimento de validação depende do método de validação.

Conjunto de dados de teste

Quando você usa um conjunto de dados de teste, o procedimento é semelhante à seleção forward. A cada passo, o Minitab adiciona ao modelo o termo com o menor valor-p. No final de cada passo, o Minitab calcula o valor do teste R2. Ao final do procedimento de seleção forward, o modelo com o maior valor no teste R2 será o modelo final.

O procedimento adiciona termos até que ocorra uma das seguintes condições:
  • O procedimento não encontra uma melhoria no critério por 8 passos consecutivos.
  • O procedimento ajusta o modelo completo.
  • O procedimento ajusta um modelo que deixa 1 grau de liberdade para erro.

Validação cruzada de K dobras

Com a validação cruzada, o procedimento repete a seleção forward para cada duplicação. A seleção forward continua na primeira duplicação até 16 passos sem uma melhora na soma de quadrados dos erros. Para cada duplicação restante, a seleção forward continua até que o procedimento atinja o mínimo dos seguintes números:
  • O número de passos de uma duplicação anterior
  • 16 passos sem melhora na soma de quadrados dos erros
  • O número de passos ajustar o modelo completo
  • O número de passos para ajustar um modelo que deixa 1 grau de liberdade para erro

Depois que os procedimentos de seleção forward estiverem completos para cada duplicação, o Minitab calcula os valores gerais de R2 stepwise de k dobras para cada passo que esteja no procedimento de seleção para cada duplicação. O passo com o valor máximo R2 stepwise de k dobras torna-se o passo para o modelo escolhido a partir de um procedimento final de seleção forward.

Por último, o Minitab realiza a seleção em todo o conjunto de dados. O Minitab exibe resultados de regressão para o modelo no passo com o valor máximo geral de R2 stepwise de k dobras dos procedimentos stepwise de k dobras. A tabela com os detalhes da seleção do modelo e o gráfico do passo de seleção do R2 stepwise de k dobras versus o modelo de k dobras continua por 8 passos adiante do passo dos resultados de regressão.