Interpretar todas as estatísticas para Regressão dos melhores subconjuntos

Encontre definições e orientações de interpretação para cada estatística fornecida com .a melhor regressão de subconjuntos.

Vars

A coluna Vars indica o número de preditoras contidas em cada modelo. Para cada número de preditoras, por padrão, o Minitab selecione os dois modelos com os valores R2 mais altos. O lado direito da tabela indica quais preditoras estão nos modelos indicados por símbolos "X".
Resposta é Fluxo calor H o I r n a s o d l L N o a e o ç s S r d R2 Cp de ã t u t i Vars R2 R2 (aj) (pred) Mallows S o e l e a 1 72,1 71,0 66,9 38,5 12,328 X 1 39,4 37,1 26,3 112,7 18,154 X 2 85,9 84,8 81,4 9,1 8,9321 X X 2 82,0 80,6 74,2 17,8 10,076 X X 3 87,4 85,9 79,0 7,6 8,5978 X X X 3 86,5 84,9 81,4 9,7 8,9110 X X X 4 89,1 87,3 80,6 5,8 8,1698 X X X X 4 88,0 86,0 79,3 8,2 8,5550 X X X X 5 89,9 87,7 78,8 6,0 8,0390 X X X X X

R2

R2 representa a porcentagem de variação na resposta que é explicada pelo modelo. Ele é calculado como 1 menos a razão da soma dos quadrados dos erros (que é a variação que não é explicada pelo modelo) para a soma total dos quadrados (que é a variação total no modelo).

Interpretação

Use R2 para determinar se o modelo ajusta bem os dados. Quanto mais alto o valor de R2 melhor o modelo ajusta seus dados. O valor de R2 está sempre entre 0 e 100%.

Você pode usar um gráfico de linha ajustada para ilustrar graficamente valores de R2 diferentes. O primeiro gráfico ilustra um modelo de regressão simples que explica 85,5% da variação na resposta. O segundo gráfico ilustra um modelo que explica 22,6% da variação na resposta. Quanto mais variação é explicada pelo modelo, mais perto os pontos de dados caem da linha de regressão ajustada. Teoricamente, se um modelo pudesse explicar 100% da variação, os valores ajustados sempre se igualariam aos valores observados e todos os pontos de dados cairiam sobre a linha ajustada. No entanto, mesmo se R2 representar 100%, o modelo não necessariamente prediz bem as novas observações.
Considere as seguintes questões ao interpretar o valor de R2:
  • O R2 sempre aumenta quando você adiciona mais preditores a um modelo. Por exemplo, o melhor modelo de cinco preditores terá sempre um R2 que é pelo menos tão elevado quanto o melhor modelo de quatro preditores. Portanto, R2 é mais útil quando for comparado a modelos do mesmo tamanho.

  • Amostras pequenas não fornecem uma estimativa precisa da força da relação entre a resposta e os preditores. Por exemplo, se você precisar que R2 seja mais exato, deve usar uma amostra maior (geralmente, 40 ou mais).

  • A estatística de qualidade do ajuste é apenas uma medida do grau em que o modelo ajusta os dados (se ajusta bem ou mal). Mesmo quando um modelo tem um um valor desejável, você deve verificar os gráficos de resíduos para conferir se o modelo atende aos pressupostos do modelo.

R2 (aj)

O R2 ajustado é a porcentagem de variação na resposta que é explicada pelo modelo, ajustada para o número de preditores do modelo em relação ao número de observações. O R2 ajustado é calculado como 1 menos a razão entre o quadrado médio do erro (QME) em relação ao quadrado médio total (QM total).

Interpretação

Use o R2 ajustado quando desejar comparar modelos que têm diferentes números de preditores. R2 sempre aumenta quando você adiciona um preditor ao modelo, mesmo quando não existe uma verdadeira melhoria ao modelo. O valor de R2 ajustado incorpora o número de preditores no modelo para ajudá-lo a escolher o modelo correto.

Por exemplo, você trabalha para um fabricante de batatas fritas que examina os fatores que afetam a porcentagem de batatas quebradas por embalagem. Você recebe os seguintes resultados ao adicionar os preditores em uma abordagem stepwise.
Modelo % Batata Taxa de resfriamento Temp de cozimento R2 R2 ajustado
1 X     52% 51%
2 X X   63% 62%
3 X X X 65% 62%

O primeiro modelo produz um R2 de mais de 50%. O segundo modelo adiciona a taxa de resfriamento ao modelo. O R2 ajustado aumenta, o que indica que a taxa de resfriamento melhora o modelo. O terceiro modelo, o que aumenta a temperatura de cozimento, aumenta o R2, mas não o R2 ajustado. Esses resultados indicam que a temperatura de cozimento não aprimoram o modelo. Com base nesses resultados, você considera remover a temperatura de cozimento do modelo.

PRESS

A soma dos quadrados predita (PRESS) do erro é uma medida do desvio entre os valores ajustados e os valores observados. PRESS é semelhante à soma dos quadrados dos erros residuais (SSE), que é o somatório dos quadrados dos resíduos. No entanto, PRESS usa um cálculo diferente para os resíduos. A fórmula utilizada para calcular PRESS é equivalente a um processo para remover sistematicamente cada observação do conjunto de dados, estimando a equação de regressão, e determinando o quão bem o modelo prediz a observação removida.

Interpretação

Use PRESS para avaliar a capacidade de predição do modelo. Normalmente, quanto menor o valor PRESS, melhor a capacidade de predição do modelo. O Minitab usa o PRESS é usada para calcular o R2 predito, que é geralmente mais intuitivo para ser interpretado. Juntas, essas estatísticas podem evitar o excesso de ajuste do modelo. Um modelo com excesso de ajuste ocorre quando você adiciona termos a efeitos que não são importantes na população, embora eles possam parecer importantes nos dados da amostra. O modelo se adapta aos dados de amostra e, por conseguinte, pode não ser útil para fazer predições em relação à população.

R2 (pred)

O R2 predito é calculado com uma fórmula que é equivalente à remoção sistemática de cada observação do conjunto de dados, estimando a equação de regressão e determinando se o modelo faz (ou não) uma boa predição da observação removida. O valor do R2 predito varia entre 0% e 100%. (Enquanto os cálculos do R2 predito podem produzir valores negativos, o Minitab exibe zero para esses casos).

Interpretação

Use R2 predito para determinar o quão bem seu modelo prediz as respostas para novas observações. Modelos que têm valores de R2 predito mais elevado têm melhor capacidade preditiva.

Um R2 predito que é substancialmente menor que o R2 pode indicar que o modelo está com excesso de ajuste. Um modelo com excesso de ajuste ocorre quando você adiciona termos para efeitos que não são importantes na população. O modelo se adapta aos dados de amostra e, por conseguinte, pode não ser útil para fazer predições em relação à população.

O R2 previsto também pode ser mais útil do que o R2 ajustado para a comparação de modelos, porque ele é calculado com as observações que não estão incluídas no cálculo do modelo.

Por exemplo, um analista de uma empresa de consultoria financeira desenvolve um modelo para prever as condições futuras do mercado. O modelo parece promissor porque tem um R2 de 87%. No entanto, o R2 predito é apenas para 52%, o que indica que o modelo pode estar com excesso de ajuste.

Cp de Mallows

A Cp de Mallows pode ajudar a escolher entre modelos de regressão múltipla concorrentes. A Cp de Mallows compara o modelo completo com os modelos com os subconjuntos de preditores. Ele ajuda a obter um equilíbrio importante com o número de preditores no modelo. Um modelo com preditores demais pode ser relativamente impreciso, enquanto um modelo com muito poucos preditores pode produzir estimativas viciadas. A utilização da Cp de Mallows para comparar modelos de regressão só é válida quando você começa com o mesmo conjunto completo de preditores.

Interpretação

Um valor de Cp de Mallows que está próximo do número de preditoras mais a constante indica que o modelo produz estimativas relativamente precisas e não-viciadas.

Um valor de Cp de Mallows que é maior que o número de preditores mais a constante indica que o modelo é viciado e não ajusta bem os dados.

S

S representa o desvio padrão da distância entre os valores dos dados e os valores ajustados. S é medida em unidades de resposta.

Interpretação

Use S para avaliar se o modelo descreve bem a resposta. S é medido nas unidades da variável de resposta e representa o quão longe os valores de dados caem dos valores ajustados. Quanto mais baixo for o valor de S, melhor o modelo descreve a resposta. No entanto, um valor de S baixo por si só não indica que o modelo satisfaz aos pressupostos do modelo. Você deve verificar os gráficos de resíduos para conferir os pressupostos.

Por exemplo, você trabalha para um fabricante de batatas fritas que examina os fatores que afetam a porcentagem de batatas quebradas por embalagem. Você reduz o modelo para os preditores significativos, e S é calculado como 1,79. Este resultado indica que o desvio padrão dos pontos de dados em torno dos valores ajustados é 1,79. Se você estiver comparando modelos, valores menores do que 1,79 indicam um ajuste melhor, e valores mais altos indicam um ajuste pior.

AICc e BIC

O Critério de Informação de Akaike Corrigido (AICc) e o Critério de Informação Bayesiano (BIC) são medidas da qualidade relativa de um modelo que consideram o ajuste e a quantidade de termos no modelo.

Interpretação

Use o AIC e o BIC para comparar modelos diferentes. É desejável que o resultado apresente valores menores. No entanto, o modelo com o menor valor para um conjunto de preditores não necessariamente ajusta bem os dados. Além disso use os testes e os gráficos de resíduos para avaliar se o modelo ajusta bem os dados.

Tanto AICc como BIC avaliam a verossimilhança do modelo e aplicam uma penalidade para adicionar termos ao modelo. Tal penalidade reduz a tendência de sobreajuste do modelo aos dados amostrais. Essa redução pode produzir um modelo com melhor desempenho geral.

Como orientação geral, quando o número de parâmetros é pequeno em relação ao tamanho amostral, o BIC tem uma penalidade maior do que o AICc para a adição de cada parâmetro. Nesses casos, o modelo que minimiza o BIC tende a ser menor do que o modelo que minimiza o AICc.

Em alguns casos comuns, tais como filtragens de experimento, o número de parâmetros geralmente é grande em relação ao tamanho amostral. Nesses casos, o modelo que minimiza o AICc tende a ser menor do que o modelo que minimiza o BIC. Por exemplo, para uma filtragem de experimento definitiva de 13 ensaios, o modelo que minimiza o AICc tenderá a ser menor que o modelo que minimiza o BIC no conjunto de modelos com 6 ou mais parâmetros.

Para obter mais informações sobre AICc e BIC, consulte Burnham e Anderson.1

Número de condição

O número de condição mede a multicolinearidade entre os termos do modelo. A multicollinearidade é uma condição que ocorre quando alguns termos no modelo estão correlacionados com outros termos. Quando você compara modelos, um número de condição menor é melhor.

Interpretação

Use o número da condição para comparar modelos com termos diferentes. Se o número de condição for 1, é um indicativo de que os termos do modelo não estão correlacionados. Valores maiores indicam mais multicolinearidade.

Embora as consequências de um determinado número de condição dependam de várias condições, valores superiores a 100 geralmente indicam a necessidade de investigação. Quando os termos do modelo são multicolineares, a interpretação do modelo é menos direta do que a interpretação de um modelo com termos não correlacionados. Para obter mais informações, acesse Multicolinearidade em regressão.

Nestes resultados, o número da condição é 1 quando o modelo tem apenas 1 termo. (O número da condição sempre é 1 quando o modelo tem 1 preditor contínuo). Nenhum dos modelos tem um número de condição maior que 100, de forma que a multicolinearidade entre os preditores provavelmente não terá um efeito de grandes proporções sobre os resultados.

Regressão dos Melhores Subconjuntos: Fluxo calor versus Insolação; Leste; Sul; Norte; Hora do dia

Resposta é Fluxo calor H o I r n a s o d l L N o a e o ç s S r d R2 Cp de ã t u t i Vars R2 R2 (aj) PRESQ (pred) Mallows S AICc BIC Cond Não o e l e a 1 72,1 71,0 4855,9 66,9 38,5 12,328 232,873 236,015 1,000 X 1 39,4 37,1 10822,6 26,3 112,7 18,154 255,321 258,463 1,000 X 2 85,9 84,8 2736,5 81,4 9,1 8,9321 215,798 219,600 1,807 X X 2 82,0 80,6 3786,4 74,2 17,8 10,076 222,788 226,590 5,344 X X 3 87,4 85,9 3089,7 79,0 7,6 8,5978 215,390 219,618 2,428 X X X 3 86,5 84,9 2725,9 81,4 9,7 8,9110 217,466 221,693 5,141 X X X 4 89,1 87,3 2847,2 80,6 5,8 8,1698 214,454 218,840 5,988 X X X X 4 88,0 86,0 3045,7 79,3 8,2 8,5550 217,127 221,512 20,427 X X X X 5 89,9 87,7 3109,9 78,8 6,0 8,0390 215,799 220,037 22,614 X X X X X
1 Burnham, K. P., & Anderson, D. R. (2004). Multimodel inference: Understanding AIC and BIC in model selection. Sociological Methods & Research, 33(2), 261-304. doi:10.1177/0049124104268644
Ao usar esse site, você concorda com a utilização de cookies para análises e conteúdo personalizado.  Leia nossa política