Interpréter toutes les statistiques pour Régression sur les meilleurs sous-ensembles

Obtenez des définitions et bénéficiez de conseils en matière d'interprétation pour chaque statistique fournie avec la régression sur les meilleurs sous-ensembles.

Vars

La valeur Vars indique le nombre de prédicteurs dans chaque modèle. Pour chaque nombre de prédicteurs, Minitab sélectionne les deux modèles ayant les plus hautes valeurs de R2. La partie droite du tableau indique les prédicteurs inclus dans les modèles, en les signalant par un "X".
Réponse : Flux thermique H e u r I e s o j l o a u t N r i E S o n R carré R carré Cp de o s u r é Vars R carré (ajust) (prév) Mallows S n t d d e 1 72,1 71,0 66,9 38,5 12,328 X 1 39,4 37,1 26,3 112,7 18,154 X 2 85,9 84,8 81,4 9,1 8,9321 X X 2 82,0 80,6 74,2 17,8 10,076 X X 3 87,4 85,9 79,0 7,6 8,5978 X X X 3 86,5 84,9 81,4 9,7 8,9110 X X X 4 89,1 87,3 80,6 5,8 8,1698 X X X X 4 88,0 86,0 79,3 8,2 8,5550 X X X X 5 89,9 87,7 78,8 6,0 8,0390 X X X X X

R carré

R2 représente le pourcentage de variation de la réponse expliqué par le modèle. Cette valeur est calculée comme 1 moins le rapport de la somme des carrés de l'erreur (variation non expliquée par le modèle) sur la somme totale des carrés (variation totale du modèle).

Interprétation

Utilisez la valeur R2 pour déterminer l'ajustement du modèle à vos données. Plus la valeur R2 est élevée, plus le modèle est ajusté à vos données. R2 est toujours compris entre 0 et 100 %.

Vous pouvez utiliser une droite d'ajustement pour illustrer graphiquement différentes valeurs de R2. La première droite représente un modèle de régression simple qui explique 85,5 % de la variation de la réponse. La deuxième représente un modèle qui explique 22,6 % de la variation de la réponse. Plus la proportion de la variation expliquée par le modèle de régression est importante, plus les points de données sont proches de la droite de régression ajustée. En théorie, si un modèle pouvait expliquer 100 % de la variation, les valeurs ajustées seraient toujours égales aux valeurs observées et, par conséquent, tous les points de données se situeraient sur la ligne de régression. Pourtant, même si la valeur R2 est de 100 %, le modèle ne prévoit pas forcément bien les nouvelles observations.
Prenez en compte les problèmes suivants lors de l'interprétation de la valeur de R2 :
  • La valeur R2 augmente toujours lorsque vous ajoutez des prédicteurs à un modèle. Par exemple, le meilleur modèle à 5 prédicteurs aura toujours une valeur R2 au moins aussi élevée que celle du meilleur modèle à 4 prédicteurs. Par conséquent, R2 est surtout utile pour comparer des modèles de même taille.

  • Les petits échantillons ne fournissent pas d'estimation précise de la force de la relation entre la réponse et les prédicteurs. Par exemple, pour obtenir une valeur R2 plus précise, vous devez utiliser un échantillon plus grand (en général, 40 ou plus).

  • Les statistiques d'adéquation de l'ajustement ne sont qu'un des types de mesures permettant d'évaluer l'ajustement du modèle. Même si un modèle a une valeur souhaitable, vous devez consulter les graphiques des valeurs résiduelles pour vérifier que le modèle respecte les hypothèses.

R carré (ajusté)

Le R2 ajusté est le pourcentage de la variation de la réponse qui est expliqué par le modèle, ajusté au nombre de prédicteurs du modèle par rapport au nombre d'observations. Le R2 ajusté est égal à 1 moins le rapport entre le carré moyen de l'erreur (CME) et le carré moyen total (CM Total).

Interprétation

Utilisez la valeur R2 ajusté pour comparer des modèles n'ayant pas le même nombre de prédicteurs. R2 augmente toujours lorsque vous ajoutez un prédicteur au modèle, même lorsque ce prédicteur n'apporte aucune amélioration réelle au modèle. La valeur de R2 ajusté intègre le nombre de prédicteurs dans le modèle pour vous aider à choisir le modèle correct.

Par exemple, vous travaillez pour un fabricant de pommes chips qui étudie les facteurs jouant sur le pourcentage de chips brisées par conteneur. En utilisant une procédure pas à pas ascendante, vous obtenez les résultats suivants à mesure que vous ajoutez les prédicteurs :
Modèle % de pomme de terre Vitesse de refroidissement Température de cuisson R2 R2 ajusté
1 X     52% 51%
2 X X   63% 62%
3 X X X 65% 62%

Le premier modèle présente une valeur de R2 de plus de 50 %. Le deuxième modèle ajoute la vitesse de refroidissement au modèle. La valeur R2 ajusté augmente, ce qui indique que la vitesse de refroidissement améliore le modèle. Le troisième modèle, qui inclut la température de cuisson, augmente la valeur R2 mais pas la valeur R2 ajusté. Ces résultats indiquent que la température de cuisson n'améliore pas le modèle. Selon ces résultats, vous devriez supprimer la température de cuisson du modèle.

SomCar-ErrPrév

La somme des carrés de l'erreur de prévision (SomCar-ErrPrév) permet de mesurer l'écart entre les valeurs ajustées et les valeurs observées. La SomCar-ErrPrév est semblable à la somme des carrés de l'erreur résiduelle (SCE), qui est la somme des carrés des valeurs résiduelles. Toutefois, la SomCar-ErrPrév utilise une autre méthode de calcul pour les valeurs résiduelles. La formule utilisée pour calculer la SomCar-ErrPrév revient à supprimer systématiquement chaque observation de l'ensemble de données, à estimer l'équation de régression et à évaluer la capacité du modèle à prévoir l'observation supprimée.

Interprétation

Vous pouvez utiliser SomCar-ErrPrév afin d'évaluer la capacité de prévision de votre modèle. En général, plus la valeur SomCar-ErrPrév est petite, meilleure est la capacité de prévision du modèle. Minitab utilise la valeur SomCar-ErrPrév pour calculer le R2 prévu, dont l'interprétation est généralement plus intuitive. L'ensemble de ces statistiques permet d'éviter le surajustement du modèle. Un modèle est dit surajusté lorsqu'il inclut des termes pour des effets qui ne sont pas importants dans la population, bien qu'ils semblent importants dans les données échantillons. Le modèle est alors spécialement ajusté aux données des échantillons, mais risque ne pas être utile pour effectuer des prévisions concernant la population entière.

R carré (prév)

Le calcul du R2 prévu utilise une formule qui revient à supprimer systématiquement chaque observation de l'ensemble de données, à estimer l'équation de régression et à évaluer la capacité du modèle à prévoir l'observation supprimée. La valeur du R2 prévu est comprise entre 0 et 100 %. Minitab affiche zéro lorsque les calculs de R2 prévu génèrent des valeurs négatives.

Interprétation

La valeur R2 prévu permet de déterminer la capacité de votre modèle à prévoir la réponse pour de nouvelles observations. Les modèles ayant des valeurs de R2 prévu élevées ont une meilleure capacité de prévision.

Une valeur de R2 prévu considérablement inférieure à R2 peut être un signe de surajustement du modèle. Un modèle est dit surajusté lorsqu'il inclut des termes pour des effets qui ne sont pas importants dans la population. Le modèle est alors spécialement ajusté aux données des échantillons, mais risque ne pas être utile pour effectuer des prévisions concernant la population entière.

La valeur R2 prévu peut également être plus utile que R2 ajusté pour comparer des modèles, car elle est calculée avec des observations qui ne sont pas incluses dans le calcul du modèle.

Par exemple, un analyste travaillant pour une société de conseil financier met au point un modèle de prévision de la conjoncture. Le modèle semble prometteur, car il possède un R2 de 87 %. Toutefois, le R2 prévu n'atteint que 52 %, ce qui indique que le modèle est peut-être surajusté.

Cp de Mallows

Le Cp de Mallows peut vous aider à choisir entre plusieurs modèles de régression. Le Cp de Mallows compare le modèle complet à ceux contenant les sous-ensembles de prédicteurs. Il vous permet de trouver un juste équilibre concernant le nombre de prédicteurs figurant dans le modèle. Un modèle possédant trop de prédicteurs peut s'avérer relativement imprécis, tandis qu'un modèle possédant trop peu de prédicteurs peut générer des estimations biaisées. Vous ne pouvez utiliser le Cp de Mallows pour comparer des modèles de régression que lorsque vous commencez avec le même ensemble complet de prédicteurs.

Interprétation

Une valeur du Cp de Mallows proche de la somme de la constante et du nombre de prédicteurs indique que le modèle génère des estimations relativement précises et non biaisées.

Une valeur du Cp de Mallows supérieure à la somme de la constante et du nombre de prédicteurs indique que le modèle est biaisé et qu'il n'est pas correctement ajusté aux données.

S

S représente l'écart type entre les valeurs de données et les valeurs ajustées. S est mesuré dans les unités de la réponse.

Interprétation

Utilisez S pour évaluer la capacité du modèle à décrire la réponse. S est mesuré en unités de la variable de réponse et représente la distance entre les valeurs de données et les valeurs ajustées. Plus S est petit, mieux le modèle décrit la réponse. Cependant, une faible valeur de S n'indique pas en soi que le modèle respecte les hypothèses du modèle. Vous devez examiner les graphiques des valeurs résiduelles pour vérifier les hypothèses.

Par exemple, vous travaillez pour un fabricant de pommes chips qui étudie les facteurs jouant sur le pourcentage de chips brisées par conteneur. Vous réduisez le modèle jusqu'à ne conserver que les prédicteurs significatifs, et vous constatez que S a pour valeur 1,79. Ce résultat indique que l'écart type des points de données autour des valeurs ajustées est 1,79. Si vous comparez des modèles, les valeurs inférieures à 1,79 indiquent un meilleur ajustement, tandis que les valeurs supérieures indiquent un moins bon ajustement.

AICc et BIC

Le critère d'information d'Akaike corrigé (AICc) et le critère d'information bayésien (BIC) sont des mesures de la qualité relative d'un modèle qui rend compte de l'ajustement du modèle et du nombre de termes qu'il contient.

Interprétation

Utilisez l'AICc et le BIC pour comparer différents modèles. Les valeurs faibles sont les valeurs souhaitables. Cependant, le modèle ayant les valeurs les plus faibles pour un ensemble de prédicteurs n'est pas forcément bien ajusté aux données. Vous devez aussi utiliser les tests et les graphiques des valeurs résiduelles pour évaluer l'ajustement du modèle aux données.

Les valeurs AICc et BIC évaluent toutes deux la probabilité du modèle, puis ajoutent une pénalité pour l'ajout de termes. Cette pénalité réduit la tendance du système à surajuster le modèle aux données échantillon. Cette réduction permet généralement de produire un modèle qui fonctionne mieux.

De manière générale, quand le nombre de paramètres est relativement faible par rapport à l'effectif d'échantillon, une plus grande pénalité est appliquée à la valeur BIC qu'à la valeur AICc pour l'ajout de chaque paramètre. Dans ce cas, le modèle qui fournit la plus faible valeur BIC tend à être plus petit que celui qui fournit la plus faible valeur AICc.

Dans certains cas courants, par exemple dans les plans de criblage, le nombre de paramètres est généralement élevé par rapport à l'effectif d'échantillon. Dans ce cas, le modèle qui fournit la plus faible valeur AICc tend à être plus petit que celui qui fournit la plus faible valeur BIC. Par exemple, pour un plan de criblage définitif à 13 essais, le modèle qui fournit la plus faible valeur AICc tend à être plus petit que celui qui fournit la plus faible valeur BIC parmi l'ensemble des modèles à 6 paramètres ou plus.

Pour plus d'informations sur les valeurs AICc et BIC, reportez-vous à Burnham et Anderson.1

Conditionnement

Le conditionnement mesure la multicolinéarité entre les termes du modèle. La multicolinéarité est un problème qui survient lorsque certains termes du modèle sont corrélées avec d'autres. Lorsque vous comparez des modèles, privilégiez celui dont le conditionnement est le plus faible.

Interprétation

Utilisez le conditionnement pour comparer des modèles incluant des termes différents. Un conditionnement de 1 indique que les termes du modèle ne sont pas corrélés. Plus les valeurs sont élevées, plus la multicolinéarité est importante.

Bien que les conséquences d'une valeur de conditionnement donnée dépendent de plusieurs conditions, une valeur supérieure à 100 demande généralement vérification. Si les termes d'un modèle sont multicolinéaires, l'interprétation de ce modèle est plus complexe. Pour plus d'informations, reportez-vous à la rubrique Multicolinéarité dans la régression..

Dans ces résultats, la valeur de conditionnement est de 1 lorsque le modèle ne comporte qu'un seul terme (le conditionnement est toujours de 1 quand le modèle contient un seul prédicteur continu). Aucun des modèles ne présente de conditionnement supérieur à 100, ce qui indique que la multicolinéarité entre les prédicteurs n'a sans doute pas d'effet important sur les résultats.

Régression sur les meilleurs sous-ensembles : Flux thermique en fonction de Isolation; Est; Sud; Nord; Heure journée

Réponse : Flux thermique H e u r I e s o j l o a u t N r i E S o n R carré R carré Cp de o s u r é Vars R carré (ajust) SomCar-ErrPrév (prév) Mallows S AICc BIC Cond No n t d d e 1 72,1 71,0 4855,9 66,9 38,5 12,328 232,873 236,015 1,000 X 1 39,4 37,1 10822,6 26,3 112,7 18,154 255,321 258,463 1,000 X 2 85,9 84,8 2736,5 81,4 9,1 8,9321 215,798 219,600 1,807 X X 2 82,0 80,6 3786,4 74,2 17,8 10,076 222,788 226,590 5,344 X X 3 87,4 85,9 3089,7 79,0 7,6 8,5978 215,390 219,618 2,428 X X X 3 86,5 84,9 2725,9 81,4 9,7 8,9110 217,466 221,693 5,141 X X X 4 89,1 87,3 2847,2 80,6 5,8 8,1698 214,454 218,840 5,988 X X X X 4 88,0 86,0 3045,7 79,3 8,2 8,5550 217,127 221,512 20,427 X X X X 5 89,9 87,7 3109,9 78,8 6,0 8,0390 215,799 220,037 22,614 X X X X X
1 Burnham, K.P. et Anderson, D.R. (2004), Multimodel inference: Understanding AIC and BIC in model selection, Sociological Methods & Research, 33(2), 261-304. doi : 10.1177/0049124104268644
En utilisant ce site, vous acceptez l'utilisation de cookies à des fins d'analyse et de personnalisation du contenu.  Lisez notre politique