回帰モデルの適合線形回帰の 残差プロット

残差プロットの定義と解釈について解説します。

残差のヒストグラム

残差のヒストグラムは、すべての観測値について残差の分布を示します。

解釈

残差のヒストグラムを使用して、データが歪んでいるかどうか、またはデータに外れ値があるかどうかを判断します。以下の表のパターンは、モデルが仮定を満たしていないことを示している可能性があります。
パターン パターンが示す意味
一方向のロングテール 歪度
1本のバーが他のバーから離れている 外れ値

ヒストグラムの外観はデータをグループ化する区間数によって決まるため、残差の正規性の評価にヒストグラムを使用しないでください。代りに、正規確率プロットを使用して下さい。

ヒストグラムは、データ点が約20個以上ある場合に最も効果的です。サンプルサイズが小さすぎる場合、ヒストグラムの各バーには歪みや外れ値を示す充分なデータ点が含まれません。

残差の正規確率プロット

残差の正規確率プロットには、分布が正規分布する場合の残差と期待値の関係が表示されます。

解釈

残差の正規確率プロットを使用して、残差が正規分布に従うという仮定を検証します。残差の正規確率プロットは、ほぼ直線になります。

次のパターンは、残差が正規分布に従うという仮定に違反しています。

S曲線は、長い裾を持つ分布を示唆しています。

逆S曲線は、短い裾を持つ分布を示唆しています。

下向きの曲線は、右方向の歪みを示唆しています。

直線から離れている少数の点は、外れ値のある分布を示唆しています。

非正規パターンがある場合は、項や時間順位効果の欠落などのモデルの問題点を他の残差プロットで確認します。残差が正規分布に従っていない場合、信頼区間とp値は不正確である可能性があります。

残差対適合値

残差対適合値グラフでは、y軸に残差が、x軸に適合値がプロットされます。

解釈

残差対適合値プロットを使用して、残差はランダムに分布し、均一な分散が存在するという仮定を検証します。点に特徴的なパターンがなく、0の両側にランダムにくるのが理想的です。

次の表のパターンは、モデルがモデルの前提を満たしていないことを示している可能性があります。
パターン パターンが示す意味
残差が適合値周辺に扇状または不均等に分散している 不均一分散
曲線 高次の項の欠損
ゼロから遠い点 外れ値
ある点が他の点からX軸方向に遠く離れている 影響力のある点
次のグラフは外れ値や、残差の分散が均一であるという仮定に反する項目を表示します。
外れ値のあるプロット

ある点が他のすべての点に比べて大きいです。そのため、この点は外れ値となります。外れ値が多すぎる場合は、モデルが適切ではない可能性があります。外れ値の原因を識別する必要があります。データ入力や測定の誤差はすべて修正します。異常な1回きりの事象(特殊原因)に関連付けられたデータ値は除外することを検討します。その後で、分析を繰り返します。

不均一分散のプロット

残差の分散が適合値の増加とともに増加しています。適合値が大きくなるにつれ、残差間でばらつきが大きくなっていることに注意してください。このパターンは、残差の分散が等しくない(不均一である)ことを示しています。

残差対適合値プロットのパターンまたは外れ値を特定する場合、次の解決方法を検討してください。

課題 可能性のある解決方法
不均一分散 回帰モデルの適合をBox-Cox変換または重みで使用することを検討します。
外れ値または影響力のある点
  1. 観測値が測定の誤りまたはデータ入力の誤りではないことを確認します。
  2. この観測値なしで分析を実行し、結果に与える影響の調査を行います。

残差対データ順序

残差対データ順序プロットには、データの収集順に残差が表示されます。

解釈

残差対データ順序プロットを使用して、残差が互いから独立しているという仮定を検証します。独立している残差は、時間順で表示した場合にトレンドやパターンを示しません。点にパターンがある場合、互いに近い残差は相関している可能性があり、独立していないことを示しています。プロットの残差が中心線の周りにランダムに来るのが理想的です。
パターンがある場合は原因を調査します。パターンが次のタイプである場合、残差が従属している可能性を示しています。
トレンド
シフト
周期

残差対変数

残差対変数プロットには、別の変数に対する残差の値が表示されます。その変数は既にモデルに含まれているかもしれませんし、あるいは含まれていなくても応答に影響を与える可能性がある値です。

解釈

ランダムでない残差のパターンは、変数が応答に体系的に影響を及ぼしていることを示します。この変数を分析に含めることを検討してください。

テストデータセットの残差プロット

Minitabでは、トレーニングデータセットとテストデータセットに対して別々の残差プロットが作成されます。テストデータセットの残差は、モデル適合プロセスに依存しません。

解釈

トレーニングデータセットとテストデータセットは、通常同じ母集団からのものであるため、各データセットの残差プロットに同じパターンが表示されることが予想されます。残差プロットの異なるパターンは、トレーニングデータセットとテストデータセットの観測値の系統的な違いを示す可能性があります。

通常、パターンは同じですが、テストデータセットの残差プロットは、トレーニングデータセットのプロットと若干異なる場合があります。たとえば、テストデータセットはモデル適合プロセスに含まれていないため、残差の平均はゼロ以外の値になる可能性があります。