ベストサブセット回帰の方法と計算式

計算ルーチン

ベストサブセット回帰では、Minitabは、すべての有効な予測変数サブセットを、ステップごとに1サブセットずつ計算する方法であるハミルトニアン・ウォークと呼ばれるプロシージャを使用します。つまり、Minitabは、2**m - 1ステップ(mはモデル内の予測変数の数)ですべての2**m - 1サブセットを計算します。Minitabは、ステップごとに異なるサブセット回帰を評価します。

ハミルトニアン・ウォークの各サブセットは、1つの変数のみを追加または削除することにより、前のサブセットから変わります。スイープ演算子はハミルトニアン・ウォークのステップごとの回帰の内側または外側にある変数を「掃除」し、サブセットごとにR2を計算します。

回帰式

複数の予測変数があるモデルの場合、回帰式は以下になります。

y = β0 + β1x1 + … + βkxk + ε

適合する式は以下になります。

単回帰では予測変数は1つしかなく、モデルは以下になります。

y=ß0+ ß1x1+ε

ß0に対してb0ß1に対してb1の回帰推定値を使用すると、適合する等式は以下になります。

表記

用語説明
y応答変数
xkk番目の項。各項は、1つの予測変数、多項式の項、または交互作用項になり得ます。
ßkk番目の母集団回帰係数
ε平均値が0で正規分布に従う誤差項
bkk番目の母集団回帰係数の推定値
適合する応答

R二乗

R2は、決定係数とも言います。

計算式

表記

用語説明
yi i番目の観測された応答値
平均応答
i番目の適合された応答

自由度調整済みR二乗

表記

用語説明
平均平方(MS)平均平方
平方和(SS)平方和
自由度(DF)自由度

予測残差平方和

モデルの予測能力を評価します。計算方法は以下の通りです。

表記

用語説明
n観測値数
eii番目の残差
hi

以下のi番目の対角要素

X (X' X)-1X'

R二乗(予測)

R2(予測)値に負値が算出される場合がありますが、Minitabでは0を表示します。

表記

用語説明
yi i番目の観測された応答値
平均応答
n 観測値数
ei i番目の残差
hi X(X'X)–1X'i番目の対角要素
X計画行列

マローズ(Mallows)のCp

表記

用語説明
残差平方和p検討中モデルの平方和の誤差
平均平方誤差m全ての予測変数を含むモデルの平均平方誤差
n観測値数
p定数項を含むモデル内の項の数

S

表記

用語説明
誤差の平均平方誤差の平均平方
本サイトを使用すると、分析およびコンテンツのカスタマイズのためにクッキーが使用されることに同意したことになります。  当社のプライバシーポリシーをご確認ください