判別分析の距離および判別関数

二乗距離

線形判別におけるグループtの観測値xとグループの中心（平均）との二乗距離（マハラノビス距離とも呼ばれる）は、次の一般形で求められます。

2次判別関数におけるxからグループtまでの二乗マハラノビス距離は次のように計算します。

線形判別関数におけるxからグループtの一般化された二乗距離は次のように計算されます。

2次判別関数におけるxからグループtの一般化された二乗距離は次のように計算されます。

グループtに属するxの事後確率は次のように計算されます。

線形判別スコアは次のように計算されます。

用語	説明
x	この観測値の予測変数の値を含む長さpの列ベクトル（この列ベクトルは1つの行として保存されます）
p	予測変数の数
n	合計観測数
t	グループのサブスクリプト
n_t	グループtに含まれる観測値の数
q_t	グループtの事前確率（n_t/nに等しい）
S_p	線形判別分析の併合共分散行列
S_i	2次判別分析のグループiの共分散行列
m_t	グループtのデータから計算される予測変数の平均を含む長さpの列ベクトル
S_t	グループtの共分散行列
\|S_t\|	S_tの行列式

線形判別関数は、重回帰分析の回帰係数に相当し、次のように計算します。

xが任意の場合、このルールでは、xを線形判別関数が最大のグループに割り当てます。

用語	説明
x	この観測値の予測変数の値を含む長さpの列ベクトル（この列ベクトルは1つの行として保存されます）
m_i	グループiのデータから計算される予測変数の平均を含む長さpの列ベクトル
S_p	併合共分散行列
ln p_i	グループiの事前確率の自然対数

一般化平方距離は、2次距離の測度として使用され、次のように計算します。

用語	説明
x	この観測値の予測変数の値を含む長さpの列ベクトル（この列ベクトルは1つの行に保存されます）
m_i	グループiのデータから計算される予測変数の平均を含む長さpの列ベクトル
S_p	併合共分散行列f
ln p_i	グループiの事前確率の自然対数

事後確率は、データが与えられたグループiの確率で、次のように計算されます。

最大事後確率は、ln [p_i f_i(x)]の最大値と等しくなります。

（分布が正規分布の場合）:

および

用語	説明
p_i	グループiの事前確率
f_i(x)	グループiのデータの同時密度（母集団パラメータをサンプル推定値に置き換え）