부분 최소 제곱법의 적합치 및 잔차에 대한 방법 및 공식

원하는 방법 또는 공식을 선택하십시오.

적합치

예측 Y 또는 는 추정 회귀 방정식을 사용하여 주어진 예측 변수 값에 대한 평균 반응 값입니다.

교차 검증된 적합치

교차 검증된 적합치는 모형이 데이터를 잘 예측하는 정도를 나타냅니다. 이 값은 모형이 데이터에 적합한 정도를 나타내는 범용 적합치와 비슷합니다. 관측치에 대한 교차 검증된 적합치를 구하려면 모형을 계산하는 데 사용된 데이터에서 해당 값을 제거한 다음 관측치와 독립적인 계수 벡터를 사용하여 적합치를 계산해야 합니다. 교차 검증된 적합치를 구하는 공식은 다음과 같습니다.

표기법

용어설명
\ii 관측치가 모형 계산에서 제외되었음을 나타냄
b0\i관측치 i를 포함하지 않는 모형에 대한 절편
X예측 변수
B(\i)(j, k)관측치 i를 포함하지 않는 모형에 대한 계수

잔차

잔차는 관측치와 해당 적합치의 차이입니다. 관측치의 이 부분은 모형에 의해 설명되지 않습니다. 관측치의 잔차는 다음과 같습니다.

표기법

용어설명
yii번째 관측 반응치
반응에 대한 i번째 적합치

교차 검증된 잔차

교차 검증된 잔차는 모형의 예측 능력을 측정하며, PRESS 통계량을 계산하는 데 사용됩니다. PLS 및 최소 제곱 회귀의 교차 검증된 잔차는 개념적으로 유사하지만 계산법이 서로 다릅니다.

공식

PLS에서 교차 검증된 잔차는 실제 반응과 교차 검증된 적합치의 차이입니다.

교차 검증된 잔차 값은 교차 검증을 수행하는 중에 모형이 재계산될 때마다 제외되는 관측치 수에 따라 달라집니다.

최소 제곱 회귀 분석에서 교차 검증된 잔차는 일반 잔차로부터 직접 계산됩니다.

표기법

용어설명
(i) 모형 계산에서 제외되는 관측치
yi반응 값
교차 검증된 적합치

표준화 잔차

표준화 잔차는 "내적 스튜던트화 잔차"라고도 합니다.

공식

표기법

용어설명
ei i번째 잔차
hi X(X'X)–1X'i번째 대각 원소
s 2 평균 제곱 오차
X설계 행렬
X'설계 행렬의 전치

적합치의 표준 오차(SE 적합치)

예측 변수가 하나인 회귀 모형 적합치의 표준 오차는 다음과 같습니다.

예측 변수가 두 개 이상인 회귀 모형 적합치의 표준 오차는 다음과 같습니다.

가중치 가중 회귀를 위해 방정식에 가중치 행렬을 포함합니다.

데이터에 테스트 데이터 집합 또는 K-fold 교차 유효성 검사가 있는 경우 수식은 동일합니다. 의 가치는 s2는 학습 데이터에서 나온 것입니다. 설계 행렬과 웨이트 매트릭스도 학습 데이터에서 사용됩니다.

표기법

용어설명
s2mean square error
nnumber of observations
x0new value of the predictor
mean of the predictor
xii번째 predictor value
x0 vector of values that produce the fitted values, one for each column in the design matrix, beginning with a 1 for the constant term
x'0transpose of the new vector of predictor values
Xdesign matrix
Wweight matrix

신뢰 구간

신뢰 구간은 주어진 예측 변수 값의 집합에 대해 추정된 평균 반응값이 포함될 것으로 예상되는 범위입니다. 이 구간은 신뢰 수준과 적합치의 표준 오차로부터 계산되는 하한과 상한으로 정의됩니다.

공식

표기법

용어설명
α 알파 값
n관측치 수
p예측 변수의 수
s2평균 제곱 오차
S2(b)계수의 분산-공분산 행렬

예측 구간

예측 구간은 새 관측치에 대한 적합 반응이 포함될 것으로 예상되는 범위입니다.

수식

표기법

용어설명
s(예측)
주어진 예측 변수 값의 집합에 대한 적합 반응 값
α유의 수준
n관측치 수
p모형 모수의 수
s 2평균 제곱 오차
X예측 변수 행렬
X01개 열과 p 행이 있는 지정된 예측 변수 값의 벡터
X'01개 행 및 p 열이 있는 예측 변수 값의 새 벡터 전치