적합 회귀 모형선형 회귀의 적합치와 잔차에 대한 방법과 공식

원하는 방법 또는 공식을 선택하십시오.

적합치

표기법

용어설명
적합치
xkk번째 항. 각 항은 단일 예측 변수, 다항식 항 또는 교호작용 항입니다.
bkk번째 회귀 계수의 추정치

적합치의 표준 오차(SE 적합치)

예측 변수가 하나인 회귀 모형 적합치의 표준 오차는 다음과 같습니다.

예측 변수가 두 개 이상인 회귀 모형 적합치의 표준 오차는 다음과 같습니다.

가중치 가중 회귀를 위해 방정식에 가중치 행렬을 포함합니다.

데이터에 테스트 데이터 집합 또는 K-fold 교차 유효성 검사가 있는 경우 수식은 동일합니다. 의 가치는 s2는 학습 데이터에서 나온 것입니다. 설계 행렬과 웨이트 매트릭스도 학습 데이터에서 사용됩니다.

표기법

용어설명
s2mean square error
nnumber of observations
x0new value of the predictor
mean of the predictor
xii번째 predictor value
x0 vector of values that produce the fitted values, one for each column in the design matrix, beginning with a 1 for the constant term
x'0transpose of the new vector of predictor values
Xdesign matrix
Wweight matrix

적합치에 대한 신뢰 구간(CI)

수식

회귀 분석의 경우 다음 수식은 적합치에 대한 신뢰 한계를 제공합니다.

가중 회귀 분석의 경우 수식에는 가중치가 포함됩니다.

설명 tv 는 양측 구간에 대한 자유도가 v 인 t 분포의 1-α/2 분위수입니다. 단측 한계의 경우 tv 는 자유도가 v 인 t 분포의 1-α 분위수입니다.

검정 데이터 세트 또는 k-폴드 교차 검증을 사용하는 경우 자유도 및 평균 제곱 오차는 학습 데이터 세트에서 발생합니다.

Box-Cox 변환을 사용하는 경우 신뢰 구간 수식에 역 변환을 적용하여 원래 반응 단위의 한계를 찾습니다. 예를 들어 Box-Cox 변환이 자연 로그인 경우 다음 수식은 역 변환을 제공합니다.

표기법

용어설명
fitted value
quantile from the t distribution
degrees of freedom
mean square error
leverage for the i번째 observation
wiweight for the i번째 observation

잔차

잔차는 관측치와 해당 적합치의 차이입니다. 관측치의 이 부분은 모형에 의해 설명되지 않습니다. 관측치의 잔차는 다음과 같습니다.

표기법

용어설명
yii번째 관측 반응치
반응에 대한 i번째 적합치

표준화 잔차

표준화 잔차는 "내적 스튜던트화 잔차"라고도 합니다.

공식

표기법

용어설명
ei i번째 잔차
hi X(X'X)–1X'i번째 대각 원소
s 2 평균 제곱 오차
X설계 행렬
X'설계 행렬의 전치

검증을 사용한 표준화 잔차

검증 데이터의 경우 표준화 잔차에 대한 수식의 분모는 레버리지를 빼는 대신 레버리지를 추가합니다.

수식

가중치 회귀 분석의 경우 수식에는 가중치가 포함됩니다.

표기법

용어설명
eii번째 residual in the validation data set
hi leverage for the i번째 validation row
s2mean square error for the training data set
wiweight for the i번째 observation in the validation data set

외적 스튜던트화 잔차

외적 스튜던트화 잔차. 공식은 다음과 같습니다.

이 공식은 또한 다음과 같이 표시됩니다.

i번째 관측치를 추정하는 모형에서 데이터 집합의 i번째 관측치가 제외됩니다. 따라서 i번째 관측치는 추정치에 영향을 미치지 않습니다. 각 외적 스튜던트화 잔차에는 자유도가 인 t-분포가 있습니다.

표기법

용어설명
eii번째 잔차
s(i)2i번째 관측치를 포함하지 않고 계산한 평균 제곱 오차
hi X(X'X)–1X'i번째 대각 원소
n관측치 수
p항 수, 상수 포함
SSE오차의 제곱합