계수 표준 오차의 정의

추정치의 표준 편차는 표준 오차라고 합니다. 계수의 표준 오차는 모형이 계수의 알 수 없는 값을 얼마나 정확하게 예측하는지 측정합니다. 계수 표준 오차는 항상 양수입니다.

계수의 표준 오차를 사용하여 계수 추정치의 정확도를 측정할 수 있습니다. 표준 오차가 작을수록 추정치의 정확도가 높아집니다. 계수를 표준 오차로 나누면 t-값이 계산됩니다. 이 t-통계량과 연관된 p-값이 알파 수준보다 작을 경우 계수가 0과 유의하게 다르다는 결론을 내릴 수 있습니다.

예를 들어, 가구 제조 공장의 재료 엔지니어가 공장에서 사용하는 합판의 강도를 평가하려고 합니다. 엔지니어는 여러 온도에서 밀도가 다양한 합판 조각의 경도 데이터를 수집하고 다음과 같은 선형 회귀 결과를 생성합니다. 계수 표준 오차는 세 번째 열에 있습니다.

회귀 분석: 밀도 대 경도, 온도

계수 항 계수 SE 계수 T-값 P-값 VIF 상수 20.1 12.2 1.65 0.111 경도 0.2385 0.0197 12.13 0.000 1.00 온도 -0.184 0.178 -1.03 0.311 1.00

경도 계수의 표준 오차는 온도 계수의 표준 오차보다 작습니다. 따라서 모형이 경도에 대한 계수를 더 정밀하게 측정할 수 있습니다. 사실 온도 계수의 표준 오차는 계수 자체의 값과 거의 같으므로, -1.03의 t-값은 너무 작아서 통계적 유의성을 선언할 수 없습니다. 결과의 p-값은 공통 α 수준보다 훨씬 더 크기 때문에 이 계수가 0과 다르다는 결론을 내릴 수 없습니다. 회귀 모형에서 온도 변수를 제거하고 분석을 계속합니다.

추정된 회귀 계수의 모든 표준 오차가 같은 이유는 무엇입니까?

설계 행렬이 직교인 경우 추정된 각 회귀 계수의 표준 오차는 같고 (MSE/n)의 제곱근과 같게 됩니다. 여기서 MSE = 평균 제곱 오차, n = 관측치의 수입니다.