什么是系数的标准误?

估计值的标准差被称为标准误。系数的标准误度量模型对系数的未知值的估计精确度。系数的标准误始终为正数。

使用系数的标准误来测量系数估计值的精确度。标准误越小,估计值越精确。通过将系数除以其标准误计算 t 值。如果与此 t 统计量关联的 p 值小于 alpha 水平,则断定系数显著不等于零。

例如,一家家具生产厂的材料工程师想要评估他们所使用的刨花板的强度。这位工程师收集了不同温度下不同密度的刨花板的刚度数据,并生成了以下线性回归输出数据。系数的标准误位于第三列。

回归分析: 密度 与 刚度, 温度

方差分析 来源 自由度 Adj SS Adj MS F 值 P 值 回归 2 784.140 392.070 74.15 0.000 刚度 1 777.949 777.949 147.14 0.000 温度 1 5.655 5.655 1.07 0.311 误差 26 137.469 5.287 合计 28 921.610
模型汇总 R-sq(调 R-sq(预 S R-sq 整) 测) 2.29941 85.08% 83.94% 78.44%
系数 方差膨 项 系数 系数标准误 T 值 P 值 胀因子 常量 20.1 12.2 1.65 0.111 刚度 0.2385 0.0197 12.13 0.000 1.00 温度 -0.184 0.178 -1.03 0.311 1.00
回归方程 密度 = 20.1 + 0.2385 刚度 - 0.184 温度
异常观测值的拟合和诊断 标准化 观测值 密度 拟合值 残差 残差 21 25.600 29.765 -4.165 -2.38 R X R 残差大 X 异常 X

硬度系数的标准误小于温度的标准误。因此,模型可以更精确地估计硬度系数。实际上,温度系数的标准误与系数本身的值大致相同,因此 -1.03 的 t 值太小,无法表明统计显著性。生成的 p 值比常见的 α 水平大得多,因此无法断定此系数不等于零。从回归模型中删除温度变量,继续分析。

为何估计回归系数的所有标准误都相同?

如果您的设计矩阵是正交矩阵,每个估计回归系数的标准误将相同,并等于 (MSE/n) 的平方根,其中 MSE = 均方误,n = 观测值数。