分析明确筛选设计中拟合值与残差的方法和公式

拟合

项	说明
	拟合值
x_k	第 k 个项。每个项都可以是单个预测变量、多项式项或交互作用项。
b_k	第 k 个回归系数的估计值

具有一个预测变量的回归模型中拟合值的标准误为：

具有多个预测变量的回归模型中拟合值的标准误为：

对于加权回归，在公式中包括权重矩阵：

当数据具有测试数据集或 K 折交叉验证时，公式相同。的值 s² 是从培训数据。设计矩阵和重量矩阵也来自训练数据。

项	说明
s²	mean square error
n	number of observations
x₀	new value of the predictor
	mean of the predictor
x_i	i^（序号） predictor value
x₀	vector of values that produce the fitted values, one for each column in the design matrix, beginning with a 1 for the constant term
x₀	transpose of the new vector of predictor values
X	design matrix
W	weight matrix

残差是观测值与相应拟合值之间的差分。该模型不解释这部分观测值。观测值的残差为：

项	说明
y_i	观测的第 i 个响应值
	第 i 个响应拟合值

标准化残差也称为“内部 t 化残差”。

也称为外部 t 化残差。公式为：

此公式的其他表现形式为：

估计第 i 个观测值的模型会从数据集中忽略第 i 个观测值。因此，第 i 个观测值无法对估计值产生影响。每个删后残差均具有学生 t 分布，其中具有自由度。

一组给定预测变量值的估计平均响应将落入的范围。

预测区间是新观测值的拟合响应预计将落入的范围。