节点分裂方式 - CART^® 分类

分类树是对原始训练数据集进行二叉树递归分割的结果。树中的任何父节点（训练数据的子集）都可通过有限数量的方式分裂为两个互斥的子节点，具体取决于在节点中收集的实际数据值。

分裂过程将预测变量视为连续变量或类别变量。对于连续变量 X 和值 c，分裂是通过将 X 的值小于或等于 c 的所有记录发送到左侧节点，将剩余的所有记录发送到右侧节点来定义的。CART 始终使用两个相邻值的平均值来计算 c。具有 N 个可区分值的连续变量将生成最多 N–1 个父节点的潜在分裂（当施加最小允许节点大小限制时，实际数量将会更少）。

例如，连续预测变量具有数据中的值 55、66 和 75。此变量的一个可能分裂是将所有小于或等于 (55+66)/2 = 60.5 的值发送到一个子节点，将所有大于 60.5 的值发送到另一个子节点。预测变量值为 55 的案例转到一个节点，值为 66 和 75 的案例转到另一个节点。此预测变量的另一个可能分裂是将所有小于或等于 70.5 的值发送到一个子节点，将大于 70.5 的值发送到另一个节点。值为 55 和 66 的案例转到一个节点，值为 75 的案例转到另一个节点。

对于具有可区分值 {c₁, c₂, …, c_k} 的类别变量 X，分裂被定义为发送到左侧子节点的水平子集。具有 K 个水平的类别变量最多生成 2^K-1–1 个分裂。

在分类树中，目标是具有 K 个可区分类别的多项式。树的主要目标是找到一种方法，以尽可能纯的方式将不同的目标类别分离到单独的节点中。生成的终端节点数无需为 K；可使用多个终端节点来表示特定的目标类别。用户可以指定目标类别的先验概率；CART 将在树增长过程中将其考虑在内。

在以下部分中，Minitab 对二值响应变量使用以下定义：

案例在节点 t 中时事件的条件概率

案例在节点 t 中时，非事件的条件概率：

在以下部分中，Minitab 对多项式响应变量使用以下定义：

节点 t 的先验调整概率：

节点 t 中类别 j 的概率：

这些定义给出了节点内的概率。Minitab 会为任何节点和任何潜在分裂计算这些概率。Minitab 使用以下标准之一从这些概率计算潜在分裂的整体改进。

表示法

项	说明
K	响应变量中的类别数
	类别 j 的先验概率
	节点 N 中类别 j
	数据中类别 j 的观测值数