Métodos de división de nodos en CART® Regresión

Un árbol de regresión resulta de una partición recursiva binaria del conjunto de datos de entrenamiento. Cualquier nodo padre del conjunto de datos de entrenamiento puede dividirse en dos nodos hijos mutuamente excluyentes en un número finito de formas, lo cual depende de los valores de datos del nodo. Para una variable continua, X, y un valor c, una división envía todos los registros con valores de X ≤ c al nodo izquierdo y los registros restantes al nodo derecho.

CART siempre utiliza el promedio de dos valores adyacentes para calcular c. Una variable continua con N valores distintos genera hasta N–1 divisiones potenciales del nodo padre. En un análisis, el número real de divisiones potenciales es menor cuando el tamaño mínimo del nodo es mayor que 1.

Para una variable categórica X con valores distintos {c1, c2, c3, ..., ck}, una división es un subconjunto de niveles que se envían al nodo izquierdo. Una variable categórica con k niveles genera hasta 2k – 1-1 divisiones.

Para una posible división durante la fase de crecimiento del árbol, los criterios de mejora son Mínimos cuadrados (LS) o Desviación absoluta mínima (LAD). Minitab agrega la división con la mejora más alta al árbol. Minitab calcula las mejoras solo a partir de los datos de entrenamiento cuando el análisis incluye un método de validación del modelo. Utilice las siguientes fórmulas para calcular la mejora de cada criterio.

Mínimos cuadrados (LS)

donde

Desviación absoluta mínima (LAD)

donde

Notación

TérminoDescription
SSEsum of squared errors
i-ésimo record in the node
SAEsum of the absolute errors
median of the response for the node

Divisiones sustitutas

Después de la identificación de una división óptima, Minitab busca divisiones sustitutas entre las otras divisiones potenciales. Una división sustituta se asemeja a la división óptima en la que los registros van a los nodos izquierdo y derecho. La medida de semejanza es la asociación.

Una asociación de 1 indica que la división sustituta replica la división óptima. Una asociación de 0 indica que la división envía todos los registros al nodo con más registros en la división óptima. Las divisiones con asociación positiva son sustitutos potenciales. Las mejoras de las divisiones sustitutas están en los cálculos de importancia variable.

Cuando los nuevos datos incluyen valores faltantes para cualquiera de los predictores que forman divisiones, Minitab utiliza el mejor predictor sustituto no faltante en lugar del predictor que aparece en el árbol.

Al utilizar este sitio, usted acepta el uso de cookies para efectos de análisis y contenido personalizado.  Leer nuestra política