Métodos y fórmulas para el resumen del modelo en Regresión Random Forests^®

Minitab Statistical Software determina la importancia de una variable en Regresión Random Forests^® con el método de permutación. El método de permutación utiliza los datos out-of-bag. Para un árbol determinado, j, en el análisis, realice la predicción de los datos out-of-bag con el árbol. Repita la predicción para cada árbol del bosque. A continuación, calcule el promedio de las predicciones out-of-bag para cada fila que aparece al menos una vez en los datos out-of-bag. Utilice las predicciones para calcular el error cuadrático medio para los datos out-of-bag:

donde

Término	Description
	valor de la variable de respuesta para la fila i
	número de filas que aparecen en los datos out-of-bag en todo el bosque
	predicción out-of-bag para la fila i

Después, permute aleatoriamente los valores de una variable, x_m a través de los datos out-of-bag. Deje iguales los valores de respuesta y los demás valores predictores. A continuación, siga los mismos pasos para calcular el error cuadrático medio de los datos permutados, .

La importancia para la variable x_m proviene de la diferencia de los dos errores cuadráticos medios:

Minitab redondea los valores menores que 10^–7 a 0.

Repita este proceso para cada variable del análisis. La variable con la mayor importancia es la variable más importante. Las puntuaciones de la importancia relativa de las variables se escalan según la importancia de la variable más importante:

Los cálculos pronosticados para las siguientes medidas de precisión del modelo dependen del método de validación. Las predicciones out-of-bag provienen únicamente de los árboles donde una fila está out-of-bag. Para un árbol determinado, j, en el análisis, realice la predicción de los datos out-of-bag con el árbol. Repita la predicción para cada árbol del bosque. A continuación, calcule el promedio de las predicciones out-of-bag para cada fila que aparece al menos una vez en los datos out-of-bag. Para la evaluación del modelo con los datos out-of-bag, el promedio de la variable de respuesta es el promedio en todas las filas de los datos out-of-bag.

Para el conjunto de datos de prueba, use cada árbol del bosque para predecir cada valor del conjunto de datos de prueba. A continuación, promedie las predicciones de todos los árboles para obtener la predicción del modelo. Para la evaluación del modelo con el conjunto de prueba, la respuesta promedio es el promedio de filas del conjunto de prueba.

El cálculo de R² utiliza los datos out-of-bag o los datos de prueba. Las predicciones difieren en estos dos casos. En general, la fórmula para R² tiene la siguiente forma: