Methoden und Formeln für die Zusammenfassung des Modells in Random Forests^® Regression

Minitab Statistical Software bestimmt die Wichtigkeit einer Variablen in Random Forests^® Regression mit der Permutationsmethode. Die Permutationsmethode verwendet die Daten von außerhalb des Segments. Klassifizieren Sie für einen bestimmten Baum j in der Analyse die Daten von außerhalb des Segments mit dem Baum. Wiederholen Sie diese Prognose für jeden Baum im Wald. Berechnen Sie dann den Durchschnitt der Prognosen von außerhalb des Segments für jede Zeile, die mindestens einmal in den Daten von außerhalb des Segments vorkommt. Verwenden Sie die Prognosen, um den mittleren quadrierten Fehler für die Daten von außerhalb des Segments zu berechnen:

Dabei gilt Folgendes:

Begriff	Beschreibung
	Wert der Antwortvariablen für Zeile i
	Anzahl von Zeilen, die in den Daten von außerhalb des Segments über den gesamten Wald angezeigt werden
	Prognose für Daten von außerhalb des Segments für Zeile i

Permutieren Sie dann die Werte einer Variablen x_m nach dem Zufallsprinzip durch die Daten von außerhalb des Segments. Lassen Sie die Antwortwerte und die anderen Prädiktorwerte gleich. Verwenden Sie dann die gleichen Schritte zur Berechnung des mittleren quadrierter Fehlers für die permutierten Daten, .

Die Wichtigkeit für die Variable x_m ergibt sich aus der Differenz der beiden mittleren quadrierten Fehler:

Minitab rundet Werte kleiner als 10^–7 auf 0.

Wiederholen Sie diesen Vorgang für jede Variable in der Analyse. Die Variable mit der höchsten Wichtigkeit ist die wichtigste Variable. Die Werte für die relative Variablenwichtigkeit werden durch die Bedeutung der wichtigsten Variablen skaliert:

Die prognostizierten Berechnungen für die folgenden Maße der Modellgenauigkeit hängen von der Validierungsmethode ab. Die Prognose für Daten von außerhalb des Segments kommen nur von den Bäumen, bei denen eine Zeile Daten von außerhalb des Segments umfasst. Klassifizieren Sie für einen bestimmten Baum j in der Analyse die Daten von außerhalb des Segments mit dem Baum. Wiederholen Sie diese Prognose für jeden Baum im Wald. Berechnen Sie dann den Durchschnitt der Prognosen von außerhalb des Segments für jede Zeile, die mindestens einmal in den Daten von außerhalb des Segments vorkommt. Bei der Auswertung des Modells mit den Daten von außerhalb des Segments ist der Durchschnitt der Antwortvariablen der Durchschnitt aller Zeilen in den Daten von außerhalb des Segments.

Verwenden Sie für den Testdatensatz jeden Baum im Wald, um jeden Wert im Testdatensatz zu prognostizieren. Bilden Sie dann den Durchschnitt der Prognosen von allen Bäumen, um die Prognose für das Modell zu erhalten. Bei der Auswertung des Modells mit dem Testdatensatz ist die durchschnittliche Antwort der Durchschnitt der Zeilen im Testdatensatz.

Bei der Berechnung von R² werden die Daten von außerhalb des Segments oder der Testdatensatz verwendet. Die Prognosen unterscheiden sich in diesen beiden Fällen. Im Allgemeinen hat die Formel für R² folgendes Format: