Grundlagen zu Algorithmen und Startwerten in der nichtlinearen Regression

Bei der linearen und der nichtlinearen Regression wird zum Schätzen der Parameter die Summe der Quadrate der Residuenfehler (SSE) minimiert. Dabei werden jedoch sehr unterschiedliche Ansätze verfolgt. Bei der linearen Regression leitet Minitab die minimale Summe der Quadrate der Residuenfehler über Gleichungen mathematisch ab. Nachdem Sie das Modell ausgewählt haben, bestehen keine weitere Auswahlmöglichkeiten mehr. Wenn Sie ein Modell mehrmals an dieselben Daten anpassen, erhalten Sie stets dieselben Ergebnisse.

Bei der nichtlinearen Regression gibt es jedoch keine direkte Lösung zum Minimieren der Summe der Quadrate der Residuenfehler. Daher werden die Parameter mit einem iterativen Algorithmus geschätzt, bei dem die Parameterschätzwerte systematisch korrigiert werden, um die Summe der Quadrate der Residuenfehler zu reduzieren. Nachdem Sie sich für ein Modell entschieden haben, wählen Sie den Algorithmus aus und geben den Startwert für jeden Parameter an. Anhand dieser Startwerte berechnet der Algorithmus die anfängliche Summe der Quadrate der Residuenfehler.

Bei jeder Iteration passt der Algorithmus die Parameterschätzwerte auf eine Weise an, dass die Summe der Quadrate der Residuenfehler im Vergleich zur vorherigen Iteration reduziert werden sollte. In verschiedenen Algorithmen werden verschiedene Ansätze zur Ermittlung der Korrekturen in jeder Iteration verwendet. Die Iterationen werden fortgesetzt, bis der Algorithmus mit der minimalen Summe der Quadrate der Residuenfehler konvergiert, die nachfolgende Iteration durch ein Problem verhindert wird oder Minitab die Maximalzahl der Iterationen erreicht. Wenn der Algorithmus nicht konvergiert, können Sie unterschiedliche Startwerte und/oder den anderen Algorithmus ausprobieren.

Bei einigen Modellfunktionen und Datensätzen können die Startwerte die Ergebnisse erheblich beeinflussen. Gewisse Startwerte können dazu führen, dass gar keine Konvergenz oder eine Konvergenz bei einem lokalen (d. h. nicht globalen) Minimum der Summe der Quadrate der Residuenfehler erreicht wird. Gelegentlich kann das Bestimmen geeigneter Startwerte sehr aufwändig sein.