Was sind die vollständige Trennung und die quasi-vollständige Trennung?

Es gibt zwei Bedingungen, die die Konvergenz der Maximum-Likelihood-Schätzwerte für die Koeffizienten verhindern: vollständige Trennung und quasi-vollständige Trennung.

Vollständige Trennung

Eine vollständige Trennung tritt auf, wenn eine lineare Kombination der Prädiktoren eine perfekte Prognose der Werte der Antwortvariablen liefert. Beispiel: Wenn im folgenden Datensatz x ≤ 4, dann y = 0. Wenn x > 4, dann y = 1.

y 0 0 0 0 0 0 1 1 1 1
x 1 2 3 4 4 4 5 6 7 8

Quasi-vollständige Trennung

Eine quasi-vollständige Trennung ähnelt einer vollständigen Trennung. Die Prädiktoren liefern bei den meisten, nicht jedoch bei allen Werten eine perfekte Prognose der Werte der Antwortvariablen. Beispiel: Im folgenden Datensatz bei x = 4 ist für einen der Werte y = 1 und nicht 0. Wenn also x < 4, dann y = 0, wenn x > 4, dann y = 1, wenn jedoch x = 4, dann kann y sowohl 0 als auch 1 sein. Diese Überlappung im mittleren Bereich der Daten macht die Trennung quasi-vollständig.

y 0 0 0 0 0 1 1 1 1 1
x 1 2 3 4 4 4 5 6 7 8

Ursachen und Abhilfe

Häufig tritt eine Trennung auf, wenn der Datensatz zu klein ist, um Ereignisse mit geringen Wahrscheinlichkeiten zu beobachten. Je mehr Prädiktoren das Modell enthält, desto wahrscheinlicher tritt eine Trennung auf, da die einzelnen Gruppen in den Daten kleinere Stichprobenumfänge aufweisen. In Minitab kann es auch vorkommen, dass das Modell nicht konvergiert, wenn die Wahrscheinlichkeiten sehr groß oder sehr klein sind, aber streng genommen nicht 0 oder 1 entsprechen, z. B. kleiner als 1 aus 1 Billion.

Minitab gibt zwar eine Warnung aus, wenn eine Trennung festgestellt wird, doch je mehr Prädiktoren das Modell enthält, desto schwieriger ist es, die Ursache der Trennung zu bestimmen. Das Einbinden von Wechselwirkungstermen im Modell erschwert dies zusätzlich.

Wenn die Maximum-Likelihood-Schätzwerte aufgrund einer Trennung nicht konvergieren, erwägen Sie die folgenden fünf Strategien:
  1. Vergrößern Sie die Datenmenge. Eine Trennung tritt häufig auf, wenn eine Kategorie oder ein Bereich eines Prädiktors mit nur einem Wert der Antwortvariablen vorhanden ist. Ein größerer Stichprobenumfang steigert die Wahrscheinlichkeit, dass unterschiedliche Werte für die Antwortvariable vorliegen.
  2. Untersuchen Sie die Bedeutung der Trennung. Eine vollständige bzw. quasi-vollständige Trennung kann zwar auf einen zu kleinen Stichprobenumfang hinweisen, sie kann jedoch auch wichtige Beziehungen aufzeigen. Wenn die tatsächliche Wahrscheinlichkeit eines Ereignisses auf einer bestimmten Stufe oder bei einer bestimmten Kombination von Stufen nahe 0 oder 1 liegt, ist diese Information wichtig.
  3. Erwägen Sie, ein alternatives Modell zu verwenden. Je mehr Terme im Modell enthalten sind, desto wahrscheinlicher tritt für mindestens eine Variable eine Trennung auf. Bei der Auswahl von Termen für das Modell können Sie prüfen, ob die Maximum-Likelihood-Schätzwerte durch Ausschließen eines Terms konvergieren. Wenn ein nützliches Modell vorhanden ist, in dem der Term nicht verwendet wird, können Sie die Analyse mit dem neuen Modell fortsetzen.
  4. Überprüfen Sie, ob Sie Kategorien in problematischen Variablen kombinieren können. Wenn Kategorien vorhanden sind, die sinnvollerweise kombiniert werden können, kann dies die Trennung im Datensatz u. U. aufheben. Angenommen, „Obst“ ist eine Variable im Modell. „Grapefruit“ weist keine Ereignisse auf, da eine kleinere Anzahl von Versuchen durchgeführt wurde. Durch Kombinieren von „Grapefruit“ und „Orangen“ in der Kategorie „Zitrusfrüchte“ wird die Trennung eliminiert.
    Tabelle 1. Daten mit vollständiger Trennung
    Obst Ereignisse Versuche
    Grapefruit 0 10
    Orangen 5 100
    Äpfel 25 100
    Bananen 40 100
    Tabelle 2. Daten mit Überlappung
    Obst Ereignisse Versuche
    Zitrusfrüchte 5 110
    Äpfel 25 100
    Bananen 40 100
  5. Prüfen Sie, ob eine problematische kategoriale Variable eine aggregierte Variable ist. Wenn die Beziehung der nicht aggregierten Variablen mit der Antwortvariablen keine vollständige Trennung zur Folge hat, kann die Trennung durch Ersetzen der numerischen Daten beseitigt werden. Angenommen, „Beschäftigungsdauer“ ist eine aggregierte Variable im Modell. Wenn die Daten in 30-Tages-Intervallen vorliegen, enthält die niedrigste Stufe alle Ereignisse und die höchste Stufe keine Ereignisse, womit eine vollständige Trennung gegeben ist. Wenn im Modell stattdessen die Anzahl der Tage verwendet werden, beseitigt dies die Trennung.
    Tabelle 3. Daten mit vollständiger Trennung
    Kategorien der Dauer Ereignisse Versuche
    1–90 2 2
    91–180 1 2
    181–270 1 2
    271–360 0 2
    Genaue Dauer Ereignisse Versuche
    45 1 1
    60 1 1
    95 1 1
    176 0 1
    185 0 1
    241 1 1
    280 0 1
    299 0 1

Weiterführende Literatur

Weitere Information zur Trennung finden Sie in: Albert und J. A. Anderson (1984): „On the existence of maximum likelihood estimates in logistic regression models“, Biometrika 71, 1, 1-10.

Durch Ihre Nutzung dieser Website stimmen Sie zu, dass Cookies verwendet werden. Cookies dienen zu Analysezwecken und zum Bereitstellen personalisierter Inhalte.  Lesen Sie unsere Richtlinien