Die binäre logistische Regressionsgleichung lautet:
Legende:
y: abhängige Variable mit zwei Merkmalen
P(y=1): Wahrscheinlichkeit, dass y = 1
e: Eulersche Zahl / Basis des natürlichen Logarithmus
xn: unabhängige Variablen
βn: Regressionskoeffizienten
Aussehen der logistischen Funktion
Bei der binären Regression werden die beiden Merkmale der AV mit 0 und 1 kodiert. Das bedeutet, dass die logistische Funktion auch nur Werte zwischen 0 und 1 annehmen kann. Der Graph bildet hier im Gegensatz zu den linearen Analysen keine Regressionsgerade mehr, sondern verläuft s-förmig, symmetrisch und asymptotisch gegen y=0 und y=1. Das Ergebnis der logistischen Regressionsanalyse besagt, mit welcher Wahrscheinlichkeit eine unabhängige Variable in der Bedingung der abhängigen Variable zu finden ist. Logistische regression beispiel. Voraussetzung für die logistische Regressionsanalyse
Auch hier sollten die unabhängigen Variablen untereinander nicht hoch korreliert sein. Außerdem gilt:
Die abhängige Variable ist binär und 0-1-kodiert. Die unabhängigen Variablen sind metrisch oder im Falle kategorialer Variablen ebenfalls kodiert.
- Logistische regression beispiel
Logistische Regression Beispiel
kodiert als 1)
Vielleicht stellen Sie sich an diesem Punkt die Frage, warum eine lineare Regression für die Modellierung von binären abhängigen Variablen nicht die optimale Methode ist. Würde man die Wahrscheinlichkeit für ein beliebiges Ereignis Y=1 mittels eines einfachen linearen Regressionsmodells bestimmen, sähe dieses Modell grafisch folgendermaßen aus:
Das zugehörige lineare Regressionsmodell lautet:
$$ Y_i = P(Y_i = 1) + e_i = \beta_0 + \beta_1 \cdot x_{i1} + e_i $$
Eine einfache lineare Regression modelliert die Werte, die sich auf der roten Regressionsgerade befinden. Theoretisch ist ihr Wertebereich [-∞, ∞]. Wie in der oberen Grafik zu sehen ist, nehmen die Werte der abhängigen Variablen aber nur die Werte 0 und 1 an. Stolperfalle logistische Regressionskoeffizienten und Odds Ratios. Aus diesem Grund ist es sinnvoll, den Wertebereich für die Vorhersagen auf den Bereich [0, 1] zu beschränken und folglich mit Wahrscheinlichkeiten zu arbeiten. Konkret treten folgende Probleme bei der Modellierung einer binären abhängigen Variablen durch eine lineare Regression auf:
Die linke Seite der Regressionsgleichung ist binär (es treten nur die Werte 0 und 1 auf), die rechte Seite ist metrisch skaliert.
Die Logits beheben dieses Problem, da sie symmetrisch um die Null sind (\(\ln\left(\frac{0. 7}\right)=-0. 85\) und \(\ln\left(\frac{0. 3}\right)=0. 85\)). Die Odds-Ratio setzt nun die Odds in Relation: $$\text{OR}=\frac{\text{odds}(x_{i, p}+1)}{\text{odds}(x_{i, p})}=\frac{\frac{G(x_{i, p}+1)}{1-G(x_{i, p}+1)}}{\frac{G(x_{( i)})}{1-G(x_{( i)})}}=\frac{exp(\beta_0+\beta_1x_{i, 1}+... +\beta_j(x_{i, p}+1)+... SPSS Statistics für leistungsstarke Daten | SIEVERS-GROUP. +\beta_Px_{i, P})}{exp(\beta_0+\beta_1x_{i, 1}+... +\beta_px_{i, p}+... +\beta_Px_{i, P})}=exp(\beta_p), $$ wobei \(G(x_{( i)})=\frac{exp(\beta_0+\beta_1x_{i, 1}+... +\beta_Px_{i, P})}{1+exp(\beta_0+\beta_1x_{i, 1}+... +\beta_Px_{i, P})}\). Ist die Odds-Ratio größer als Eins, bedeutet dies, dass die Variable \(X_p\) einen positiven Effekt auf die abhängige Variable hat, denn die Odds (die "Chance"/das "Risiko") sind größer, wenn man die Variable um eins erhöht (ceteris paribus). Bei einer Odds-Ratio von kleiner Eins hat diese Variable einen negativen Einfluss. Bei \(\text{OR}=1\) hat \(X_p\) keinen Einfluss, da die Odds gleich sind.