Prüfung der Abhängigkeiten von Prädiktoren

Alle Verfahren der Regressionanalyse.

Prüfung der Abhängigkeiten von Prädiktoren

Beitragvon pendulumTN » Sa 29. Dez 2018, 02:37

Es geht um die Abhängigkeiten von 2 Prädiktoren in einem Regressionsmodell:

Ich habe ein rx1x2 von 0,07
ryx1 = 0,457
ryx2 = -0,390
r²yx1 = 0,160
r²yx2 = 0,105
beta1 = 0,487
beta2 = -0,430

R²=0,300
Anmerkung: beim r² habe ich jetzt immer das korrigierte genommen

Kann ich in dem Fall von Enhancement sprich der Nützlichkeit eines Prädiktors ausgehen, wenn gilt

beta1 > ryx1 und R² > als r²yx1+ r²yx2?

Und kann ich sagen, dass keine Suppression besteht da: ryx2/ryx1 > rx1x2? Gehe ich davom Betrag aus oder bleibt das Minus?

Danke schonmal für die Hilfe!
pendulumTN
Beobachter
Beobachter
 
Beiträge: 11
Registriert: Fr 28. Dez 2018, 17:43
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post

Re: Prüfung der Abhängigkeiten von Prädiktoren

Beitragvon PonderStibbons » Sa 29. Dez 2018, 12:29

Offen gestanden, angesichts von kleinen Verschiebungen im Bereich der
2. Nachkommastelle verstehe ich nicht, inwiefern da Interpretations- bzw.
Etikettierungsbedarf besteht. 2 weitgehend unkorrelierte Prädiktoren
werden gemeinsam in einer linearen Regression verwendet, dementsprechend
ist die gemeinsame Varianzaufklärung in etwa die Summe der beiden einfachen
Varianzaufklärungen und die Regressionsgewichte sind nahezu identisch mit
den Korrelationskoeffizienten.

Mit freundlichen Grüßen

PonderStibbons
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11362
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 51
Danke bekommen: 2501 mal in 2485 Posts

Re: Prüfung der Abhängigkeiten von Prädiktoren

Beitragvon pendulumTN » Sa 29. Dez 2018, 14:11

Danke schonmal!

Ich hatte auch den Gedanken wie du anfangs.

Ich wäre auch sonst eher davon ausgegangen, dass x1 und x2 unabhängig sind, da die Korrelaion sehr gering ist. Mich hat nur irritiert, dass die Werte ja doch nicht ungefähr gleich sind, also R² ja doch größer ist als r²yx1 + r²yx2. Gibt es da irgendeine ungefähre Richtlinie, wann man von Unabhängigkeit sprechen kann und wann von Abhängigkeit?

Ich prüfe ja erst ob ein Prädiktor nützlich, redundant etc. ist, wenn eine Abhängigkeit besteht.
pendulumTN
Beobachter
Beobachter
 
Beiträge: 11
Registriert: Fr 28. Dez 2018, 17:43
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post

Re: Prüfung der Abhängigkeiten von Prädiktoren

Beitragvon PonderStibbons » Sa 29. Dez 2018, 14:49

ryx1 = 0,457
ryx2 = -0,390
r²yx1 = 0,160
r²yx2 = 0,105

Was sind das eigentlich für Werte? R² von r=-0,39 ist 0,152. R² von 0,457 ist 0,21.
Gibt es da irgendeine ungefähre Richtlinie, wann man von Unabhängigkeit sprechen kann und wann von Abhängigkeit?

Unabhängigkeit zweier Prädiktoren ist gegeben bei rx1x2 = 0.
Redundanz fängt vermutlich irgendwo oberhalb von r=0,8 oder 0,9 an, aber da kenne ich keine Daumenregeln.

Mit freundlichen Grüßen

PonderStibbons
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11362
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 51
Danke bekommen: 2501 mal in 2485 Posts

Re: Prüfung der Abhängigkeiten von Prädiktoren

Beitragvon pendulumTN » Sa 29. Dez 2018, 15:10

Es handelt sich um die korrigierten R²- Werte. Sollte man diese verwenden oder doch lieber das normale R² ?

Bei einem rx1x2 von 0,07 finde ich es schwierig mit der ungefähren Unabhängigkeit.

Sind die Prädiktoren unabhängig , so sind die ß -Gewichte gleich den Kriteriumskorrelationen und die aufgeklärte Varianz ist die Summe der Quadrate der ß -Gewichte.

Ich habe ja jeweils ein höheres beta und mein gesamtR² ist höher als die Summe der einzelnen R², was für einen nützlichen Prädiktor spricht. Von einem nützlichen Prädiktor kann ich wiederum aber ja nur sprechen, wenn eine Abhängikeit besteht, die bei einem rx1x2 von 0,07 ja eher nicht besteht oder?

Hängt ja wahrscheinlich mit der kleineren Stichprobe und dem Standartschätzfehler zusammen. Aber ich soll halt schauen wie die Prädiktoren zueinanderstehen... :/
pendulumTN
Beobachter
Beobachter
 
Beiträge: 11
Registriert: Fr 28. Dez 2018, 17:43
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post

Re: Prüfung der Abhängigkeiten von Prädiktoren

Beitragvon PonderStibbons » Sa 29. Dez 2018, 22:17

Es handelt sich um die korrigierten R²- Werte.

Was gibt es bei einer Korrelation bzw. einfachen linearen Regression denn zu korrigieren?

Und Deine Fragen beziehen sich ohnedies auf die R², nicht die korrigierten R², wie mir scheint.

Bei einem rx1x2 von 0,07 finde ich es schwierig mit der ungefähren Unabhängigkeit.

Es ist eine niedrige Korrelation (in der Stichprobe), aber eben keine Null-Korrelation.
Also sind (in der Stichprobe) die Variablen nicht unabhängig.

Mit freundlichen Grüßen

PonderStibbons
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11362
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 51
Danke bekommen: 2501 mal in 2485 Posts

Re: Prüfung der Abhängigkeiten von Prädiktoren

Beitragvon pendulumTN » Sa 29. Dez 2018, 22:58

Naja SPSS gibt auch beim R² mit nur einem Prädiktor ein korrigiertes R² aus. Somit habe ich also immer das korrigierte R² genommen, auch wenn es darum geht wie R²yx1 + r²yx2 zum GesamtR² stehen.

PonderStibbons hat geschrieben:Offen gestanden, angesichts von kleinen Verschiebungen im Bereich der
2. Nachkommastelle verstehe ich nicht, inwiefern da Interpretations- bzw.
Etikettierungsbedarf besteht. 2 weitgehend unkorrelierte Prädiktoren
werden gemeinsam in einer linearen Regression verwendet, dementsprechend
ist die gemeinsame Varianzaufklärung in etwa die Summe der beiden einfachen
Varianzaufklärungen und die Regressionsgewichte sind nahezu identisch mit
den Korrelationskoeffizienten.


Ok aber hier hattest du gesagt, dass man hier schon davon ausgehen kann, dass dies nahezu identisch ist?

Klar, perfekt wäre es, wenn es genau identisch ist, aber wie weit darf es auseinanderklappen? Ein rx1x2 von 0,07 bedeutet für mich schon, dass diese weitesgehend unabhängig sind, und man deswegen sagen kann
β1 ~ ryx1
β2 ~ ryx2
bzw, R² ~ r²yx1 + R²yx2
pendulumTN
Beobachter
Beobachter
 
Beiträge: 11
Registriert: Fr 28. Dez 2018, 17:43
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post

Re: Prüfung der Abhängigkeiten von Prädiktoren

Beitragvon pendulumTN » Sa 29. Dez 2018, 23:02

Wie ist es denn mit der Supression?

Hier gilt doch: ryx2/ryx1 > rx1x2 dann besteht keine Suppression.

Kann ich bei ryx2/ryx1 den Betrag nehmen, da in meinem Beispiel dort ja ein Minuswert herauskommt?
pendulumTN
Beobachter
Beobachter
 
Beiträge: 11
Registriert: Fr 28. Dez 2018, 17:43
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post

Re: Prüfung der Abhängigkeiten von Prädiktoren

Beitragvon PonderStibbons » Sa 29. Dez 2018, 23:05

Ich fürchte, ich kann nicht ganz folgen. Wie gesagt, ich sehe ohnedies im vorliegenden Fall keinen Interpretationsbedarf.

Mit freundlichen Grüßen

PonderStibbons
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11362
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 51
Danke bekommen: 2501 mal in 2485 Posts

Re: Prüfung der Abhängigkeiten von Prädiktoren

Beitragvon pendulumTN » Sa 29. Dez 2018, 23:24

Um es nochmal anders zu sagen:

Mein Ziel muss es ja sein diejenigen Prädiktoren zu wählen, welche zum einen hoch mit dem Kriterium korrelieren und zum anderen untereinander eine geringe Korrelation aufweisen. Mithife des Rückwärtsverfahrens habe ich von meinen 3 Prädiktoren 1 Prädiktor bereits eleminiert, sodass diese oben beschriebenen Prädiktoren übrig geblieben sind. Zwangslöufig habe ich nun bei den 2 Prädiktoren diejenigen Prädiktoren, welche zum einen hoch mit dem Kriterium korrelieren und zum anderen untereinander eine geringe Korrelation aufweisen, richtig?

Damit habe ich 2 Prädiktoren die fast unabhängig sind und auch keine Suppression , da ryx2/ryx1 > rx1x2 --> |0,85| > 0,07 keine Suppression

Vielen Dank trotzdem schonmal!
pendulumTN
Beobachter
Beobachter
 
Beiträge: 11
Registriert: Fr 28. Dez 2018, 17:43
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post


Zurück zu Regressionanalyse

Wer ist online?

Mitglieder in diesem Forum: Google [Bot] und 5 Gäste