STATISTIK-FORUM.de

[Viki]

Hallo zusammen,

ich verzweifle gerade an einer multiplen Regression mit drei Interaktionstermen und habe in ein paar Tagen Abgabe, daher hoffe ich sehr auf schnelle Hilfe.

Zur Übersicht der Prädiktoren:
1) Selbstwirksamkeit 2) Kompetenzbedürfnisbefriedigung 3) Kompetenzbedürfnisfrustration 4) Geschlecht 5) Interaktion aus 1 und Geschlecht 6) Interaktion aus 2 und Geschlecht 7)Interaktion aus 3 und Geschlecht

Die Analyse soll laut meinem Betreuer mit der Rückwärts-Methode erfolgen und auch hierarchisch sein, ich kann davon aber auch begründet abweichen.
Die Vorhersage von 1, 2 und 3 ist schon häufig gefunden, sodass ich diese Variablen in Block 1 in SPSS eingebe. Die "neuen" Variablen, die bei meiner Arbeit eigentlich von Interesse sind, kommen in Block 2.
Wähle ich für beide Blocks die Rückwärts-Methode aus, werden im Modell 1 beide Blocks zusammen betrachtet. Warum wird in diesem Fall die Hierarchie umgangen? Oder scheint das nur so? Ist es das Gleiche, als wenn ich alles in einem Block mit der Rückwärts-Methode berechne?

Eine optionale Frage noch:
Jetzt habe ich aber so viel Kritik zu stepwise-methods (also auch der backward method) gelesen, dass ich überlege, davon begründet abzuweichen und die Einschlussmethode zu wählen.
Wenn ich die beiden Blocks mit der Einschlussmethode rechne, kommt im 2. Modell (mit den interessierenden Interaktionsvariablen) natürlich ein großes Modell mit allen 7 Prädiktoren raus, was meines Verständnisses nach nicht gut ist, weil es zur Überschätzung des Modellfits führt. Habe ich tendenziell zu viele Prädiktoren im Modell, sodass die Einschlussmethode nicht in Frage kommt?

Vielen lieben Dank schonmal!!

Beste Grüße

Viki

[strukturmarionette]

Hi,

- N?

Gruß
S.

[Viki]

74

[PonderStibbons]

ich verzweifle gerade

Ach so...? https://tinyurl.com/yamhs8gq

Wähle ich für beide Blocks die Rückwärts-Methode aus, werden im Modell 1 beide Blocks zusammen betrachtet.

Wie soll es denn auch anders gehen? Die schrittweise Variablenselektion
zieht alle Variablen heran.

Wenn ich die beiden Blocks mit der Einschlussmethode rechne, kommt im 2. Modell (mit den interessierenden Interaktionsvariablen) natürlich ein großes Modell mit allen 7 Prädiktoren raus, was meines Verständnisses nach nicht gut ist, weil es zur Überschätzung des Modellfits führt. Habe ich tendenziell zu viele Prädiktoren im Modell, sodass die Einschlussmethode nicht in Frage kommt?

Anzunehmen, dass durch die stepwise Variablenselektion kein overfitting
stattfindet, weil am Ende weniger Variablen im Modell sind, wäre glatter
Selbstbetrug. stepwise Methoden sind der Königsweg zu überangepassten,
nicht auf andere Stichproben generalisierbare Modelle. Der Algorithmus
probiert stupide den Datensatz durch, bis er das relativ vorhersagefähigste
Modell für die vorliegende Stichprobe findet. Nur weil dann eventuell nur 3
oder 4 Prädiktoren übrig bleiben, heißt das nicht, dass die anderen nicht
implizit im Modell drinstecken als "durchprobiert und verworfen". Man sieht
sie nur nicht mehr, und darin liegt die Irreführung.

Nebenbei, viel kannst Du sowieso nicht herausnehmen, falls z.B. eine
Interaktion "statistisch signifikant" wird. Dann müssen beide beteiligten
Effekte 1. Ordnung auch drin sein.

Strukturmarionette hat nach der wichtigsten Angabe bereits gefragt,
n=74 für 7 Prädiktoren könnte machbar sein, schau zunächst mal auf die
Multukollinearitätsdiagnostik.

Mit freundlichen Grüßen

PonderStibbons

[Viki]

erstmal vielen Dank für deine schnelle Antwort!

Wie soll es denn auch anders gehen? Die schrittweise Variablenselektion
zieht alle Variablen heran.

Ist es dann komplett sinnlos für rückwärts in zwei Blöcken einzugeben also macht es überhaupt keinen Unterschied? Oder kommt es einfach letztendlich auf das gleiche raus..? Ich dachte die Aufnahme über zwei Blöcke wäre wenigstens die sauberere Lösung..

Anzunehmen, dass durch die stepwise Variablenselektion kein overfitting
stattfindet, weil am Ende weniger Variablen im Modell sind, wäre glatter
Selbstbetrug. stepwise Methoden sind der Königsweg zu überangepassten,
nicht auf andere Stichproben generalisierbare Modelle. Der Algorithmus
probiert stupide den Datensatz durch, bis er das relativ vorhersagefähigste
Modell für die vorliegende Stichprobe findet. Nur weil dann eventuell nur 3
oder 4 Prädiktoren übrig bleiben, heißt das nicht, dass die anderen nicht
implizit im Modell drinstecken als "durchprobiert und verworfen". Man sieht
sie nur nicht mehr, und darin liegt die Irreführung.

Dann kann ich scheinbar viel in meiner Diskussion an der Methode kritisieren

Nebenbei, viel kannst Du sowieso nicht herausnehmen, falls z.B. eine
Interaktion "statistisch signifikant" wird. Dann müssen beide beteiligten
Effekte 1. Ordnung auch drin sein.

Es werden 2 der 3 Interaktionen signifikant und sind im reduziertesten Modell mit einem der Moderatoren enthalten. Das geht also nicht und ich kann bei 2 signifikanten Interaktionen nur ein Modell mit in meinem Fall 5 Prädiktoren auswählen?

Strukturmarionette hat nach der wichtigsten Angabe bereits gefragt,
n=74 für 7 Prdiktoren könnte machbar sein, schau zunächst mal auf die
Multukollinearitätsdiagnostik.

Wurde geprüft und gibt keine Hinweise darauf.

Beste Grüße

[PonderStibbons]

Dann kann ich scheinbar viel in meiner Diskussion an der Methode kritisieren

Nicht nur scheinbar. Und tatsächlich solltest Du das Verfahren von vornherein bleiben lassen.
Außerhalb von Data Mining ist das Unfug.

"Stepwise regression is one of these things, like outlier detection and pie charts, which appear to be popular among non-statisticans but are considered by statisticians to be a bit of a joke. "
(Andrew Gelman, "Why we hate stepwise Regression")

Eine Übersicht über die Probleme: https://www.stata.com/support/faqs/stat ... -problems/

Es werden 2 der 3 Interaktionen signifikant und sind im reduziertesten Modell mit einem der Moderatoren enthalten. Das geht also nicht und ich kann bei 2 signifikanten Interaktionen nur ein Modell mit in meinem Fall 5 Prädiktoren auswählen?

Eine Interaktion ist ohne die Haupteffekte doch gar nicht interpretierbar.

Mit freundlichen Grüßen

PonderStibbons