STATISTIK-FORUM.de

[May5512]

Hallo

ich möchte gerne eine schrittweise multiple Regression durchführen, um den Effekt von einzelnen Prädiktoren auf meine unabhängige Variable zu sehen, habe aber so einige Dummy-Variablen (pro Prädiktor mehrere), die da mit rein müssen.

Drei Fragen dazu:

1. Gibt es da etwas zu beachten was schrittweise Regression mit Dummy-Variablen angeht?

Bei Dummy-Variablen lässt man ja eine als Referenz außen vor. 2. Müsste ich die Regression dann mehrfach in den verschiedenen Kombinationen durchführen, um den Einfluss jeder Dummy-Variable zu prüfen?

Ich schätze, die einzelnen Dummy-Variablen, die zusammengehören, sollten bei der schrittweisen Regression auch in einen Block.
3. Könnten da noch weitere Kategorien an Dummy Variablen hinzukommen oder würde es das Ganze zu komplex machen?

Ich würde mich über eine Antwort freuen, weil ich das zum ersten Mal mache und gerade etwas verloren bin.
Dankeschön!

[PonderStibbons]

1. Gibt es da etwas zu beachten was schrittweise Regression mit Dummy-Variablen angeht?

Zu welchem Zweck schrittweise?

3. Könnten da noch weitere Kategorien an Dummy Variablen hinzukommen oder würde es das Ganze zu komplex machen?

Ich muss gestehen, dass ich die Frage nicht verstehe.

Vielleicht schilderst Du das einmal zusammenhängend, also Thema/Fragestellungen,
welche Variablen werden einbezogen, wie groß ist die Stichprobe.

Mit freundlichen Grüßen

PonderStibbons

[May5512]

Hallo und vielen Dank für die Antwort

Ich möchte neben dem Effekt der Variablen auch sehen, ob sich mit dem Hinzufügen oder Weglassen von Variablen die Varianzaufklärung verändert, um zu schauen, ob gewisse Variablen einen stärkeren (ist hat keinen) Einfluss auf das gesamte Modell haben als andere. Das ist der Grund für dieses Vorgehen.

Wenn ich das richtig verstanden habe, fügt man entweder einzelne Items nacheinander zur Regression hinzu oder blockweise.
Ist es sinnvoll, Dummy-Variablen einzeln oder als Gruppe/Block zu testen/hinzuzufügen?
Sagen wir mal, ich hätte Dummy-Variablen für die Kategorie "Geschlecht" und die Dummy-Variablen für die Kategorie "Job":
Ich hätte gesagt, dass ich "Job 1", "Job 2", "Job 3"... zwar gemeinsam zum Modell hinzufüge, aber getrennt von den Dummy-Variablen zum Geschlecht (also ohne "männlich" "weiblich" "divers").
Die Frage ist aber, ob man sogar die einzelnen Dummy-Variablen einer Kategorie einzeln hinzufügen muss.
Also ob ich in Schritt 1 nur "weiblich" habe, dann "divers" dazu kommt etc. und das gleiche anschließend beim Job, also erst "Job 1", im nächsten Schritt dann "Job 2" etc.

Oder ob "weiblich" plus "divers"zusammen als Gruppe/Block hinzukommt und in nächsten Schritt dann dann "Job 1", "Job 2", "Job 3" zusammen als Gruppe.

Und als Referenz muss man ja sicherlich wie bei einer "üblichen" multiplen Regression eine Dummy-Variable pro Kategorie rauszulassen, richtig?

Vielen Dank und mit freundlichen Grüßen

May5512

[PonderStibbons]

Ich möchte neben dem Effekt der Variablen auch sehen, ob sich mit dem Hinzufügen oder Weglassen von Variablen die Varianzaufklärung verändert,

Tun sie doch zwangsläufig,

um zu schauen, ob gewisse Variablen einen stärkeren (ist hat keinen) Einfluss auf das gesamte Modell haben als andere.

Das kann die "schrittweise" (hierarchische) Methode doch gar nicht leisten. Das Hinzufügen vergrößert die Varianzaufklärung.
Wie stark, das hängt von den Interkorrelationen der Prädiktoren und natürlich der Reihenfolge des Hinzufügens ab.

Ist es sinnvoll, Dummy-Variablen einzeln oder als Gruppe/Block zu testen/hinzuzufügen?

Wenn mehrere Dummies gemeinsam eine Variable repräsentieren, dann werden sie als Block aufgenommen.

Mit freundlichen Grüßen

PonderStibbons

[May5512]

Ja, deshalb fand ich eine schrittweise Regression hilfreich. Bei einer "üblichen" würde ich ja nur den Wert für die gesamte Varianzaufklärung sehen.


Ich dachte, der Wert der Varianzaufklärung kann auch gleich bleiben, wenn man Variablen hinzufügt. Das würde doch bedeuten, dass die Variable nicht besonders nützlich für das Regressionsmodell ist, richtig?

Vielen Dank! Das hilft sehr.

Haben Sie noch einen Tipp, wie man die Reihenfolge der Variablen bestimmt, die man hineingibt?

[PonderStibbons]

Ja, deshalb fand ich eine schrittweise Regression hilfreich. Bei einer "üblichen" würde ich ja nur den Wert für die gesamte Varianzaufklärung sehen.

Bei hierarchischem Vorgehen siehst Du doch zusätzlich nur die Änderung im R². Und die kann von der
gewählten Reihenfolge abhängen. Wenn man zur Vorhersage von Intelligenz einer Person erst IQ der
Mutter eingibt und dann Einkommen des Vaters, hat im ersten Schritt IQ eine große und im zweiten
Schritt das Einkommen eine geringe zusätzliche Varianzaufklärung. Wenn man erst Einkommen des
Vaters eingibt und danach IQ der Mutter, leistet IQ der Mutter eine weitaus geringere zusätzliche
Varianzaufklärung als im ersten Modell. Was man damit gewinnt, weiß ich nicht.

Es gibt z.B. auch Suppressorvariablen. Die sind mit der AV gering korreliert und erhöhen zugleich
das R².

Haben Sie noch einen Tipp, wie man die Reihenfolge der Variablen bestimmt, die man hineingibt?

Alle zusammen. Eine einleuchtende theoretische oder methodische Begründung für ein
hierarchisches Vorgehen, die ist - zumindest für mich - im vorliegenden Fall noch nicht
ersichtlich.

Mit freundlichen Grüßen

PonderStibbons

[bele]

Hallo,

dann gebe ich mal meinen Senf dazu. Schrittweiser Einschluss kann zweierlei bedeuten: Wildes oder systematisches Herumprobieren, welche Prädiktoren irgendwie ein schönes R² und einen schönen p-Wert ergeben. Das ist unseriös und das sollte man lassen.

Schrittweiser Einschluss kann aber auch gezielte Fragen beantworten. Wenn mich wirklich interessiert, wieviel ein bestimmter fünfter Prädiktor noch bringt, wenn die anderen vier schon im Modell ist, dann ist das sinnvoll und dann kann man auch testen, ob ein Prädiktor noch eine signifikante Verbesserung bringt, wenn mit ihm korrelierte schon im Modell sind. Da wir Deine Studie und Deine Fragestellung nicht kennen können wir grundsätzlich gar nicht sagen, was für Dich sinnvoll erscheint. Wenn eine gute theoretisch begründete Fragestellung das rechtfertigt kannst du nicht nur einzelne Größen (wie Job) sondern auch Pakete von Größen blockweise einschließen für Fragen wie "Was bringt der zusätzliche Einschluss soziodemographischer Variablen noch, wenn ich die Persönlichkeit schon im Modell habe?".

Wie gesagt, wir können das gar nicht beantworten, das erfordert präzise Kenntnis Deiner Studienziele. Wir können nur vor wildem Herumprobieren warnen.

LG,
Bernhard