STATISTIK-FORUM.de

[Horst]

Hallo zusammen!

Mir sind einige Dinge nicht ganz klar und deshalb habe ich verschiedene Fragen an euch. Das Prinzip einer Kovarianzanalyse ist mir klar. Zunächst wird der Einfluss einer metrischen UV aus einer metrischen AV herausgerechnet. Danach wird geguckt, ob sich verschiedene Gruppen dann hinsichtlich der AV unterscheiden.

Nun Frage Nummer 1: Wenn ich also den Einfluss einer Kovariaten aus der AV herausrechnen will um nach Gruppenunterschieden einer UV zu gucken, muss ich doch in einer Regressionanalyse hierarchisch vorgehen oder? Mit anderen Worten: zunächst füge ich die metrische Variable ins Modell ein und danach die kategoriale Variable oder?

Frage 2: Was ist jedoch wenn ich andersrum vorgehe und erst die kategoriale Variable ins Modell aufnehme und danach die metrische Variable? Passiert dann rechnerisch genau das Gegenteil und es wird aus der metrischen Variablen der Effekt der kategorialen Variable herausgerechnet?

Ich hoffe, dass ich mich klar ausgedrückt habe! Vielen Dank!

Horst

[Holgonaut]

Hi,

du kannst beide gleichzeitig einfügen. Der einzige Sinn der hierarchischen Regression ist m.W., dass du die zusätzliche Varianzaufklärung durch Hinzufügen eines/mehrerer anderer Prädiktoren
bekommst.

Die Regressionskoeffizienten sind partiellle Koeffizienten, die den Einfluss bei Konstanthaltung des anderen Prädiktors angeben. Möglicherweise ist Deine Verwendung des Begriffs "Herausrechnen" etwas verbesserbar

Kategoriale Variablen mit mehr als 2 Kategorien musst du als mehrere dummies einfügen.

Grüße
Holger

[Horst]

Hallo Holger!

Die kategoriale Variable wird ja adjustiert und basiert auf Konstanthaltung der metrischen Kovariaten. Was stellt dann aber die metrische Variable dar? Stellt sie den Zusammenhang dar bei Konstanthaltung der kategorialen Variablen???

[Horst]

Ich möchte noch dazu sagen, dass mir das Prinzip bei der multiplebn Regression mit nur metrischen Prädiktoren völlig klar ist. Da basieren die Regressionsgewichte auf dem "einzigartigen Zusammenhang" mit einer AV, wenn der Einfluss anderer Variablen auspartialisiert wurde. Wie das aber bei kategorialen und metrischen Variablen funktionieren soll, bleibt mir schleierhaft...

[daniel]

[...] wenn der Einfluss anderer Variablen auspartialisiert wurde. Wie das aber bei kategorialen und metrischen Variablen funktionieren soll, bleibt mir schleierhaft...

Na ganz genau so. Der erste (Halb)Satz heißt ja nicht: "wenn der Einfluss anderer metrischer Variablen auspartialisiert wurde." Das Adjektiv "metrisch" fehlt nicht zufällig.

[Horst]

Also um es zusammenzufassen: Wenn wir ein Modell haben mit einem metrischen Prädiktoren und einem kategorialen, dann werden für beide Variablen Regressionsgewichte berechnet, die den jeweiligen Einfluss der UV auf die AV darstellen, wenn der Einfluss der anderen UV auspartialisiert wurde? Hab ich das richtig verstanden?

[daniel]

Ja.

[Horst]

Super! Das hat mir schon viel weitergeholfen.

Jetzt frage ich mich noch ein paar Sachen:

Frage 1: Es gibt ja bei der multiplen Regression verschiedene Methoden um Variablen in ein Modell aufzunehmen. Wenn wir "schrittweise" vorgehen, dann hätten wir ja keine Kontrollvariable im ersten Modell, sondern nur die erste UV. Das hieße ja dann, dass das partielle Regressionsgewicht im Modell mit nur einer UV unbereinigt ist und auf der Korrelation mit der AV basiert. Erst im zweiten Modell basieren die 2 Regressionsgewichte auf den semipartiellen Korrelationen mit der AV. Hier geht ja dann der Anteil an erklärter Varianz verloren, den beide zusammen erklären. Sehe ich das richtig?

Frage 2: Bei der "Einschlussmethode" kommen ja alle UVs gleichzeitig ins Modell. Heißt das, in diesem Fall hätten wir nur partielle Regressionsgewichte basierend auf den jeweiligen semipartiellen Korrelationen oder?

Frage 3: Insgesamt frage ich mich, wie der Anteil an Varianz den die verschiedenen UVs teilen können (auch mit der AV) berücksichtigt wird in der Regression. Partielle Regressionsgewichte sind ja "bereinigte" Gewichte. Setzt sich der quadrierte multiple Korrelationskoeffizient denn nur aus den quadrierten Semipartiellen Korrelationen zusammen? In diesem Fall fehlt ja der Anteil an erklärter Varianz im quadrierten multiplen Korrelationskoeffizienten, den alle UVs teilen und der gleichzeitig auch mit der AV geteilt wird.

Das sind hoffentlich meine letzten Fragen!!! Bitte noch diese Hilfe geben!!! Vielen Dank!

[daniel]

Frage 1: [...] Hier geht ja dann der Anteil an erklärter Varianz verloren, den beide zusammen erklären. Sehe ich das richtig?

Verstehe nicht, was Du mit "geht verloren" meinst.

Frage 2: Bei der "Einschlussmethode" kommen ja alle UVs gleichzeitig ins Modell. Heißt das, in diesem Fall hätten wir nur partielle Regressionsgewichte basierend auf den jeweiligen semipartiellen Korrelationen oder?

Inwiefern unterscheidet sich diese Frage von der die wir nun relativ ausführlich geklärt haben?

Frage 3: [...] Setzt sich der quadrierte multiple Korrelationskoeffizient denn nur aus den quadrierten Semipartiellen Korrelationen zusammen? In diesem Fall fehlt ja der Anteil an erklärter Varianz im quadrierten multiplen Korrelationskoeffizienten, den alle UVs teilen und der gleichzeitig auch mit der AV geteilt wird.

Auch hier verstehe ich nicht ganz, was hier wo "fehlen" soll. Ich möchte auch nicht unhöflich klingen und befasse mich ja auch gerne mit dem Kram, aber kannst Du vielleicht ein paar Deiner Fragen selbst rausbekommen, oder zumindest nochmal nachlesen? Was R-quadrat misst und welche Anteile welcher Varianzen dort wie berücksichtigt werden ist nur einen Mouseclick entfernt (http://de.wikipedia.org/wiki/Bestimmtheitsma%C3%9F).

[Horst]

Hi!

Auch bei Wikipedia gibts keine Antwort auf die Frage. Ich habe überall nachgelesen und keine Antwort gefunden. Mir ist völlig klar, wie sich R² zusammensetzt. Mir ist aber nicht klar, wie sich R² zusammensetzt bei verschiedenen Methoden der Modellbildung in der multiplen Regression. Kennt jemand hier vielleicht eine gute Quelle wo man das nachlesen kann?

@Daniel: Du sagtest, dass du nicht verstehst, was da fehlen soll. Guck mal Folgendes: Wenn du eine schrittweise Regression durchführst werden die Prädiktoren ja nacheinander hinzugefügt. Das heißt dann, dass das erste Regressionsgewicht von UV1 kein partielles Regressionsgewicht ist. Dieses Gewicht basiert auf dem Zusammenhang zwischen UV1 und AV und ist unbereinigt. Im zweiten Modell kommt ein neuer Prädiktor hinzu und dann sind beide Koeffizienten bereinigt um den Einfluss der jeweiligen anderen UV. Das heißt also, dass beide Gewichte partielle Gewichte sind. Das zweite Modell mit 2 Prädiktoren beinhaltet also nur partielle Gewichte. Die KOnsequenz müsste sein, dass die Überlappende Varianz zwischen UV1, UV2 und AV nicht berücksichtigt würde in diesem Modell. Mit anderen Worten: R² wird unterschätzt, weil der gemeinsame Anteil an Varianz fehlt.

Habe ich da einen Denkfehler?