STATISTIK-FORUM.de

[choco86]

Hallo zusammen!
Ich schreibe gerade meine Masterarbeit über den Einfluss von Services im Einzelhandel auf den Unternehmenserfolg. Hierzu habe ich eine moderierte multiple Regression gerechnet. Leider tue ich mich etwas schwer mit der Ergebnisinterpretation und hoffe, dass ihr mir vielleicht weiterhelfen könnt.

Meine Haupthypothese ist, dass der Grad an Services einen positiven Einfluss auf den Unternehmenserfolg hat. Unternehmenserfolg habe ich operationaliert als Umsatz. Ich habe 3 Moderatoren (Anzahl der Geschäfte, Unternehmensstrategie und Erfahrung als Einzelhändler) sowie 3 Kontrollgrößen (Unternehmensgröße, Wettbewerb, Industrie). Die Moderatoren, so postuliere ich, sollen den Zusammenhang abschwächen (für Anzahl Geschäfte), verstärken (Unternehmensstrategie) und ggf. beides (Erfahrung).

Ich habe die Interaktionsterme von Services mit den drei Moderatoren gebildet und auf alle Variablen (Service, 3 Moderatoren, 3 Interaktionsterme, 3 Kontrollgrößen) den Umsatz regressiert. Dies habe ich per Einschluss gemacht. Da hierbei Multikollinarität aufgetreten ist (alle VIF >5) habe ich residual centering nach Lance (1988) angewendet (man regressiert den Interaktionsterm auf seine beiden Bestandteile und speichert das unstandardisierte Residuum als neue Variable, welche man dann anstatt das Interaktionsterms in die Regression aufnimmt). Nun liegt keine Multikollinarität mehr vor. Da jedoch beim Test auf Normalverterteilung diese nicht bestätigt werden konnte, habe ich Umsatz logarithmiert. Nun sind alles Voraussetzungen für die multiple Regression erfüllt und ich stehe vor dem Problem, dass ich nicht weiß, wie ich die Ergebnisse interpretieren kann:

Um meine Haupthypothese zu überprüfen schaue ich mir den entsprechnenden Regressionskoeffizienten für "Service" an. Dieser ist leider -0,089 – d.h. der Einfluss ist nicht wie angenommen positiv, sondern negativ. Das Ergbenis ist jedoch nicht signifikant (p>0,5). So weit so gut. Aber wie überprüfe ich meine Moderatorenhypothesen? Ich denke, anhand der Regressionskoeffizienten der Interaktionsterme (bzw. in meinem Fall der Residuen)? Dieser hat z.B. für ServicexErfahrung einen Regressionskoeffizienten von 0,005 und ist nicht signifikant (p<0,25). Mal davon abgesehen, dass der Interaktionsterm nicht signifikant ist, heißt das doch, dass Erfahrung als Einzelhändler den Einfluss von Services auf den Umsatz positiv beeinflusst und somit verstärkt, oder? Da Erfahrung in Jahren gemessen wurde, hieße das, dass mit jedem zusätzlichen Jahr, der ln Umsatz um 0,005 Einheiten steigt.

Um zu schauen, welcher Interaktionsterm den größten Einfluss hat, schaue ich mir dann doch die standardisierten Betas an. Hier hat ServicexErfahrung den Wert 0,041 , ServicexUnternehmensstrategie den Wert -0,05 und ServicexAnzahl Geschäfte den Wert 0,005. Somit hat Erfahrung den größten Einfluss, gefolgt von Anzahl Geschäfte und der Unternehmensstrategie – richtig?

Es tut mir Leid, dass dieser Post recht lang geworden ist, aber ich wollte euch alle nötigen Informationen geben, damit ihr leichter nachvollziehen könnte, wo mein Problem liegt. Vielleicht habe ich gerad auch einfach eine Denkblockade, aber es wäre super, wenn mir jemand weiterhelfen könnte!
Viele Dank und viele Grüße!

[daniel]

Ich vermute

residual centering nach Lance (1988)

bezieht sich auf
Lance, C. E. (1988). Residual centering, exploratory and confirmatory moderator analysis, and decomposition of effects in path models containing interactions. Applied Psychological. Measurement, 12(2): 163-175.
(Vollständige Literaturangaben verbessern die Nachvollziehbarkeit des posts, und sparen interessierten Mitlesern Zeit beim Auffinden der Quellen).

Die Methode scheint mir intuitiv einigermaßen einleuchtend, allerdings wird in der Statisitksoftware (hier: Stata) exakt der gleiche Punktschätzer und Standardfehler für den Interaktionsterm ausgegeben, wie mit der "unzentierten" Methode (es ist also [ohnehin] fraglich, ab wann Multikollinearität für Software tatsächlich problematisch wird). Eschambadi und Hess (2007) behaupten zudem zeigen zu können, dass die konditionalen Haupteffekte (dazu weiter unten mehr) mit dieser Methode verzerrt geschätzt werden (Eschambadi et al., 2006). Ich habe das nur überflogen, aber könnte mir vorstellen, dass die Verzerrung etwas mit der Problematik des ROR Verfahrens zu tun hat (vgl. dazu King, 1986:667ff).

Zum Vorgehen. Ich würde nicht direkt ein "volles" Modell mit allen 3 Interaktionstermen schätzen. Dieses Vorgehen maximiert die Kollinearitätsprobleme und macht die Ergebnisse zudem schwieriger zu interpretieren. Besser wäre es m.E. ein Modell für jede Moderation zu schätzen. Am Ende kannst Du dann evtl. nochmal alles in ein Packet schnüren. Wenn sich aber in den einzelen Modellen schon nichts zeigt, dann bin ich nicht sicher, inwiefern ein Gesamtmodell noch lohnt.

Zur Interpretation. Vorab, ich bin nicht sicher, wie die konditionalen Haupteffekte zu interpretieren sind, wenn die Residuen aus der Regression der Interaktionsterme auf ihre Bestandteile kontrolliert werden. Dazu kann ich also wenig sagen. Zu anderen, allgemeineren Konzepten dafür mehr.

Um meine Haupthypothese zu überprüfen schaue ich mir den entsprechnenden Regressionskoeffizienten für "Service" an.

Nein. Das ist nämlich, sobald Interaktionsterme im Modell sind, kein Haupteffekt mehr, sondern ein konditionaler Haupteffekt. Der Koeffizient gitb an, welchen Effekt Service hat, wenn alle anderen Variablen im selben Modell, die mit Service eine Interaktion bilden den Wert 0 annehmen. Eine, für Forenverhältnisse recht ausführliche, und nach der Anzahl der clicks zu urteilen hoffentlich hilfreiche Diskussion dieses Konzeptes der Interpretation von Regressionsmodellen mit Interaktionen findest Du z.B. hier: regressionanalyse-f11/interaktionseffekt-t1190.html

Dieser hat z.B. für ServicexErfahrung einen Regressionskoeffizienten von 0,005 und ist nicht signifikant (p<0,25). Mal davon abgesehen, dass der Interaktionsterm nicht signifikant ist, heißt das doch, dass Erfahrung als Einzelhändler den Einfluss von Services auf den Umsatz positiv beeinflusst und somit verstärkt, oder?

Bis zu diesem Punkt stimme ich zu.

Da Erfahrung in Jahren gemessen wurde, hieße das, dass mit jedem zusätzlichen Jahr, der ln Umsatz um 0,005 Einheiten steigt.

Ich würde sagen, so stimmt das nicht ganz. Eine Interaktion (Moderation) ist ja der Effekt eines Moderators (in diesem Fall: Erfahrung) auf den Effekt eines anderen Prädikators (in diesem Fall: Service) -- nicht auf das outcome (in diesem Fall: Umsatz). Mit jedem zusätzlichen Jahr, steigt also der Effekt von Service auf (log) Umsatz um 0,005. Mit anderen Worten: wie Service den (log) Umsatz beeinflusst, ist von der Ausprägung der Erfahrung abhängig. Du hast das oben korrekt beschrieben, es kann sein, dass ich Deine Interpretation einfach missverstehe.

Um zu schauen, welcher Interaktionsterm den größten Einfluss hat, schaue ich mir dann doch die standardisierten Betas an.

Zur Verwendung standardisierter Koeffizienten möchte ich King (1986) empfehlen. Dort wird gezeigt, dass dieses Vorgehen i.d.R. unsinnig ist. (Eine kurze Diskussion dazu findest Du im Forum z.B. hier: regressionanalyse-f11/dummies-lin-reg-mit-interpretieren-t1753.html).

Allgemein wären Informationen zum sample (v.a. Stichprobengröße) vielleicht noch interessant.


Eschambadi, R., Hess, J., D. (2007). Mean-Centering Does Not Alleviate Collinearity Problems in Moderated Multiple Regression Models. Marketing Science, 26(3): 438-445.

Echambadi, R., Arroniz, I., Reinartz, W., Lee, J. (2006). Empirical generalizations from brand extension research: how sure are we? International Journal of Research in Marketing 23(3): 253-261.

King, G. (1986). How Not to Lie with Statistics Avoiding Common Mistakes in Quantitative Political Science. American Journal of Political Science, 30(3): 666-687.

[Holgonaut]

Hi Daniel,

Zum Vorgehen. Ich würde nicht direkt ein "volles" Modell mit allen 3 Interaktionstermen schätzen.

Das Problem dabei ist allerdings, dass man auch Produktterme gegenseitig kontrollieren sollte, um nicht Scheinmoderatoren zu finden. Das lässt sich leicht
simulieren: Du hast eine X-Y-Beziehung, die von A moderiert wird. A korreliert nun mit B (was überhaupt keine Rolle für das Modell spielt). Nimmst du einen B*X-Term
in das Modell, wird der signifikant. Bei Hinzunahme von A*X verschwindet der aber....

Die Konsequenzen, die du schilderst, stimmen natürlich auch wieder. Ein Dilemma.

Was ich mich konzeptionell frage: Was bedeutet es überhaupt, wenn eine Beziehung von zwei Moderatoren moderiert wird. Der eine Moderator biegt die Regressionsfläche ja schon und wo
kommt da der andere Moderator ins Spiel???

Gruß
Holger

[choco86]

Hallo Daniel!

Zunächst einmal danke für deine sehr ausführliche Antwort und die vielen Literaturangaben.

Ja, ich meine den von dir genannten Artikel von Lance. Tut mir Leid wegen der vergessenen Quellangabe.

Ich rechne mit SPSS und wenn ich kein residual centering anwende, liegt wie gesagt Multikollinarität vor. Ich soll explizit alle Moderatoren gleichzeitig in das Modell aufnehmen - mein Professor wünscht dies um genau die von Holgonaut angesprochene Problematik zu umgehen. Ich werde aber auch noch einmal alles schrittweise rechnen, da ich wie auch schon gesagt, mich sehr schwer tue mit der Interpretation. Eigentlich habe ich auch noch drei weitere Moderatoren, die ich hier nur nicht erwähnt habe, da das grundsätzliche Problem ja das gleiche ist. Insgesamt ist das Gebiet, das ich erforsche erst zweimal adressiert worden - beide Male mit unterschiedlichen Ergebnissen die nicht signifikant waren. Somit ist es durchaus möglich, dass auch bei meiner Untersuchung keine Ergebnisse zu Tage kommen...

Danke für den Link bzgl. der Interpretation der Koeffizienten.
"Mit anderen Worten: wie Service den (log) Umsatz beeinflusst, ist von der Ausprägung der Erfahrung abhängig. Du hast das oben korrekt beschrieben, es kann sein, dass ich Deine Interpretation einfach missverstehe."
Ja, so meinte ich das- da habe ich mich ungünstig ausgedrückt.

Mein Sample umfasst 110 Händler. Ich musste leider 35 eliminieren, da sie nachträglich nicht mehr den Ansprüchen des Samples genügten.

Du würdest also an meiner Stelle sukzessive die Moderatoren hinzu nehmen und schauen, wie sich das korrigierte R^2 verändert und letztendlich nur die signifikanten Moderatoren und Interaktionsterme in das final "volle" Modell aufnehmen, richtig?

Viele Grüße,
choco86

[daniel]

Mein Sample umfasst 110 Händler.

Da wird es dann aber schon eng. Wenn ich richtig verstehe, hast Du (mit den von Dir zuvor nicht berichteten Variablen/Moderatoren) dann ein Modell mit 1 zentralem Prädikator (Service) + 6 Moderatoren + 6 Interaktionen + 3 Kontrollvariablen im Sinn? Ich würde nicht erwarten da irgendwelche (signifikanten) Effekte zu finden.

Ich soll explizit alle Moderatoren gleichzeitig in das Modell aufnehmen - mein Professor wünscht dies um genau die von Holgonaut angesprochene Problematik zu umgehen

Holger, und Dein Prof. haben natürlich recht mit ihrem Einwand. Nichtsdestotrotz würde ich in der Tat die Modelle zunächst einzeln schätzen, also für jede Moderation ein Modell. Wenn da schon nichts signifikant wird, dann istv es unwahrscheinlich, dass es im vollen Modell singifikant wird. Selbst wenn (den Effekt, den Holger beschreibt umgekehrt) eine Art Suppression vorliegt, bezweifele ich, dass ein dermaßen großes Modell mit diesen geringen Fallzahlen signifikante Ergebnisse liefern wird.

Du würdest also an meiner Stelle sukzessive die Moderatoren hinzu nehmen und schauen, wie sich das korrigierte R^2 verändert [...]

Auf korrigierte R-Quadrats gebe ich nicht allzu viel, weil ich (und ich vermute Du auch) an den Koeffizienten einzelner Prädikatoren bzw. Interaktionen interessiert bin -- weniger daran, wie viel Varianz* mein Modell erklären kann (vgl. den Artikel von King).

Ich rechne mit SPSS und wenn ich kein residual centering anwende, liegt wie gesagt Multikollinarität vor

Die Frage ist nicht so sehr, ob Multikollinearität vorliegt, sondern welche Auswirkungen das hat. Wenn die Punktschätzer (und Standardfehler) vor und nach der Anwendung einer bestimmten Methode (von der nach wie vor im Raum steht, dass sie zur Verzerrung der konditionalen Haupteffekte führt) exakt die gleichen sind, dann ist die Kollinearität entweder kein Problem, oder aber sie wird durch die verwendete Methode nicht behoben. In beiden Fällen scheint mir die Anwendung der (fragwürdigen) Methode überflüssig.
Zudem ist anzumerken, dass die VIFs hoch oder niedrig sind. Inwiefern daraus Multikollinearitätsprobleme folgen, ist ohne Weiteres nicht zu folgeren (vgl. die angegebene Literatur von Eschambadi, zusätzlich O'Brien, 2007).

Hi Holger.

Was ich mich konzeptionell frage: Was bedeutet es überhaupt, wenn eine Beziehung von zwei Moderatoren moderiert wird. Der eine Moderator biegt die Regressionsfläche ja schon und wo
kommt da der andere Moderator ins Spiel???

Du weißt ja, dass ich nicht so der "graphische" Typ bin (v.a. wenn es in n-Dimensionale Räume geht, wobei n > 3). Wenn man die Regressionsgleichung aufschreibt, dann sehe ich da kein Problem. Eine Moderation ist dann quasi auch eine Art konditionaler Effekt, nämlich der (Interaktions)Effekt an der Stelle, an der der andere Moderator den Wert 0 annimmt.
Wird denn die gebogene Regressionsfläche nicht einfach weiter, oder aber in eine andere Richtung gebogen? Kann man ja vielleicht mal simulieren, und eine Grafik erstellen (R hat doch soweit ich weiß eine tolle 3-D Grafik zu bieten). Interessant wird es bei dreifach Interaktionen, bei denen also eine Moderation nocheinmal Moderiert wird.


* Ich weiß, dass das korrigierte R-Quadrat nicht dem Anteil erklärter Varianz entspricht.


O'Brien, Robert M. (2007). A Caution Regarding Rules of Thumb for Variance Inflation Factors. Quality & Quantity, 41:673-690.

[choco86]

Da wird es dann aber schon eng. Wenn ich richtig verstehe, hast Du (mit den von Dir zuvor nicht berichteten Variablen/Moderatoren) dann ein Modell mit 1 zentralem Prädikator (Service) + 6 Moderatoren + 6 Interaktionen + 3 Kontrollvariablen im Sinn? Ich würde nicht erwarten da irgendwelche (signifikanten) Effekte zu finden.

Ja, ich habe einen zentralen Prädikator, 6 Moderatoren, 6 Interaktionen und sogar ggf. 4 Kontrollvariablen. Ursprünglich war ein doppelt so großes Sample geplant, aber mir läuft gerad die Zeit davon. Die Datenerhebung war sehr aufwendig.

[...]würde ich in der Tat die Modelle zunächst einzeln schätzen, also für jede Moderation ein Modell. Wenn da schon nichts signifikant wird, dann istv es unwahrscheinlich, dass es im vollen Modell singifikant wird.

Mmmmh, das habe ich auch schon vermutet. Ggf. werden Daten zu einem späteren Zeitpunkt weiter erhoben - das könnte das Problem dann beheben. Für mich ist es gerad sehr ungünstig, da quasi keine meiner Hypothesen angenommen werden kann

Danke noch einmal für deine Hilfe!

[choco86]

Hallo nochmal!

Ich habe nun, wie vorgeschlagen, jeden Moderator einzeln getestet. Obgleich Echambadi et al. 2006 und Echambadi & Hess 2007 vom Residual Centering abraten bzw. die Verzerrung der Koeffizienten hierdurch postulieren, habe ich die Regressionen mit Service, einem Moderator, dem Residuum des entsprechenden Interaktionsterms sowie den 4 Kontrollvariablen gerechnet. Hierbei stellte sich heraus, dass KEIN Interaktionsterm (bzw. Residuum des Interaktionsterms) signifikant ist, wie von Daniel vermutet. Dennoch habe ich eine generelle Frage zu Interpretation der Vorzeichen der Koeffizienten.

Ein Beispiel: Ich habe ln_sales als abhängige Variable auf Service, Produktkategorie, das Residuum des Interaktionsterms und die vier Kontrollvariablen regressiert. R² des Modells ist 0,908.

Service hat ein B=-0,251 und ist signifikant mit p<0,1. Das Residuum des Interaktionterms hat ein B=0,262 und ist nicht signifikant (das sei aber gerade mal nicht relevant). Grundsätzlich heißt das doch, dass Service alleine einen negativen Einfluss auf den log Umsatz (ln_sales) hat, weil das Vorzeichen negativ ist. Das B des Interaktionsterms ist jedoch positiv – heißt das, der Moderator Produktkategorie schwächt den negativen Einfluss ab? Oder verstärkt er ihn? Ich habe etwas Probleme damit, dass das B von Service negativ und das B vom Residuum des Interaktionsterms positiv ist.

Bei Service und Sortimentsbreite sind sowohl das B von Service als auch vom Residuum des Interaktionsterms der beiden negativ. Hier würde ich rein logisch sagen, dass die Sortimentsbreite den negativen Zusammenhang von Service und log Umsatz "noch mehr negativ beeinflusst", und somit verstärkt.

Ich hoffe, ihr versteht was ich meine. Ich habe mir dazu u.a. Nye, Lendell G.; Witt, L. Alan (1995): Interpreting Moderator Effects: Substitute for the Signed Coefficient Rule. In: Educational and Psychological Measurement 55 (1), S. 27–31 angeschaut, werde daraus aber leider nicht ganz schlau.

Vielen Dank im Voraus für Eure Hilfe.

[daniel]

Ich verstehe nicht, wieso Du ein Verfahren verwendest, dass (vermutlich) zu verzerrten Punktschätzern führt, wenn dadurch offensichtlich nichts weiter erreicht wird, als den VIF zu senken.

Bei der Interpretation kann ich Dir, wie bereits geschrieben, leider nicht groß helfen, da mir unklar ist, was es mit diesem residualisierten Interaktionsterm auf sich hat. Was ich sagen kann ist, dass diese Aussage

Grundsätzlich heißt das doch, dass Service alleine einen negativen Einfluss auf den log Umsatz (ln_sales) hat, weil das Vorzeichen negativ ist.

mit höchter Wahrscheinlichkeit falsch ist. Wie bereits beschrieben, ist das kein Haupteffekt,* und kann daher auch nicht wie ein Haupteffekt interpretiert werden. Schau Dir die Diskussion hinter dem link, den ich gepostet aheb nochmal an. Für die Interpretation ist es m.E. sehr hilfreich, sich die Regressionsgleichung aufzuschreiben und verschiedene Werte für die einzelnen Prädikatoren einzusetzen.


* Es sei denn die Residualisierung, die ja statistische Unabhängigkeit der Einzelprädikatoren und ihrer Interaktion bewirkt, macht diese Interpretation möglich. Das ist m.E. unplausibel, weil ja nach wie vor durch die Interaktion potuliert wird, dass ein Prädikator alleine keinen konstanten Effekt hat. Der Koeffizient spiegelt daher den Effekt des Pärdikators an einer bestimmten Stelle (bzw. Ausprägung) des anderen Prädikators wider.

[Holgonaut]

Moin Leute,

warum soll eigentlich residuel centering die Effekte verzerren? Das schockt mich jetzt etwas, weil ich mich einige Zeit mit der Schätzung latenter Interaktionseffekte in SEM beschäftigt hab und zum Schluss kam, dass residual centering die einfachste Methode ist.

Little, T. D., Bovaird, J. A., & Widaman, K. F. (2006). On the merits of orthogonalizing powered and product terms: Implications for modeling interactions among latent variables. Structural Equation Modeling, 13(4), 497-519.

Steinmetz, H., Davidov, E., & Schmidt, P. (2011). Three approaches to estimate latent interaction effects: Intention and perceived behavioral control in the theory of planned behavior. Methodological Innovations, 6(1), 95-110.
http://www.pbs.plym.ac.uk/mi/pdf/09-06- ... fed%29.pdf