STATISTIK-FORUM.de

[peterpan]

Hallo zusammen,

ich bin dabei, die grundsätzlichen Bedingungen einer linearen univariaten Regression in Excel zu testen. Dabei schaue ich mir u.a. an, ob der Erwartungswert der Residuen gleich null ist. Den Residual plot habe ich generiert, der Mittelwert der Residuen entspricht in der Tat null. Ist das schon der Erwartungswert oder muss ich zur Ermittlung des Erwartungswert die jeweiligen Residuen noch mit Wahrscheinlichkeiten multiplizieren? Irgendwie habe ich da gerade ein totales Brett vor dem Kopf...

Vielen Dank für eure Hilfe!
Peter

[daniel]

Das ist in der Tat der Erwartungswert -- allerdings der globale. Die Annahme, dass der Erwartungswert der Residuen Null ist, beinhaltet aber auch, dass der lokale Erwartungswert Null ist. berprüfen kannst Du das, indem Du in einem ersten Schritt die Residuen gegen die Vorhergesagten Werte plottest. Für jeden vorhergesagten Wert (also jeden Punkt der x-Achse) muss der Mittelwert der Residuen bei Null liegen.

In einer einfach-Regression solltest Du Dir schlicht einen scatterplot anschauen, bei dem Du das outcome gegen den Prädikator plottest. Hier erkennst Du, ob ein linearer Zusammenghang gegeben ist, ob es "Ausreißer" in den Daten gibt.

[peterpan]

Hallo Daniel,

danke für deine schnelle Antwort. Ich bin mir noch nicht sicher, wie ich diesen Test durchführen könnte:

Die Annahme, dass der Erwartungswert der Residuen Null ist, beinhaltet aber auch, dass der lokale Erwartungswert Null ist. berprüfen kannst Du das, indem Du in einem ersten Schritt die Residuen gegen die Vorhergesagten Werte plottest. Für jeden vorhergesagten Wert (also jeden Punkt der x-Achse) muss der Mittelwert der Residuen bei Null liegen.

Wenn ich Punkt für Punkt vorhergesagten Wert und Residual vergleiche, dann kann ich doch keinen Mittelwert mehr ablesen? Ist es nicht so, dass die Mechanik der OLS sicher stellt, dass die Summe der Residuen gleich Null ist und so die Bedingung oben erfüllt ist (vorausgesetzt man hat keinen Strukturbruch in den Daten)?

[daniel]

Wenn ich Punkt für Punkt vorhergesagten Wert und Residual vergleiche, dann kann ich doch keinen Mittelwert mehr ablesen?

Du sollst die vorhergesagten Werte in einem Punktdiagramm gegen die Redisuen abtragen. Dabei sollte eine unsystematisch um Null schwankende Punktewolke sichtbar sein, die für jeden beliebigen x-Wert einen Mittelwert von Null hat (grafische Inspektion, also in etwa).

Ist es nicht so, dass die Mechanik der OLS sicher stellt, dass die Summe der Residuen gleich Null ist und so die Bedingung oben erfüllt ist (vorausgesetzt man hat keinen Strukturbruch in den Daten)?

Peinlich, ich bin gerade nicht sicher. OLS minimiert die Fehlerquadratsumme. Ob das immer zum Ergebniss von exakt Null für den (globalen, der wie gesagt sekundär ist) Mittelwert der empirischen Residuen führt ist mir nicht ganz klar. Definitiv ist es nicht so, wenn Du keine Konstante schätzt.

[Frequentist]

Ist es nicht so, dass die Mechanik der OLS sicher stellt, dass die Summe der Residuen gleich Null ist und so die Bedingung oben erfüllt ist (vorausgesetzt man hat keinen Strukturbruch in den Daten)?

Das ist (soweit) richtig. Es liegt in der Natur der KQ-Methode, das der empirische Mittelwert der Residuen nahe Null ist. Alles andere wäre auch eine angewandte Entäuschung. Dswegen ist es auch völlig wertlos diesen Mittelwert zur Überprüfung des Erwartungswert der Fehler zu verwenden. Hingegen ist es sinnvoll die von daniel vergeschlagenen Plots zu benutzen. Hierbei sollten die Punkte willkürlich verlaufen (z.B. darf kein kurven artiger Verlauf erkennbar sein) und gleichmäßig um Null streuen.

Ach daniel, wärst du so lieb und könntest du bitte globale und lokale Erwartungswerte näher erläutern?

Liebe Grüße
F

[daniel]

Die Terminologie globler bzw. lokaler Mittelwerte/Erwartungswerte wird bei Kohler und Kreuter (2012) bei der Dsikussion der Überprüfung der Annhamen einer linearen Regression verwendet.

Bezogen wird dieser Kontrast auf den plot der Residuen gegen die vorhergesagten Werte.Ich versuche mal ein Beispiel zu beschreiben (ich habe gerade keine Zeit Daten zu simulieren). Nehmen wir an, wir plotten die Residuen (y-Achse) gegen die vorhergesagten Werte der Regerssion (x-Achse). Nun haben wir bei geringen Werten der x-Achse nur positiv von Null abweichende Residuen, bei hohen x-Werten dagegen nur negative Abweichungen. Im Mittel, also über alle x-Werte und damit in der Terminologie global sind diese Abweichungen Null. Dennoch ist die Annahme verletzt, da der lokale, i.e. an bestimmten (jeder beliebigen) Stellen der x-Achse von Null abweicht. So ist der Mittelwert bei kleinen x größer, bei großen x kleiner als Null.


Kohler, Ulrich, Kreuter, Frauke (2012). Datenanalyse mit Stata. Allgemeine Konzepte der Datenanalyse und ihre praktische Anwendung. München: Oldenbourg.