Mehr Regressoren --> tieferes R-Quadrat

Alle Verfahren der Regressionanalyse.

Mehr Regressoren --> tieferes R-Quadrat

Beitragvon radiohead3 » Di 20. Jan 2015, 16:53

Hi zusammen
Ich meinte wenigstens etwas aus dem Statistikunterricht mitgenommen zu haben.
Und zwar, dass wenn man einen zusätzlichen Regressor hinzufügt, dass sich dann das R-Quadrat meist vergrössert oder im Extremfall (wenn überhaupt kein Erklärungsgehalt) das R-Quadrat gleich bleibt. Auf jedenfall sollte das R-Quadrat niemals kleiner werden wenn man Regressoren hinzufügt.

Soeben habe ich aber eine andere Erfahrung gemacht.
Ich habe ein Modell aus meinen Daten geschätzt und leider nur ein R-Quadrat von .305 damit erreicht (Adjustiertes R-Quadrat sogar lediglich 0.148). Dann habe ich nach und nach Regressoren entfernt, die überhaupt keine Aussagekraft hatten (signifikanz niveau von ca. 0.9).

Hier findet ihr die Resultate der verschiedenen Regressionen. (1. Zeile: Koeffizient, 2. Zeile: Std. Fehler, 3. Zeile Signifikanzniveau)
https://docs.google.com/spreadsheets/d/1gw0P_B3Nxg4WDPWbfrGzYZ14fqvbYb1ux4EwrrxX-5M/edit?usp=sharing

Siehe Modell 1, 2, 3, 4, 5 und 6 in der Tabelle
Das komische ist jetzt aber, dass sich auf einmal von Modell 3 auf Modell 4 das R-Quadrat vergrössert hat (siehe gelbe Zelle) obwohl ich lediglich einen Regressor ausgeschlossen habe.
Das dürfte doch nicht passieren...

Kann mir das jemand erklären? Ich dachte wenn man Regressoren raus nimmt, das R-Quadrat zwingend kleiner werden muss.

Vielen Dank für eure Hilfe
radiohead3
Beobachter
Beobachter
 
Beiträge: 12
Registriert: Di 12. Jun 2012, 14:16
Danke gegeben: 1
Danke bekommen: 0 mal in 0 Post

Re: Mehr Regressoren --> tieferes R-Quadrat

Beitragvon PonderStibbons » Di 20. Jan 2015, 17:00

Ist das immer exakt dieselbe Stichprobe über alle Modelle hinweg?
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11363
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 51
Danke bekommen: 2501 mal in 2485 Posts

Re: Mehr Regressoren --> tieferes R-Quadrat

Beitragvon radiohead3 » Di 20. Jan 2015, 17:03

Ja,
Ich habe einmal die Daten eingelesen bei SPSS und dann die Regression mit den vielen Regressoren geschätzt und dann nach und nach einen Regressor rausgenommen und erneut die Regression geschätzt. Ansonsten habe ich nichts verändert
radiohead3
Beobachter
Beobachter
 
Beiträge: 12
Registriert: Di 12. Jun 2012, 14:16
Danke gegeben: 1
Danke bekommen: 0 mal in 0 Post

Re: Mehr Regressoren --> tieferes R-Quadrat

Beitragvon PonderStibbons » Di 20. Jan 2015, 17:18

Ich habe nota bene gefragt, ob die Stichprobe stets genau dieselbe ist.
Wenn Du getrennt eine Regression nach der anderen rechnest, dann ist
die Stichprobe nur dann genau dieselbe, wenn die herausgenommenen
Variablen alle keine fehlenden Werte aufweisen.
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11363
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 51
Danke bekommen: 2501 mal in 2485 Posts

Re: Mehr Regressoren --> tieferes R-Quadrat

Beitragvon radiohead3 » Di 20. Jan 2015, 17:31

PonderStibbons hat geschrieben:Ich habe nota bene gefragt, ob die Stichprobe stets genau dieselbe ist.
Wenn Du getrennt eine Regression nach der anderen rechnest, dann ist
die Stichprobe nur dann genau dieselbe, wenn die herausgenommenen
Variablen alle keine fehlenden Werte aufweisen.


Oh mein Gott.. Jetzt klingeln die Alarmglocken!

Eine Person hat bei der Variable "SUM HONESTY" nicht richtig geantwortet. Diese kann deshalb nicht in die Regression einbezogen werden solange dies ein Regressor ist.
Sobald ich diesen Regressor rausnehme, wird wohl auch diese Person in die Stichprobe hinzugefügt. Deshalb ändern sich die Werte.

Ist das richtig?
radiohead3
Beobachter
Beobachter
 
Beiträge: 12
Registriert: Di 12. Jun 2012, 14:16
Danke gegeben: 1
Danke bekommen: 0 mal in 0 Post

Re: Mehr Regressoren --> tieferes R-Quadrat

Beitragvon DHA3000 » Di 20. Jan 2015, 19:11

Das klingt nach einer logischen Erklärung.
Es kann nicht schaden, sich die Daten auch einmal anzuschauen, die man untersucht. ;)

Wenn du auf so etwas nicht achtest, dann haben alle deine Ergebnisse keine Aussagekraft, weil SPSS munter alles durcheinander würfelt.
DHA3000
Elite
Elite
 
Beiträge: 478
Registriert: So 8. Jul 2012, 15:08
Danke gegeben: 0
Danke bekommen: 62 mal in 62 Posts


Zurück zu Regressionanalyse

Wer ist online?

Mitglieder in diesem Forum: 0 Mitglieder und 4 Gäste

cron