Korrektur auf Multiples Testen

Fragen, die sich auf kein spezielles Verfahren beziehen.

Korrektur auf Multiples Testen

Beitragvon Umbra » Do 7. Dez 2017, 04:18

Hallo,

wie man an der Uhrzeit erkennt, bin ich etwas verzweifelt :oops:

Und zwar wollte ich mit meinen Daten ursprünglich eine MANOVA rechnen (UV mit 3 Stufen, insgesamt 6 AVs die ein Konstrukt abbilden), da ich aber insgesamt mehrere der Voraussetzungen verletze und noch kleine Stichprobengrößen habe, wird das leider nichts :roll:
Da ich keine nicht-parametrischen Alternativen gefunden habe, welche den Rahmen einer Masterarbeit sprengen würden, bin ich dazu übergegangen insgesamt 6 Kruskal-Wallis-Tests zu berechnen. Die Ergebnisse der Kruskal-Wallis habe ich mittels Bonferroni Korrektur gegen multiples Testen korrigiert und gehe erst ab einem p-Wert von < 0.008 von einem signifikanten Effekt aus. Soweit dürfte das ganze doch noch ein (zumindest halbwegs) korrektes Vorgehen sein, oder?

Nun stehe ich vor der Frage, wie genau ich die Signifikanz der Post-Hoc Tests korrigieren muss. Reicht es, wenn ich die korrigierte Signifikanz wähle, die SPSS automatisch mit angibt oder muss ich die Anzahl an durchgeführten Post-Hoc Tests über alle Krukal-Wallis aufsummieren?
Also in meinem Beispiel 6 Kruskal Wallis, von denen 4 Signifikant waren (nach Bonferroni Korrektur) mit jeweils 3 Post-Hoc Tests -> Korrektur um 18 Tests und bei jedem Post-Hoc Test erst ab einem p-Wert < 0,0027 von Signifikanz ausgehen?

Ich hoffe es war halbwegs verständlich und jemand hat eine Antwort für mich :)
Liebe Grüße, Umbra
Umbra
Grünschnabel
Grünschnabel
 
Beiträge: 4
Registriert: Do 7. Dez 2017, 04:02
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post

Re: Korrektur auf Multiples Testen

Beitragvon PonderStibbons » Do 7. Dez 2017, 09:28

bin ich etwas verzweifelt

Ja, das liest man hier oft http://tinyurl.com/yamhs8gq

Und zwar wollte ich mit meinen Daten ursprünglich eine MANOVA rechnen (UV mit 3 Stufen, insgesamt 6 AVs die ein Konstrukt abbilden), da ich aber insgesamt mehrere der Voraussetzungen verletze und noch kleine Stichprobengrößen habe, wird das leider nichts

Bitte beschreibe das Thema der Studie und die Fragestellung, das Studiendesign und die einbezogenen Variablen, die konkrete Stichprobengröße (!) und was konkret gegen die Voraussetzungen einer MANOVA verstößt.

Mit freundlichen Grüßen

PonderStibbons
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11368
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 51
Danke bekommen: 2504 mal in 2488 Posts

Re: Korrektur auf Multiples Testen

Beitragvon Umbra » Do 7. Dez 2017, 14:49

Vielen Dank für die Antwort PonderStibbons, dann beschreibe ich die Studie mal etwas genauer:

Es sollte untersucht werden ob sich drei Stichproben (UV) in ihrer psych. Gesundheit unterscheiden. Hierbei handelt es sich um zwei klinische (einmal Angststörungen und einmal internalisierende Störungen) und eine Kontrollgruppe und die gerichtete Hypothese ist, dass sich die beiden klinischen Gruppen von der Kontrollgruppe unterscheiden. Die Psychische Gesundheit wurde über 6 Fragebögen operationalisiert. Bei der Gruppenzugehörigkeit handelt es sich jeweils um die Unabhängige Variable und abhängige Variablen sind die Ergebnisse der Fragebögen. Somit bin ich bisher davon ausgegangen, dass es ein multivariater Versuchsplan ist.
Die Stichprobengrößen sind n=20 (Internalisierend), n=7(Angst) und n=13 (Kontrollgruppe).

Beim Überprüfen der Voraussetzungen zeigte sich das 3 der AVs nicht normalverteilt sind (sowohl optisch als auch mit Shapiro-Wilk) - die Residuen dieser 3 AVs sind ebenfalls nicht normalverteilt.
Gleichheit der Fehlervarianzen ist leider auch nicht gegeben (Levene-Test wurde bei einer AV signifikant), noch dazu die (für eine MANOVA eigentlich zu) geringen Stichprobenumfänge.

Ich hoffe, jetzt ist es etwas klarer.
Viele Grüße,
Umbra
Umbra
Grünschnabel
Grünschnabel
 
Beiträge: 4
Registriert: Do 7. Dez 2017, 04:02
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post

Re: Korrektur auf Multiples Testen

Beitragvon PonderStibbons » Do 7. Dez 2017, 22:21

dass sich die beiden klinischen Gruppen von der Kontrollgruppe unterscheiden

Dann fasse sie doch zusammen.

Dass sich klinische psychiatrische Gruppen hinsichtlich ihrer psychischen Gesundheit von einer gesunden Kontrollgruppe unterscheiden, wäre so oder so ein Ergebnis mit wenig Neuigkeitswert, möchte man meinen. Warum ist die Stichprobe so winzig? Und was ist das eigentliche Thema, das Ziel und der Zweck der Übung?

Beim Überprüfen der Voraussetzungen zeigte sich das 3 der AVs nicht normalverteilt sind (sowohl optisch als auch mit Shapiro-Wilk) - die Residuen dieser 3 AVs sind ebenfalls nicht normalverteilt.

n > 30, demnach nicht relevant.
Gleichheit der Fehlervarianzen ist leider auch nicht gegeben (Levene-Test wurde bei einer AV signifikant),

In dem Fall könhnte man mal ausnahmsweise an eine Transformation denken.

Nicht-Signfikanz bei den anderen Variablen ist bei so kleinen Stichproben allerdings nicht aussagekräftig.

noch dazu die (für eine MANOVA eigentlich zu) geringen Stichprobenumfänge.

Wie groß müssten die denn sein?

Mit freundlichen Grüßen

PonderStibbons
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11368
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 51
Danke bekommen: 2504 mal in 2488 Posts

Re: Korrektur auf Multiples Testen

Beitragvon Umbra » Do 7. Dez 2017, 23:40

Es handelt sich um eine Katamnesestudie, die Ersterhebung fand vor ca. 7 Jahren statt und von der Ursprungsstichprobe haben sich leider nicht mehr Leute zur erneuten Teilnahme bereit erklärt. Daher kommen die winzige Stichprobengröße und auch die ungleiche Gruppengröße zustande.

PonderStibbons hat geschrieben:Dass sich klinische psychiatrische Gruppen hinsichtlich ihrer psychischen Gesundheit von einer gesunden Kontrollgruppe unterscheiden, wäre so oder so ein Ergebnis mit wenig Neuigkeitswert, möchte man meinen. Warum ist die Stichprobe so winzig? Und was ist das eigentliche Thema, das Ziel und der Zweck der Übung?


Eigentlich wird davon ausgegangen, dass die Angst-Gruppe auch heute (nach 7 Jahren) eine höhere psych. Belastung aufweist als die Kontrollgruppe und die Internalisierende Gruppe. Diese Annahme war aber aus Mangel an Studien theoretisch nicht zu belegen, da es bisher nur Hinweise gibt, beide Störungsgruppen könnten ähnlich negative Auswirkungen auf die spätere Gesundheit haben. Studien dazu fehlen aber noch. Deshalb macht es auch keinen Sinn beide Gruppen zusammen zu fassen.

PonderStibbons hat geschrieben:n > 30, demnach nicht relevant.

Ich dachte immer, die n > 30 müssten pro Gruppe erreicht sein, also in meinem Fall insgesamt ein N > 90? Wenn das nicht der Fall ist, hat sich mein Problem ja vielleicht doch erledigt :)

Im Bortz stand, dass bei 6 AVs min. eine Stichprobengröße von n= 14 (oder 16?? Irgendetwas um den Dreh) Probanden pro Gruppe zur Berechnung der MANOVA vorhanden sein müssten.

Viele Grüße, Umbra
Umbra
Grünschnabel
Grünschnabel
 
Beiträge: 4
Registriert: Do 7. Dez 2017, 04:02
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post

Re: Korrektur auf Multiples Testen

Beitragvon PonderStibbons » Fr 8. Dez 2017, 00:19

Es handelt sich um eine Katamnesestudie, die Ersterhebung fand vor ca. 7 Jahren statt und von der Ursprungsstichprobe haben sich leider nicht mehr Leute zur erneuten Teilnahme bereit erklärt. Daher kommen die winzige Stichprobengröße und auch die ungleiche Gruppengröße zustande.

Oha, wer hat das denn in Auftrag gegeben, wer beurteilt das Ganze, wozu wird das durchgeführt?

Und wie groß waren die Ausgangsgruppen?

Ich frage das deswegen, weil mir nicht klar ist, wieso man über MANOVAs Bonferroni etc. diskutieren soll, wenn allem das Studiendesign...nicht so ganz nachvollziehbar ist.

Mit freundlichen Grüßen

PonderStibbons
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11368
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 51
Danke bekommen: 2504 mal in 2488 Posts

Re: Korrektur auf Multiples Testen

Beitragvon Umbra » Fr 8. Dez 2017, 01:57

Die Ausgangsgruppen aus der Ersterhebung waren um die n=100 pro Gruppe - die Gesamtstichprobe war bei N=321. Ursprünglich wurden die Gütekriterien eines Fragebogens mit der Studie erhoben. Die Katamnesestudie umfasst noch andere Fragestellungen (z.B. Wirksamkeit von Therapieverfahren), die für meine Arbeit nicht wirklich relevant sind.

Das ganze ist etwas wirr, da zusätzliche Fragestellungen für die Abschlussarbeiten gesucht wurden (Mehr Studenten als sinnvolle Hypothesen ;) ). Die "Haupt"-Erhebung läuft aktuell auch noch weiter. Zum Teil also einfach eine Arbeitsbeschaffungsmaßnahme, die mich bei der Auswertung für meine Masterarbeit nun vor Probleme stellt.
In Auftrag gegeben wurde das einfach von der Abteilung, in der ich meine Masterarbeit schreibe. Leider ist der ihr Verhältnis zur Betreuung von Abschlussarbeiten weniger bzw. gar keine Betreuung ist mehr.

Ich versuche also aktuell nur irgendwie diese Fragebögen auf Gruppenunterschiede zu testen, damit ich etwas im Ergebnisteil schreiben kann - scheiter aber daran, dass ich Voraussetzungen prüfen muss und diese nicht erfüllt werden. Eine MANOVA soll gerechnet werden, das war abgesprochen - allerdings darf ich es (laut der Abteilung) nicht, wenn die Voraussetzungen verletzt sind. Alternative Verfahren oder Möglichkeiten soll ich mir selbst suchen.

Daher mein Dilemma mit den Kruskal-Wallis Tests und wie genau ich auf multiples Testen korrigieren soll.

Viele Grüße,
Umbra
Umbra
Grünschnabel
Grünschnabel
 
Beiträge: 4
Registriert: Do 7. Dez 2017, 04:02
Danke gegeben: 0
Danke bekommen: 0 mal in 0 Post

Re: Korrektur auf Multiples Testen

Beitragvon PonderStibbons » Fr 8. Dez 2017, 13:26

Bonferroni wäre 0,05/6 = 0,00866 als Schwelle, das senkt die ohnehin niedrige power. Da die Ergebnisse anscheinend aber sowieso egal sind, könnte man es einfach mal damit versuchen. Ich selbst bevorzuge in so einer Situation (mehr als 5 Tests) eine Senkung der Signifikanzschwelle von 0,05 auf 0,01. Das beeinträchtigt die power etwas weniger als Bonferroni. Wenn Du was cooles anbieten willst, mach eine besondere Form der Bonferroni-Korrektur namens Bonferroni-Holm. Die geht etwas weniger zulasten der power. Ausgangspunkt ist, die 6 p-Werte der Größe nach zu ordnen http://www.statisticshowto.com/holm-bonferroni-method/

Nicht-signfikante Ergebnisse muss man in jeden Fall unter Bezugnahme auf die niedrige power diskutieren.

Mit freundlichen Grüßen

PonderStibbons
PonderStibbons
Foren-Unterstützer
Foren-Unterstützer
 
Beiträge: 11368
Registriert: Sa 4. Jun 2011, 15:04
Wohnort: Ruhrgebiet
Danke gegeben: 51
Danke bekommen: 2504 mal in 2488 Posts


Zurück zu Allgemeine Fragen

Wer ist online?

Mitglieder in diesem Forum: 0 Mitglieder und 11 Gäste

cron