01 · Podstawy · 5 min czytania · aktualizacja
Test t i ANOVA — jak porównać średnie dwóch lub więcej grup?
W skrócie
Test t porównuje średnie dwóch grup, ANOVA — wielu naraz. Na pingwinach Palmer gatunek wyjaśnia 78% zmienności długości skrzydła (η² = 0,78, F = 594,8).
Co to jest
Test t sprawdza, czy średnie dwóch grup różnią się bardziej, niż dałby to sam przypadek losowania. ANOVA (analiza wariancji) robi to samo dla trzech i więcej grup naraz: pyta, czy choć jedna średnia odstaje od pozostałych. W obu hipoteza zerowa mówi „wszystkie średnie są równe”.
Test t opisał w 1908 roku William Gosset, chemik browaru Guinnessa, pod pseudonimem „Student”. Pracował na małych próbach, dla których rozkład normalny dawał zbyt optymistyczne wnioski. ANOVA pochodzi od Ronalda Fishera, który w latach 20. XX wieku analizował doświadczenia polowe.
Intuicja jest jedna dla obu: porównujemy różnice między grupami z rozrzutem wewnątrz grup. Różnica średnich o 6 mm niewiele znaczy, gdy osobniki w grupie różnią się o 30 mm, a dużo — gdy o 2 mm.
Mechanizm — dlaczego tak działa
Statystyka t to różnica średnich podzielona przez jej błąd standardowy: t = (x̄₁ − x̄₂) / √(s₁²/n₁ + s₂²/n₂). Mianownik mówi, jak bardzo ta różnica skakałaby między powtórzeniami badania. Gdy średnie są w populacji równe, t ma (w przybliżeniu) rozkład t-Studenta, a wartość p to pole jego ogonów za obserwowanym t.
Klasyczny test Studenta zakłada równe wariancje obu grup i liczy jedną, „połączoną” wariancję. Welch (1947) zrezygnował z tego założenia: każda grupa ma własną wariancję, a liczbę stopni swobody wylicza się ze wzoru i zwykle nie jest całkowita. Gdy wariancje są równe, Welch traci bardzo mało. Gdy są różne, a liczebności grup nierówne, klasyczny test myli się w obie strony: za często alarmuje, gdy większą wariancję ma mniejsza grupa, a za rzadko w odwrotnej sytuacji. Dlatego test Welcha to rozsądny wybór domyślny.
ANOVA dzieli całkowitą zmienność na dwie części: między grupami (jak daleko średnie grup są od średniej ogólnej) i wewnątrz grup (rozrzut wokół własnej średniej). Statystyka F to stosunek tych dwóch zmienności, każdej podzielonej przez swoje stopnie swobody. Gdy średnie są równe, F krąży wokół 1; duże F oznacza, że grupy różnią się bardziej, niż tłumaczy szum. Dla dwóch grup ANOVA daje ten sam wynik co klasyczny test t: F = t².
Wartość p mówi tylko, czy różnica jest zaskakująca; o jej wielkości mówi wielkość efektu. Dla dwóch grup to d Cohena: różnica średnich w jednostkach odchylenia standardowego. Cohen umownie nazwał d = 0,2 małym, 0,5 średnim, a 0,8 dużym efektem. Dla ANOVA to η² (eta kwadrat): udział zmienności całkowitej wyjaśniony przez podział na grupy.
Założenia i gdzie to się psuje. Obserwacje muszą być niezależne — to najważniejsze i nie da się go naprawić wzorem. Rozkład w grupach ma być w przybliżeniu normalny; przy kilkudziesięciu obserwacjach na grupę umiarkowane odstępstwa mało szkodzą, a przy małych, silnie skośnych próbach lepszy jest test permutacyjny. ANOVA Fishera zakłada też równe wariancje; gdy ich nie ma, są wersje odporne (Welcha, Alexandra–Govern).
Pułapka wielu porównań: ANOVA mówi „któraś średnia odstaje”, ale nie którą. Kusi, by zrobić wszystkie testy t parami — przy trzech grupach to trzy testy, przy dziesięciu 45, a każdy ma 5% szans na fałszywy alarm. Rozwiązanie to procedury z korektą, np. test Tukeya (więcej w haśle o wielokrotnych porównaniach).
Moc testu to szansa wykrycia efektu, który naprawdę istnieje. Do wykrycia średniego efektu (d = 0,5) z mocą 80% przy α = 0,05 potrzeba 64 osób na grupę, dla małego (d = 0,2) — 394. Badanie z 15 osobami na grupę wykrywa średni efekt tylko z mocą 26%, więc „brak istotności” niewiele wtedy mówi.
Na przykładzie
Długość skrzydła (płetwy) pingwinów z archipelagu Palmera: maskowe mają średnio 195,8 mm, Adeli 190,0 mm. Test t Welcha daje t = 5,78 i p = 6,0·10⁻⁸, a 95% przedział ufności różnicy sięga od 3,9 do 7,9 mm. Wielkość efektu d = 0,87 — duży efekt według progów Cohena. Klasyczny test Studenta daje tu prawie to samo (t = 5,97), bo wariancje grup są podobne.
Trzy gatunki naraz: Adeli 190,0 mm, maskowe 195,8 mm, białobrewe 217,2 mm. ANOVA daje F = 594,8 przy 2 i 339 stopniach swobody, p rzędu 10⁻¹¹¹. Ważniejsze jest η² = 0,78: podział na gatunki wyjaśnia 78% zmienności długości skrzydła. Test Tukeya pokazuje, że różnią się wszystkie trzy pary, także najbliższa (maskowe − Adeli: 5,9 mm, 95% przedział od 3,6 do 8,2 mm).
Założenia: rozkład u białobrewych odbiega od normalnego (test Shapiro–Wilka p = 0,0016), u pozostałych nie — przy 123 ptakach to niegroźne dla testu średnich. Wariancje są podobne (test Levene'a p = 0,72), a wersja ANOVA odporna na nierówne wariancje daje ten sam wniosek.
Pułapka wielu porównań w symulacji: trzy grupy o liczebnościach jak u pingwinów, losowane z jednego rozkładu, więc różnic nie ma. Pojedyncza ANOVA alarmuje w 4,9% powtórzeń, zgodnie z α, a trzy testy Welcha parami — w 11,8%.
Jak to policzono
- Dane: Palmer Penguins (
data/raw/penguins.csv), 344 ptaki, 342 z długością skrzydła: Adeli 151 (średnio 189,95 mm, odch. std. 6,54), maskowe 68 (195,82, 7,13), białobrewe 123 (217,19, 6,48). - Maskowe vs Adeli,
scipy.stats.ttest_ind(..., equal_var=False): t = 5,78, 119,7 stopnia swobody, p = 6,0·10⁻⁸, 95% przedział od 3,86 do 7,88 mm. Wersja ze wspólną wariancją: t = 5,97, p = 9,4·10⁻⁹. d Cohena z połączonym odchyleniem 6,73 mm: 0,87. scipy.stats.f_oneway: F(2, 339) = 594,8, p ≈ 1,4·10⁻¹¹¹; η² = suma kwadratów między / całkowita = 52 473 / 67 427 = 0,778; ω² = 0,776.scipy.stats.alexandergovern: 475,3, p ≈ 6·10⁻¹⁰⁴.scipy.stats.tukey_hsd: maskowe − Adeli 5,87 mm (od 3,59 do 8,15), białobrewe − maskowe 21,36 (od 19,00 do 23,73), białobrewe − Adeli 27,23 (od 25,33 do 29,13).- Shapiro–Wilk p: Adeli 0,72, maskowe 0,81, białobrewe 0,0016;
scipy.stats.levene(domyślnie względem median) p = 0,72. - Symulacja bez efektu: 10 000 powtórzeń,
numpy.random.default_rng(0), trzy grupy po 151, 68 i 123 obserwacji z rozkładu normalnego (średnia 200, odch. std. 7). Co najmniej jeden z trzech testów Welcha p < 0,05: 11,8%; ANOVA p < 0,05: 4,9%. Dla trzech niezależnych testów byłoby 1 − 0,95³ = 14,3%; tu testy dzielą grupy, więc wynik jest niższy. - Moc testu t (wspólna wariancja) dla dwóch równych grup, α = 0,05 dwustronnie, z niecentralnego rozkładu t: 80% przy 26 osobach na grupę dla d = 0,8, 64 dla d = 0,5, 394 dla d = 0,2; przy 15 osobach i d = 0,5 moc 26%. Przy 68 i 151 ptakach moc dla d = 0,5 wynosi 93%.
Dane: Palmer Penguins (pingwiny z Antarktydy)
W praktyce
scipy.stats.ttest_ind(a, b, equal_var=False)— test Welcha;.confidence_interval()daje przedział dla różnicy. Dla pomiarów sparowanych (ta sama osoba przed i po)scipy.stats.ttest_rel.scipy.stats.f_oneway(*grupy)— jednoczynnikowa ANOVA; przy nierównych wariancjachscipy.stats.alexandergovern; porównania parami z korektąscipy.stats.tukey_hsd.- Pełną tabelę ANOVA (także z wieloma czynnikami) daje
statsmodels. - Raportuj różnicę średnich, przedział ufności i wielkość efektu, nie samo „p < 0,05”.
- Liczebność próby planuj przed badaniem z analizy mocy, a nie po wyniku.
- Typowy błąd: wielokrotne pomiary tych samych osób w teście dla grup niezależnych — p wychodzi zaniżone.
Najczęstsze pytania
- Kiedy test t, a kiedy ANOVA?
- Test t dla dokładnie dwóch grup, ANOVA dla trzech i więcej. Dla dwóch grup klasyczne wersje obu dają tę samą wartość p (F = t²). Przy wielu grupach jedna ANOVA zastępuje serię testów t i nie mnoży fałszywych alarmów.
- Test Studenta czy test Welcha?
- Domyślnie Welcha. Gdy wariancje są równe, daje niemal ten sam wynik. Gdy są różne, a grupy nierównej wielkości, chroni przed błędnym p. Sprawdzanie równości wariancji osobnym testem przed wyborem testu t zwykle niczego nie poprawia.
- Co mówi η², a czego nie mówi?
- η² mówi, jaka część zmienności wiąże się z podziałem na grupy. Nie mówi, które grupy się różnią, ani dlaczego. η² liczone z próby systematycznie zawyża efekt w populacji, najbardziej w małych próbach; mniej obciążona jest ω² (u pingwinów 0,776 wobec 0,778).
Źródła
- Student (1908). „The probable error of a mean”. Biometrika, 6(1), 1–25. https://doi.org/10.1093/biomet/6.1.1
- Welch, B. L. (1947). „The generalization of ‘Student's’ problem when several different population variances are involved”. Biometrika, 34(1–2), 28–35. https://doi.org/10.1093/biomet/34.1-2.28
- Fisher, R. A. (1925). Statistical Methods for Research Workers. Oliver and Boyd, Edynburg.
- Cohen, J. (1988). Statistical Power Analysis for the Behavioral Sciences, 2nd ed. Lawrence Erlbaum.
- Gorman, K. B., Williams, T. D., Fraser, W. R. (2014). „Ecological sexual dimorphism and environmental variability within a community of Antarctic penguins (genus Pygoscelis)”. PLoS ONE, 9(3), e90081. https://doi.org/10.1371/journal.pone.0090081
- SciPy:
scipy.stats.ttest_indiscipy.stats.f_oneway, https://docs.scipy.org/doc/scipy/reference/generated/scipy.stats.f_oneway.html
Czy to było pomocne?
Dzięki! To pomaga nam poprawiać Atlas.