F-Test

Als F-Test wird eine Gruppe von statistischen Tests bezeichnet, bei denen die Teststatistik unter der Nullhypothese einer F-Verteilung folgt. Im Kontext der Regressionsanalyse wird mit dem F-Test eine Kombination von linearen (Gleichungs-)Hypothesen untersucht. Beim Spezialfall der Varianzanalyse ist mit F-Test ein Test gemeint, mithilfe dessen mit einer gewissen Konfidenz entschieden werden kann, ob zwei Stichproben aus unterschiedlichen, normalverteilten Populationen sich hinsichtlich ihrer Varianz wesentlich unterscheiden. Er dient damit unter anderem zur generellen Überprüfung von Unterschieden zwischen zwei statistischen Populationen.

Der Test geht zurück auf einen der bekanntesten Statistiker, Ronald Aylmer Fisher (1890–1962).

F-Test für zwei Stichproben

Der F-Test ist ein Begriff aus der mathematischen Statistik, er bezeichnet eine Gruppe von Hypothesentests mit F-verteilter Teststatistik. Bei der Varianzanalyse ist mit dem F-Test der Test gemeint, der für zwei Stichproben aus unterschiedlichen, normalverteilten Grundgesamtheiten die Unterschiede in den Varianzen prüft.

Der F-Test setzt zwei unterschiedliche normalverteilte Grundgesamtheiten (Gruppen) voraus mit den Parametern ${\mu }_1$ und ${\sigma }_1^2$ bzw. ${\mu }_2$ und ${\sigma }_2^2$. Es wird vermutet, dass die Varianz in der zweiten Grundgesamtheit (Gruppe) größer sein könnte als die in der ersten Grundgesamtheit. Um dies zu prüfen, wird aus jeder Grundgesamtheit eine Zufallsstichprobe gezogen, wobei die Stichprobenumfänge $n_1$ und $n_2$ auch unterschiedlich sein dürfen. Die Stichprobenvariablen $X_{1,1},\dots ,X_{1,n_1}$ der ersten Grundgesamtheit und $X_{2,1},\dots ,X_{2,n_2}$ der zweiten Grundgesamtheit müssen dabei unabhängig sowohl innerhalb einer Gruppe als auch untereinander sein.

Für den Test der Nullhypothese: $H_0:{\sigma }_2^2={\sigma }_1^2$ gegen die Alternativhypothese: $H_1:{\sigma }_2^2>{\sigma }_1^2$ eignet sich der F-Test, dessen Teststatistik der Quotient der geschätzten Varianzen der beiden Stichproben ist:

$F_{\mathrm{S}\mathrm{t}\mathrm{i}\mathrm{c}\mathrm{h}\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{b}\mathrm{e}}=\frac{S_2^2}{S_1^2}=\frac{\frac{1}{n_2-1}\sum _{i=1}^{n_2}(X_{2,i}-{\bar{X}}_2{)}^2}{\frac{1}{n_1-1}\sum _{i=1}^{n_1}(X_{1,i}-{\bar{X}}_1{)}^2}.$

Dabei sind $S_1^2$, $S_2^2$ die Stichprobenvarianzen und ${\bar{X}}_1$, ${\bar{X}}_2$ die Stichprobenmittel innerhalb der beiden Gruppen.

Unter der Gültigkeit der Nullhypothese ist die Teststatistik $F_{\mathrm{S}\mathrm{t}\mathrm{i}\mathrm{c}\mathrm{h}\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{b}\mathrm{e}}$ F-verteilt mit $n_2-1$ Freiheitsgraden im Zähler und $n_1-1$ im Nenner. Die Nullhypothese wird abgelehnt für zu große Werte der Teststatistik. Man bestimmt dazu den kritischen Wert oder man berechnet den p-Wert des Prüfwerts. Dies geschieht am einfachsten unter Zuhilfenahme einer F-Wert-Tabelle.

Der kritische Wert K ergibt sich aus der Bedingung:

$P(F(n_2-1,n_1-1)\ge K\mid H_0)\le {\alpha }_0,$

mit ${\alpha }_0$ dem erwünschten Signifikanzniveau.

Den p-Wert berechnet man mittels:

$p=P(F(n_2-1,n_1-1)\ge f_{\mathrm{S}\mathrm{t}\mathrm{i}\mathrm{c}\mathrm{h}\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{b}\mathrm{e}}\mid H_0),$

mit $f_{\mathrm{S}\mathrm{t}\mathrm{i}\mathrm{c}\mathrm{h}\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{b}\mathrm{e}}$, dem in der Stichprobe gefundenen Wert der Teststatistik $F_{\mathrm{S}\mathrm{t}\mathrm{i}\mathrm{c}\mathrm{h}\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{b}\mathrm{e}}$.

Hat man K bestimmt, dann lehnt man $H_0$ ab, falls $f_{\mathrm{S}\mathrm{t}\mathrm{i}\mathrm{c}\mathrm{h}\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{b}\mathrm{e}}\ge K$. Hat man den p-Wert p berechnet, lehnt man $H_0$ ab, falls $p\le {\alpha }_0$.

Häufig wird für das Signifikanzniveau ${\alpha }_0$ der Wert 5 % gewählt. Es handelt sich dabei aber nur um eine gängige Konvention, siehe auch den Artikel Statistische Signifikanz. Allerdings können aus der erhaltenen Wahrscheinlichkeit $P(F\mid H_0)$ keine direkten Rückschlüsse auf die Wahrscheinlichkeit der Gültigkeit der Alternativhypothese gezogen werden.

Um eine Entscheidung zu fällen, muss man wissen, welcher Verteilung die Teststatistik $F_{\mathrm{S}\mathrm{t}\mathrm{i}\mathrm{c}\mathrm{h}\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{b}\mathrm{e}}$ folgt. Dazu betrachtet man zunächst Zähler und Nenner der Prüfgröße genauer. Beide sind die Summe von quadrierten, um ihren Mittelwert bereinigten normalverteilten Zufallsvariablen, jeweils dividiert durch die um eins reduzierte Stichprobengröße. Teilt man Zähler und Nenner durch die Varianz ${\sigma }_1^2={\sigma }_2^2$ in der Grundgesamtheit, was den Wert des Quotienten nicht verändert, und multipliziert mit dem Faktor $\frac{1}{n_i-1}$, so folgen beide einer Chi-Quadrat-Verteilung und es gilt

$\frac{S_1^2}{{\sigma }_1^2}\cdot (n_1-1)=\frac{n_1-1}{{\sigma }_1^2}\cdot \frac{1}{n_1-1}\cdot \sum _{i=1}^{n_1}(X_{1,i}-{\bar{X}}_1{)}^2=\sum _{i=1}^{n_1}{\left(\frac{X_{1,i}-\bar{X}}{{\sigma }_1}\right)}^2$

Beispiel

Ein Unternehmen will die Herstellung eines seiner Produkte auf ein Verfahren umstellen, das bessere Qualität verspricht. Das neue Verfahren wäre zwar teurer, aber sollte eine kleinere Streuung aufweisen. Als Test werden 100 Produkte, hergestellt mit dem neuen Verfahren B, verglichen mit 120 Produkten, die mit der alten Methode A produziert worden sind. Die Produkte B weisen eine Varianz von 80 auf, und die Produkte A eine Varianz von 95. Getestet wird

$H_0:{\sigma }_A={\sigma }_B$

gegen

$H_1:{\sigma }_A>{\sigma }_B$

Die Teststatistik hat den Prüfwert:

$f_{\mathrm{S}\mathrm{t}\mathrm{i}\mathrm{c}\mathrm{h}\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{b}\mathrm{e}}=\frac{s_A^2}{s_B^2}=\frac{95}{80}=1,1875$

Dieser F-Wert stammt unter der Nullhypothese aus einer $F_{(119;99)}$-Verteilung. Der p-Wert des Stichprobenergebnisses ist also:

$P(F(119;99)\ge 1,1875)\approx 0,189.$

Die Nullhypothese kann also nicht abgelehnt werden, und somit wird die Produktion nicht auf das neue Verfahren umgestellt. Dabei bleibt die Frage, ob diese Entscheidung gerechtfertigt ist. Was wäre, wenn das neue Verfahren tatsächlich eine kleinere Varianz bewirkt, aber aufgrund der Stichprobe ist dies unentdeckt geblieben? Aber auch wenn die Nullhypothese abgelehnt worden wäre, also ein signifikanter Unterschied zwischen den Varianzen aufgefunden worden wäre, hätte doch der Unterschied unbedeutend klein sein können. Zuerst stellt sich natürlich die Frage, ob der Test im Stande wäre, den Unterschied zu entdecken. Dazu betrachtet man die Teststärke. Das Signifikanzniveau ${\alpha }_0$ ist auch der Minimalwert der Teststärke. Das führt also nicht weiter. In der Praxis aber würde die Produktion natürlich nur dann umgestellt, wenn eine erhebliche Verbesserung zu erwarten wäre, z. B. eine Abnahme der Standardabweichung um 25 %. Wie wahrscheinlich ist es, dass der Test einen solchen Unterschied entdeckt? Das ist genau der Wert der Teststärke für ${\sigma }_B=0,75{\sigma }_A$. Die Berechnung erfordert zuerst die Berechnung des kritischen Werts $f_{\mathrm{k}\mathrm{r}\mathrm{i}\mathrm{t}}$. Dazu unterstellen wir ${\alpha }_0=5\mathrm{\%}$, und lesen aus einer Tabelle ab:

$f_{\mathrm{k}\mathrm{r}\mathrm{i}\mathrm{t}}=1,378.$

Es gilt also:

$P(F_{\mathrm{S}\mathrm{t}\mathrm{i}\mathrm{c}\mathrm{h}\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{b}\mathrm{e}}\ge 1,378|H_0)=0,05.$

Der gesuchte Wert der Teststärke ist die Wahrscheinlichkeit, die erwähnte Abnahme der Standardabweichung zu entdecken, also:

$P(H_0\text{ablehnen}|{\sigma }_B=\frac{3}{4}{\sigma }_A)=$

$=P(F_{\mathrm{S}\mathrm{t}\mathrm{i}\mathrm{c}\mathrm{h}\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{b}\mathrm{e}}\ge f_{\mathrm{k}\mathrm{r}\mathrm{i}\mathrm{t}}|{\sigma }_B=\frac{3}{4}{\sigma }_A)=$

$=P(\frac{S_A^2}{S_B^2}\ge f_{\mathrm{k}\mathrm{r}\mathrm{i}\mathrm{t}}|\frac{{\sigma }_B}{{\sigma }_A}=\frac{3}{4})=$

$=P(\frac{S_A^2/{\sigma }_A^2}{S_B^2/{\sigma }_B^2}\ge (\frac{3}{4}{)}^2{f}_{\mathrm{k}\mathrm{r}\mathrm{i}\mathrm{t}})=$

$=P(F(119;99)\ge 0,775)=0,91.$

Das bedeutet: Wenn die Varianz um 25 % oder mehr abnimmt, so wird das in mindestens 91 % der Fälle entdeckt.

F-Test für mehrere Stichprobenvergleiche

Der einfachen Varianzanalyse liegt ebenfalls der F-Test zugrunde. Hier werden die Quadratsumme der Behandlung und die Residuenquadratsumme einander gegenübergestellt.

F-Test auf Gesamtsignifikanz eines Modells

Vorlage:Hauptartikel Beim globalen F-Tests (auch Overall-F-Test oder F-Test auf Gesamtsignifikanz eines Modells) wird geprüft, ob mindestens eine erklärende Variable einen Erklärungsgehalt für das Modell liefert und das Modell somit als Gesamtes signifikant ist.

Einordnung

• F-Tests sind in der Regel Beispiele für Likelihood-Quotienten-Tests.

Literatur

• J. Bortz, C. Schuster: Statistik für Human- und Sozialwissenschaftler. 7. Auflage. Springer, Berlin / Heidelberg 2010, ISBN 978-3-642-12769-4.
• Lothar Sachs: Angewandte Statistik: Anwendung statistischer Methoden. 11. Auflage. Springer, Berlin / Heidelberg / New York 2004, ISBN 3-540-40555-0.