Momentenmethode

Die Momentenmethode ist eine Schätzmethode in der mathematischen Statistik und dient der Gewinnung von Schätzfunktionen. Die mittels der Momentenmethode gewonnenen Schätzer werden als Momentenschätzer bezeichnet. Die Momentenmethode ist im Allgemeinen einfach anzuwenden, die gewonnenen Schätzer erfüllen aber nicht immer gängige Optimalitätskriterien. So müssen Momentenschätzer weder eindeutig noch erwartungstreu sein. Der Momentenmethode liegt die Idee zugrunde, dass die Momente einer Zufallsvariable oder Wahrscheinlichkeitsverteilung durch die Stichprobenmomente geschätzt werden können. Ist dann allgemeiner eine zu schätzende Funktion als Funktion der Momente (der Zufallsvariable oder Wahrscheinlichkeitsverteilung) gegeben, so erhält man einen Schätzer, indem man diese Momente durch die Stichprobenmomente ersetzt.

Die Momentenmethode wurde erstmals 1894 von Karl Pearson verwendet und kann als Spezialfall des Substitutionsprinzips aufgefasst werden.

Vorgehen

Rahmenbedingungen

Gegeben sei eine Familie von Wahrscheinlichkeitsmaßen $(P_{\vartheta }{)}_{\vartheta \in \mathrm{\Theta }}$ auf den reellen Zahlen, die mit einer beliebigen Indexmenge $\mathrm{\Theta }$ indiziert ist. Es bezeichne $P_{\vartheta }^n$ das n-fache Produktmaß der Wahrscheinlichkeitsverteilung $P_{\vartheta }$.

Das statistische Modell sei gegeben als das $n$-fache Produktmodell

$({ℝ}^n,ℬ({ℝ}^n),(P_{\vartheta }^n{)}_{\vartheta \in \mathrm{\Theta }})$.

Sei $X=(X_1,X_2,\dots ,X_n)$, wobei $X_i$ die $i$-te Stichprobenvariable ist. Die $X_i$ sind also unabhängig und identisch verteilt. Es bezeichne ${\mathrm{E}}_{\vartheta }$ die Bildung des Erwartungswertes bezüglich $P_{\vartheta }$ und

$m_j(\vartheta )={\mathrm{E}}_{\vartheta }(X_1^j)$

das $j$-te Moment einer nach $P_{\vartheta }$ verteilten Zufallsvariable bzw. des Wahrscheinlichkeitsmaßes $P_{\vartheta }$. Des Weiteren sei

$m_j(X)=\frac{1}{n}\sum _{i=1}^n{X}_i^j$

das $j$-te Stichprobenmoment von $X$.

Methode

Geschätzt werden soll eine Funktion

$q:\mathrm{\Theta }\to ℝ$,

die im Falle eines parametrischen Modells auch als Parameterfunktion bezeichnet wird. Es gelten die folgenden Voraussetzungen:

• Es existiert ein $k\in \mathbb{N}$, so dass für alle $\vartheta \in \mathrm{\Theta }$ und alle $j\le k$ die Momente $m_j(\vartheta )$ existieren.
• Es existiert eine stetige Funktion $g:{ℝ}^k\to ℝ$, so dass

$q(\vartheta )=g(m_1(\vartheta ),m_2(\vartheta ),\dots ,m_k(\vartheta ))$.

Die zu schätzende Funktion lässt sich also als Funktion der Momente darstellen.

Dann ist

$\hat{q}(X):=g(m_1(X),m_2(X),\dots ,m_k(X))=g(\frac{1}{n}\sum _{i=1}^n{X}_i,\frac{1}{n}\sum _{i=1}^n{X}_i^2,\dots ,\frac{1}{n}\sum _{i=1}^n{X}_i^k)$

eine Schätzfunktion für $q$.

Man erhält also eine Schätzfunktion, indem man in der zu schätzenden Funktion die Momente $m_j(\vartheta )$ der Wahrscheinlichkeitsverteilungen durch die Stichprobenmomente $m_j(X)$ ersetzt.

Beispiele

Schätzung des Erwartungswertes

Es soll der Erwartungswert einer Stichprobe geschätzt werden. Aufgrund mangelnder Informationen über die Struktur möglicher Wahrscheinlichkeitsverteilungen wählt man als Familie von Wahrscheinlichkeitsmaßen alle Wahrscheinlichkeitsmaße mit endlichem Erwartungswert, versehen mit einer beliebigen Indexmenge $\mathrm{\Theta }$. Es handelt sich bei dem entsprechenden Produktmodell also um ein nichtparametrisches Modell. Aus der Indizierung kann keinerlei Schluss über den Erwartungswert gezogen werden oder umgekehrt.

Geschätzt werden soll der Erwartungswert, die zu schätzende Funktion ist also

$q(\vartheta )={\mathrm{E}}_{\vartheta }(Y)$

Als Darstellung durch die Momente findet sich

$q(\vartheta )=m_1(\vartheta )$,

da der Erwartungswert genau das erste Moment ist. Per Definition der Wahrscheinlichkeitsverteilungen existiert dieser immer, es ist somit $k=1$. Gesucht ist nun eine Darstellung von $q$ als Verkettung des ersten Moments und einer unbekannten stetigen Funktion $g$. Diese ergibt sich trivialerweise als

$g(x)=x$,

da

$g(m_1(\vartheta ))=m_1(\vartheta )=q(\vartheta )$.

Das Einsetzen des ersten Stichprobenmoments

$m_1(X)=\frac{1}{n}\sum _{i=1}^n{X}_i$

in $g$ liefert somit als Schätzfunktion für den Erwartungswert das Stichprobenmittel

$\hat{q}(X)=g(m_1(X))=\frac{1}{n}\sum _{i=1}^n{X}_i=\bar{X}$

Schätzung der Varianz

Analog zu oben soll nun ohne weiteres Vorwissen die Varianz geschätzt werden. Die Familie von Wahrscheinlichkeitsmaßen ist demnach so gewählt, dass alle eine endliche Varianz besitzen und mit einer Indexmenge $\mathrm{\Theta }$ indiziert sind.

Zu schätzende Funktion ist die Varianz, also

$q(\theta )={\mathrm{Var}}_{\theta }(Y)={\mathrm{E}}_{\vartheta }(Y^2)-({\mathrm{E}}_{\vartheta }(Y){)}^2$

nach dem Verschiebungssatz. Es ist also

$q(\vartheta )=m_2(\vartheta )-m_1(\vartheta {)}^2$.

Die Funktion $q$ lässt sich also als Verkettung der ersten beiden Momente und der stetigen Funktion

$g(x_1,x_2)=x_2-x_1^2$

schreiben. Substituiert man die Momente der Wahrscheinlichkeitsverteilungen durch die Stichprobenmomente, so erhält man

$\hat{q}(X)=m_2(X)-{(m_1(X))}^2=\frac{1}{n}\sum _{i=1}^n{X}_i^2-{\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)}^2=\frac{1}{n}\sum _{i=1}^n(X_i-\bar{X}{)}^2$

mit $\bar{X}$ wie oben als Schätzfunktion die (nicht korrigierte) Stichprobenvarianz. Sie ist ein klassisches Beispiel für einen nicht erwartungstreuen Momentenschätzer.

Allgemeine Formulierung

Die oben genannte Fassung lässt sich wie folgt verallgemeinern: Gegeben sei eine indizierte Menge $(P_{\vartheta }{)}_{\vartheta \in \mathrm{\Theta }}$ von Wahrscheinlichkeitsmaßen auf $(𝒳,𝒜)$ und sei $({𝒳}^n,{𝒜}^n,(P_{\vartheta }^n{)}_{\vartheta \in \mathrm{\Theta }})$ das entsprechende Produktmodell. Sei für integrierbares ${\phi }_j$

$a_j(\vartheta )={\mathrm{E}}_{\vartheta }({\phi }_i(Y))$

das j-te verallgemeinerte Moment und sei

$q(\vartheta )=g(a_1(\vartheta ),a_2(\vartheta ),\dots ,a_n(\vartheta ))$

die zu schätzende Funktion. Dann ist

$\hat{q}(X)=g(\frac{1}{n}\sum _{i=1}^n{\phi }_1(X_i),\frac{1}{n}\sum _{i=1}^n{\phi }_2(X_i),\dots ,\frac{1}{n}\sum _{i=1}^n{\phi }_k(X_i))$

eine Schätzfunktion für $q$. Der oben beschriebene Spezialfall folgt mit ${\phi }_j(x)=x^j$.

Eigenschaften

Für stetige Funktionen $g$ sind Momentenschätzer stark konsistent. Dies folgt direkt aus dem starken Gesetz der großen Zahlen. Für reelle und differenzierbare $g$ sind Momentenschätzer auch asymptotisch normal. Sie sind aber im Allgemeinen nicht erwartungstreu, wie die oben im Beispiel hergeleitete unkorrigierte Stichprobenvarianz zeigt.

Literatur

• Vorlage:Literatur
• Vorlage:Literatur