Van-Trees-Ungleichung

Bei der Van-Trees-Ungleichung handelt es sich um eine zentrale Ungleichung aus der bayesschen Schätztheorie, einem Teilgebiet der mathematischen Statistik. Ähnlich wie die Cramér-Rao-Ungleichung aus der frequentistischen Statistik liefert sie eine Abschätzung der Varianz für Punktschätzer und damit eine Möglichkeit, unterschiedliche Schätzer miteinander zu vergleichen. Im Unterschied zur Cramér-Rao-Ungleichung verzichtet die Ungleichung auf die Voraussetzung der Erwartungstreue, ist aber dadurch für erwartungstreue Schätzer etwas schwächer. Für große Stichprobenumfänge unterscheidet sich allerdings die Van-Trees-Schranke nur noch geringfügig von der Cramér-Rao-Schranke.

Die Ungleichung ist benannt nach Harry L. van Trees, der die Ungleichung 1968 erstmals aufstellte.

Die Ungleichung

Rahmenbedingungen

Gegeben sei das einparametrige statistische Modell $(𝒳,𝒜,\mathcal{(}{P}_{\vartheta }{)}_{\vartheta \in \mathrm{\Theta }})$ mit dominierendem Maß $\mu$. Wir bezeichnen mit $f(x|\vartheta )$ die Dichte von $P_{\vartheta }$ bezüglich $\mu$.

Über dem Parameterraum $(\mathrm{\Theta },ℬ(\mathrm{\Theta }))$ gibt es zusätzlich ein Wahrscheinlichkeitsmaß $\pi$ mit einer Dichte $\lambda (\vartheta )$ bezüglich des Lebesgue-Maßes. Damit handelt es sich bei unserem Modell um ein bayessches statistisches Modell.

Es gelten weiterhin folgende Regularitätsbedingungen:

• $\lambda (\vartheta )$ und $f(x|\cdot )$ sind beide ($\mu$-fast sicher) absolutstetige Funktionen.
• $\mathrm{\Theta }$ ist ein abgeschlossenes Intervall in $ℝ$
• Die Funktion $\lambda$ konvergiert an den Rändern des Definitionsintervalls $\mathrm{\Theta }$ gegen $0$.

Formulierung

Sei $T=T(X)$ ein Schätzer für den Parameter $\vartheta$ und $X$ eine Zufallsvariable, die wie $P_{\vartheta }$ verteilt ist. Wir nehmen zudem an, dass ${\mathrm{E}}_{\vartheta }[\frac{\partial }{\partial \vartheta }\ln f(X,\vartheta )]=0$ gilt.

Sei des Weiteren

$I(\vartheta ):={\mathrm{E}}_{\vartheta }[S_{\vartheta }^2]={\mathrm{E}}_{\vartheta }[(\frac{\partial }{\partial \vartheta }\ln f(X,\vartheta ){)}^2]$

$I(\lambda ):=\mathrm{E}[(\frac{\partial }{\partial \vartheta }\ln \lambda (\vartheta ){)}^2]$

die Fisher-Information für $\vartheta$ beziehungsweise für einen Parameter in $\lambda$. Dabei ist ${\mathrm{E}}_{\vartheta }$ der (gewöhnliche) Erwartungswert bezüglich des Wahrscheinlichkeitsmaßes $P_{\vartheta }$ und $\mathrm{E}$ der Erwartungswert bezüglich des gemeinsamen Wahrscheinlichkeitsmaßes von $X$ und einer $\pi$-verteilten Zufallsvariable $Y$.

Die Ungleichung von van Trees besagt nun:

$\mathrm{E}[(T(X)-\vartheta {)}^2]\ge \frac{1}{\mathrm{E}[I(\vartheta )]+I(\lambda )}$

Anwendungen

Die Ungleichung kann verwendet werden, um zu zeigen, dass in ein- oder zweiparametrigen Modellen keine supereffizienten Schätzer existieren. Dabei ist unter einem supereffizienten Schätzer ein (nicht-erwartungstreuer) Schätzer gemeint, der die Cramér-Rao-Ungleichung unterschreitet.

Literatur

• Richard D. Gill, Boris Y. Levit: Applications of the van Trees inequality: a Bayesian Cramér-Rao bound. In: Bernoulli. 1, no. 1–2, 1995, S. 59–79. (projecteuclid.org)