Quadratische Formen von Zufallsvariablen

Eine quadratische Form von $n$ reellen Zufallsvariablen $X_1,\dots ,X_n$, die eine gemeinsame Wahrscheinlichkeitsverteilung besitzen, ist eine Zufallsvariable, die sich additiv aus Summanden der Form $a_{ij}{X}_i{X}_j$ mit reellen Konstanten $a_{ij}$ für $i,j=1,\dots ,n$ zusammensetzt.

Notation

Vektoren werden standardmäßig als Spaltenvektoren aufgefasst. Der hochgestellte Index $T$ kennzeichnet die Transponierung eines Vektors oder einer Matrix. ${ℝ}^{m\times n}$ bezeichnet die Menge der reellwertigen Matrizen mit $m$ Zeilen und $n$ Spalten. ${𝐈}_n$ sei die Einheitsmatrix der Ordnung $n$. Für eine quadratische Matrix $𝐀\in {ℝ}^{n\times n}$ bezeichnet $\mathrm{Spur}(𝐀)$ die Spur der Matrix $𝐀$, das ist die Summe der Diagonaleinträge.

Definition

$𝐗=(X_1,\dots ,X_n{)}^T$ sei ein Zufallsvektor mit Werten in ${ℝ}^n$. $𝐀\in {ℝ}^{n\times n}$ sei eine quadratische Matrix mit Elementen $a_{ij}$ für $i,j=1,\dots ,n$. Dann heißt

${𝐗}^T𝐀𝐗=\sum _{i=1}^n\sum _{j=1}^n{a}_{ij}{X}_i{X}_j$

quadratische Form der reellen Zufallsvariablen $X_1,\dots ,X_n$.

Eigenschaften

• ${𝐗}^T𝐀𝐗$ ist eine reelle Zufallsvariable.
• Falls $𝐀$ eine positiv semidefinite Matrix ist, gilt ${𝐗}^T𝐀𝐗\ge 0$.
• Es gilt ${𝐗}^T𝐀𝐗={𝐗}^T{𝐀}^T𝐗$. Daher gilt auch ${𝐗}^T𝐀𝐗={𝐗}^T𝐁𝐗$ für die symmetrische Matrix $𝐁=(𝐀+{𝐀}^T)/2$. Für viele Eigenschaften quadratischer Formen von Zufallsvariablen stellt daher die Beschränkung auf symmetrische Matrizen $𝐀$ keine Einschränkung dar.
• Es gilt

${𝐗}^T{𝐈}_n𝐗=\sum _{i=1}^n{X}_i^2.$

Erwartungswert einer quadratischen Form

Satz: $𝐗$ sei ein $n$-dimensionaler Zufallsvektor mit dem Erwartungswertvektor $\mathit{\mu }=({\mu }_1,\dots ,{\mu }_n{)}^T\in {ℝ}^n$ und der Kovarianzmatrix $\mathrm{\Sigma }\in {ℝ}^{n\times n}$. Für jede Matrix $𝐀\in {ℝ}^{n\times n}$ gilt

$𝔼[{𝐗}^T𝐀𝐗]=\mathrm{Spur}(𝐀\mathrm{\Sigma })+{\mathit{\mu }}^T\mathrm{\Sigma }\mathit{\mu }.$

Diese Aussage gilt unabhängig davon, ob $𝐀$ symmetrisch ist und ob $\mathrm{\Sigma }$ invertierbar ist. Unmittelbar aus diesem Satz ergeben sich die folgenden Spezialfälle:

• Der zentrierte Zufallsvektor $𝐗-\mathit{\mu }$ hat den Erwartungswertvektor $\mathrm{𝟎}=(0,\dots ,0{)}^T\in {ℝ}^n$ und dieselbe Kovarianzmatrix $\mathrm{\Sigma }$ wie der Zufallsvektor $𝐗$, so dass sich

$𝔼[(𝐗-\mathit{\mu }{)}^T𝐀(𝐗-\mathit{\mu })]=\mathrm{Spur}(𝐀\mathrm{\Sigma })$

ergibt.

• Ein wichtiger Spezialfall ergibt sich, wenn die Kovarianzmatrix $\mathrm{\Sigma }$ invertierbar ist. Dann gilt

$𝔼[(𝐗-\mathit{\mu }{)}^T{\mathrm{\Sigma }}^{-1}(𝐗-\mathit{\mu })]=n$,

denn $\mathrm{Spur}({\mathrm{\Sigma }}^{-1}\mathrm{\Sigma })=\mathrm{Spur}({𝐈}_{𝐧})=n$.

• Für einen Vektor $𝐛\in {ℝ}^n$ hat der Zufallsvektor $𝐗-𝐛$ den Erwartungswertvektor $\mathit{\mu }-𝐛$ und dieselbe Kovarianzmatrix $\mathrm{\Sigma }$ wie der Zufallsvektor $𝐗$, so dass sich

$𝔼[(𝐗-𝐛{)}^T𝐀(𝐗-𝐛)]=\mathrm{Spur}(𝐀\mathrm{\Sigma })+(\mathit{\mu }-𝐛{)}^T\mathrm{\Sigma }(\mathit{\mu }-𝐛)$

ergibt.

Wahrscheinlichkeitsungleichungen für quadratische Formen

Satz: $𝐗$ sei ein $n$-dimensionaler Zufallsvektor mit dem Erwartungswertvektor $\mathit{\mu }\in {ℝ}^n$ und der Kovarianzmatrix $\mathrm{\Sigma }\in {ℝ}^{n\times n}$. Es sei $𝐛\in {ℝ}^n$ und die quadratischen reellen Matrizen ${𝐁}_j\in {ℝ}^{n\times n}$ für $j=1,\dots ,m$ seien positiv semidefinit. Mit positiven Konstanten ${\delta }_j>0$ für $j=1,\dots ,m$ seien die $m$ Ereignisse

$A_j:=\{(𝐗-𝒃{)}^T{𝐁}_j(𝐗-𝒃)\le {\delta }_j\},j=1,\dots ,m$

definiert. Dann gilt

$P\left(\bigcap _{j=1}^m{A}_j\right)\ge 1-(\frac{{\gamma }_1}{{\delta }_1}+\dots +\frac{{\gamma }_m}{{\delta }_m})$

mit

${\gamma }_j=\mathrm{Spur}({𝐁}_j\mathrm{\Sigma })+(\mathit{\mu }-𝒃{)}^T{\mathrm{B}}_j(\mathit{\mu }-𝒃),j=1,\dots ,m.$

Ein wichtiger Spezialfall ergibt sich für $m=1$, $𝒃=\mathit{\mu }$, ${𝐁}_1={\mathrm{\Sigma }}^{-1}$ und ${\delta }_1=\delta >0$. Dann gelten die Ungleichungen

$P((𝐗-\mathit{\mu }{)}^T{\mathrm{\Sigma }}^{-1}(𝐗-\mathit{\mu })\le \delta )\ge 1-\frac{n}{\delta }$

und

$P((𝐗-\mathit{\mu }{)}^T{\mathrm{\Sigma }}^{-1}(𝐗-\mathit{\mu })>\delta )\le \frac{n}{\delta }.$

Die letzte Ungleichung wurde bereits 1962 von Samuel Stanley Wilks angegeben und ist eine multivariate Verallgemeinerung der Tschebyscheffschen Ungleichung, die für eine reelle Zufallsvariable $X$ mit dem Erwartungswert $\mu$ und der Varianz $0<{\sigma }^2<\mathrm{\infty }$ in der Form

$P(\frac{(X-\mu {)}^2}{{\sigma }^2}>\delta )\le \frac{1}{\delta },\delta >0$

geschrieben werden kann.

Literatur

• Vorlage:Literatur
• Vorlage:Literatur