Zufallsmatrix

Aus testwiki
Version vom 21. Januar 2025, 19:57 Uhr von imported>Netzkuh (growthexperiments-addlink-summary-summary:2|0|0)
(Unterschied) ← Nächstältere Version | Aktuelle Version (Unterschied) | Nächstjüngere Version → (Unterschied)
Zur Navigation springen Zur Suche springen

Eine Zufallsmatrix bezeichnet in der Stochastik eine matrixwertige Zufallsvariable (Vorlage:EnS). Ihre Verteilung nennt man zur Abgrenzung von den multivariaten Verteilungen eine matrixvariate Wahrscheinlichkeitsverteilung.

Zufallsmatrizen spielen eine wichtige Rolle in der statistischen sowie mathematischen Physik, insbesondere in der statistischen Mechanik. Aus historischer Sicht hat sich die Theorie aus dem Versuch entwickelt, Systeme mit vielen stochastischen aber miteinander agierenden Teilchen zu beschreiben. Viele der Grundlagen der Theorie stammen deshalb von mathematischen Physikern und viele Modelle haben eine physikalische Interpretation. Die ersten Arbeiten zum Thema Zufallsmatrizen stammen allerdings von dem Statistiker John Wishart.

Die Theorie der Zufallsmatrizen ist in der multivariaten Statistik relevant, wo man sie zur Analyse von Kovarianzmatrizen benötigt. Insbesondere im Zusammenhang mit hoch-dimensionalen Daten und spektralstatistischen Verfahren wie der Hauptkomponentenanalyse (PCA).

Zufallsmatrizen sind zu unterscheiden von der stochastischen Matrix.

Haarsches Maß und Weylsche Integralformel

Auf jeder Lie-Gruppe G existiert ein eindeutiges, links-invariantes Maß μL, d. h. für jedes gG und jede Borel-messbare Menge SG gilt μL(Sg)=μL(g). Dieses Maß nennt man linkes Haarsches Maß und es ist eindeutig bis auf Multiplikation mit einer Konstanten.

Betrachtet man nun eine kompakte Lie-Gruppe G, so existiert ein eindeutiges, linkes Haarsches Maß μH, welches zugleich auch rechts-invariant und normalisiert ist, genannt das Haarsche Wahrscheinlichkeitsmaß auf G. Das heißt für jedes gG und jede Borel-messbare Menge BG gilt μH(Bg)=μH(gB)=μH(g).

Für kompakte Lie-Gruppen lässt sich mit Hilfe der Integralformel von Weyl eine Formel für die Wahrscheinlichkeitsdichte bezüglich der Eigenwerte finden. Als Beispiel sei G=𝕌(n) die unitäre Gruppe, die Eigenwerte sind von der Form eiϕ1,,eiϕn mit ϕ1,,ϕn. Weiter sei f eine Klassenfunktion und T der maximale Torus aller Diagonalmatrizen t=diag(eiϕ1,,eiϕn) von 𝕌(n), Ad bezeichnet die adjungierte Darstellung und R bezeichne das Wurzelsystem, dann gilt:[1]

det(IdAdG/T(t1))=αR(1eα)=j<k|eiϕkeiϕj|2,

und somit erhält man mit Hilfe von Weyl’s Integralformel ein Integral über den maximalen Torus T

Gfdg=1n!Tf(t)j<k|eiϕkeiϕj|2dt.

Definition

Eine formale mathematische Definition lautet:[2]

Sei n der Raum der n×n-Matrizen über dem Körper K mit einer σ-Algebra 𝒜 und (Ω,,) ein Wahrscheinlichkeitsraum. Eine (,𝒜)-messbare Funktion A:Ωn heißt Zufallsmatrix.

Als σ-Algebra kann die borelsche σ-Algebra des euklidischen Umgebungsraumes der Mannigfaltigkeit n verwendet werden. Eine Zufallsmatrix ist somit das matrixwertige Analogon zu einer skalaren Zufallsvariablen.

Zentrale Begriffe

Partitionsfunktion

Sei ein Matrix-Raum (z. B. der hermiteschen n×n-Matrizen n():={Xn():X*=X}) und sei μ(dM) ein komplexes Maß auf diesem Raum, welches in der Regel nicht normalisiert ist. Dann nennt man das Integral

Z:=μ(dM)

Partitionsfunktion und man erhält einen Erwartungswert zur Funktion f:

𝔼[f(M)]:=1Zf(M)μ(dM)

Wignersche Matrix

Seien (Xi,j)1i<j und (Yi,i)1i i.i.d Zufallsvariablen mit gleichem Erwartungswert 0 sowie 𝔼[Xi,j2]=0 und 𝔼[|Xi,j|2]=1. Man nennt eine Zufallsmatrix Hn=(hi,j)1i,jn eine (komplexe) Wignersche-Matrix wenn sie hermitesch ist und folgendes gilt hi,j={Xi,j/ni<jYi,i/ni=j.

Die Matrix wird oft mit n1 skaliert. Manche Autoren definieren sie aber auch ohne Skalierung.

Sie ist ein wichtiger Typ von Zufallsmatrizen und benannt nach Eugene Wigner.

Wignersche Matrizen mit einer zugrundeliegenden Normalverteilung führen zu dem Begriff der gaußschen invarianten Ensembles. Allgemeine Wignersche Matrizen sind nicht invariant.

Das GUE erhält man, wenn zusätzlich 𝔼[Yi,i2]=1 gilt und die Einträge normalverteilt sind. Das GOE erhält man wenn alle Einträge reell und normalverteilt sind und zusätzlich 𝔼[Yi,i2]=2 gilt.

Invariante Ensembles

Zentrale Studienobjekte sind die invarianten Ensembles, welche durch die folgenden Maße auf dem entsprechenden Raum der Matrizen induziert werden:

Pβn(dA):=1Zβ,neβ2nTr(Q(A))dA

wobei β der Dyson-Index ist und Q(A) das Potential. Man setzt an Q voraus, dass Q(x) genügend schnell, wenn x±, damit alle Momente existieren. In der Regel ist Q ein Polynom. Man erhält für

  • β=1 das orthogonale Ensemble (OE) auf dem Raum der n×n reellen symmetrischen Matrizen.
  • β=2 das unitäre Ensemble (UE) auf dem Raum der n×n hermiteschen Matrizen
  • β=4 das symplektische Ensemble (SE) auf dem Raum der n×n hermiteschen quaternionen Matrizen.

Die freie Energie der unitären Ensembles ist[3]

Fn0=n2lnZ2,n=n2lnnenTrQ(M)dM

wobei n den Raum der hermiteschen Matrizen bezeichnet.

Mit Hilfe der weylschen Integralformel lässt sich zeigen, dass das kanonische (unnormalisierte) Haarsche Maß dUh auf der entsprechenden kompakten Lie-Gruppe 𝕆(n),𝕌(n)/𝕋n oder 𝕌𝕊𝕡(n)/𝕋n folgende Darstellung zulässt

dA=i<j|λjλi|βdΛdUh

wobei dΛ das Lebesgue-Maß der Eigenwerte ist. Für skalierte Einträge des Gaußschen Ensembles erhält man eine geschlossene Form des Wahrscheinlichkeitsmaßes über der Weyl-Kammer mit λnλ1

Pβn(dλ1,,dλn)=1Z~β,ni<j|λjλi|βk=1neβn2Q(λk)dλk.

Das Wahrscheinlichkeitsmaß enthält den Boltzmann-Faktor eβn(λ1,,λn) wobei die totale potentielle Energie bezeichnet

(λ1,,λn):=12j=1nQ(λk)1ni<jlog|λjλi|.

Die Konstante

Z~β,n:=n!(i<j|λjλi|βi=1neβn2Q(λi)dλi)

lässt sich mit Hilfe des Selberg-Integrals berechnen.

Gaußsche Ensembles

Wichtige Spezialfälle der invariante Ensembles sind die Gaußschen Ensembles, welche durch das Potential Q(A):=12A2 mit Q(λk):=12λk2 und die folgenden Gaußschen Maße erzeugt werden

Pβn(dA):=1Zβ,neβ4nTr(A2)dA.

Man erhält für

  • β=1 das Gaußsches Orthogonales Ensemble (GOE) auf dem Raum der n×n reellen symmetrischen Matrizen.
  • β=2 das Gaußsches Unitäres Ensemble (GUE) auf dem Raum der n×n hermiteschen Matrizen.
  • β=4 das Gaußsches Symplektisches Ensemble (GSE) auf dem Raum der n×n hermiteschen quaternionen Matrizen.

Die Bezeichnung orthogonal/unitär/symplektisch bezeichnet, unter welcher Matrix Konjugation die Verteilung invariant ist.

Beispielsweise gilt für eine Matrix Mn aus dem GOE und einer Matrix O aus der orthogonalen Gruppe 𝕆n, dass MnOTMnO.

In der Quantenmechanik werden sie verwendet, um Hamiltonoperatoren zu modellieren.

Herleitung des GUE durch Ornstein-Uhlenbeck-Prozesse

Man betrachte das System stochastischer Differentialgleichungen der Ornstein-Uhlenbeck-Prozesse

{dXi(t)=Xi(t)dt+dWi(t)1in,dXij(t)=Xij(t)dt+dWij(1)(t)1i<jn,dYij(t)=Yij(t)dt+dWij(2)(t)1i<jn

wobei {Wi,Wij(1),Wij(2)} unabhängige brownsche Bewegungen sind mit

𝔼[W˙i(t1)W˙j(t2)]=2Dδijδ(t1t2),𝔼[W˙ij(σ1)(t1)W˙st(σ2)(t2)]=Dδσ1σ2δstδijδ(t1t2)

und die Initialwerte Xi(0),Xij(0),Yij(0) beliebig sind.

Definiert man nun eine hermitesche Zufallsmatrix H=(hij(t)/n)1i,jn für t0 mit

hij(t)={Xi(t)i=j,Xij(t)+iYij(t)i<j

und bezeichnet mit ft(dH) das zugehörige Wahrscheinlichkeitsmaß, dann gilt für D=2 und t

ft(dH)P2n(dH)

wobei P2n(dH) das GUE bezeichnet.[4]

Zirkulare Ensembles

Man erhält das Zirkulare Unitäre Ensemble (ZUE) durch das haarsche Maß auf dem Raum der unitären Matrizen. Das Zirkulare Orthogonale Ensemble (ZOE) erhält man durch das haarsche Maß auf dem Raum der symmetrischen unitären Matrizen. Das Zirkulare Symplektische Ensemble (ZSE) erhält man durch das haarsche Maß auf dem Raum der selbst-dualen unitären Quaternionen-Matrizen. Die Dichte der Eigenwerte λj=eiθj der Zirkularen Ensembles ist

pβ(λ1,,λn)=1Zβ,ncirci<j|eiθjeiθi|β,π<θlπ,

wobei β=1 für das ZOE, β=2 für das ZUE und β=4 für das ZSE gilt.[5]

β-Ensembles und Dysons „Threefolded Way“

Man spricht von Dysons β-Ensemble, da Freeman Dyson in seiner wissenschaftlichen Schrift The Threefolded Way[6] diese β={1,2,4} Klassifizierungen der Zufallsmatrizen herleitete, basierend auf physikalisch möglichen Zeitumkehr-Eigenschaften der Quantenmechanik (orthogonal, unitär, symplektisch). Der Fall β=3 ist aufgrund des Satzes von Frobenius nicht möglich. Neben den Gaußschen Ensembles spielen auch die β-Wishart-Laguerre-Ensembles und die β-Jacobi-Manova-Ensembles eine zentrale Rolle in der Theorie der Zufallsmatrizen.

Es ist üblich, nur von Laguerre-Ensembles bzw. Jacobi-Ensembles zu sprechen, statt von Wishart- bzw. Manova-Ensembles

Allgemeine β spielen in der klassischen Theorie der Zufallsmatrizen eine untergeordnete Rolle.

Theorie der Zufallsmatrizen

Die Theorie der Zufallsmatrizen befasst sich weniger mit einer konkreten Zufallsmatrix, sondern mit dem Matrizenraum dahinter. Konkret geht es um Wahrscheinlichkeitsmaße auf Matrixräumen und Lie-Gruppen, dies erklärt den Begriff des Ensembles. Ein klassisches Problem der Theorie der Zufallsmatrizen ist das Finden einer multivariaten Wahrscheinlichkeitsdichte für die Eigenwerte unterschiedlicher Matrix-Ensembles. Eine der frühesten Arbeiten stammt von Dyson, welcher eine geschlossene Form für eine große Menge von Matrizen fand, abhängig von der zugrundeliegenden Symmetrie der Matrizen und Wahrscheinlichkeitsverteilung.

Die Spektraleigenschaften großer Zufallsmatrizen haben universelle Eigenschaften und man kann beim Studium komplizierter deterministischer Operatoren, wie zum Beispiel dem Dirac-Operator aus der Physik, diese Operatoren mit Zufallsmatrizen ersetzen und die Theorie der Zufallsmatrizen anwenden.

Beim Studium von Integralen über Matrix-Räume verwendet man zum Teil Resultate aus der Theorie der Lie-Gruppen und Lie-Algebren. Auch die freie Wahrscheinlichkeitstheorie von Voiculescu ist von Relevanz für große Zufallsmatrizen.

Generell untersucht man Matrizen mit bestimmten Symmetrie-Eigenschaften (z. B. hermitesche) und hat bestimmte stochastische Anforderungen an die Wahrscheinlichkeitsverteilung auf den Raum jener Matrizen (z. B. obere Dreiecksmatrix unabhängig). Des Weiteren interessiert man sich vor allem für die Spektraltheorie und dessen asymptotisches Verhalten, wenn die Dimension N. Die Spektraltheorie ist engverbunden mit der Theorie der Punktprozesse, da die Eigenwerte einen (zufälligen) Punktprozess formen. Bei vielen Ensembles taucht in der gleichen Region derselbe Punktprozess in unendlicher Dimension auf (Universalität). Matrix-wertige Funktionen wie die Determinante oder die Spur können nicht einfach auf unendlich-dimensionale Matrizen übertragen werden. Für bestimmte Operatoren lässt sich aber mit der abstrakten Fredholmtheorie eine Erweiterung auf unendlich-dimensionale separable Hilberträume über die äußere Algebra finden. Es lassen sich Determinanten für Operatoren aus den Schatten-von Neumann-Klassen definieren.

Definiert man die Einträge der Matrix als Brownsche Bewegungen, so lässt sich auch das matrixwertige Analogon eines stochastischen Prozesses bilden und die Theorie der stochastischen Analysis und die Martingal-Theorie ist anwendbar, siehe Dysons brownsche Bewegung und Wishart-Prozess.

Spektraltheorie der Zufallsmatrizen

Sind die Einträge einer hermiteschen Zufallsmatrix Mn von der Größe 𝒪(n), so konvergiert das empirische Spektralmaß

νn(λ;Mn):=n1j=0nδ(λλj(Mn)),

wobei δ das Dirac-Delta bezeichnet.

Da die zufälligen Ensembles Punktprozesse sind, kann man die n-Punkt Korrelationsfunktion für die Eigenwerte λ1,,λN herleiten. Sei φ eine Testfunktion und definiere das Funktional

EN[φ]:=n=0N(1)n(Nn)𝔼[φ(λ1)φ(λn)]

Dann ist die n-Punkt Korrelationsfunktion folgende ausgewertete Funktionalableitung[7]

(1)nδnδφ(λ1)δφ(λn)EN[φ]|φ=0=RN(n)(λ1,,λn).

Mit dem Darstellungssatz von Fréchet-Riesz lässt sich Konvergenz im Erwartungswert für φCc() definieren

φd𝔼νn(λ;Mn):=𝔼φdνn(λ;Mn).

Globale Situation

Eines der wichtigsten Ergebnisse ist das sogenannte Wignersche Halbkreisgesetz (siehe Eugen Wigner): Es besagt, dass das (skalierte) empirische Spektralmaß νn einer Wignerischen Zufallsmatrix (in der Physik bekannt als die sogenannte Zustandsdichte) einer charakteristischen Halbkreis-Verteilung genügt.

Das Variationsproblem der Verteilung der Eigenwerte

Allgemeiner handelt es sich bei der Grenzwertverteilung der Eigenwerte um die Lösung eines Variationsproblem. Definiere den Raum der Maße

M1()={ν:ν0, dν=1}

und betrachte das Funktional

EQ=inf\limits νM1()xyln|xy|dν(x)dν(y)+Q(x)dν(x).

Das Funktional erklärt sich durch die Integralschreibweise der totalen potentiellen Energie

xyln|xy|1+ni=1nQ(x)

bezüglich des empirischen Spektralmaßes νn. Für EQ wird ein eindeutiges Equilibriummaß νQ durch die Euler-Lagrange-Variationsbedingung für eine reelle Konstante l[3]

2log|xy|dν(y)Q(x)=l,xJ
2log|xy|dν(y)Q(x)l,xJ

definiert, wobei J=j=1q[aj,bj] der Träger des Maßes ist und definiere das Polynom

q(x)=(Q(x)2)2+Q(x)Q(y)xydνQ(y).

Das Equilibirummaß νQ besitzt folgende Radon-Nikodym-Dichte

dνQ(x)dx=1πq(x).
Beispiel: Wignersche Halbkreis

Im Fall des GUE konvergiert das zufällige Maß schwach in Wahrscheinlichkeit gegen die deterministische Verteilung

σ(dx):=12π(4x2)+dx

Es gilt für eine Funktion fCb() und ε>0

lim\limits nP(|νn,fσ,f|>ε)=0

Der Satz kann mit Mitteln der Kombinatorik und der Momentmethode bewiesen werden. Für eine Zufallsvariable Xσ(dx) gilt, dass 𝔼[Xk]=δk/2Ck/2 wobei Cn die Catalan-Zahlen sind.

Durch die oben erwähnte Equilibriummaß-Methode der statistischen Mechanik gibt es eine Verbindung zur Theorie der großen Abweichungen. Einen analytischen konstruktiven Beweis ergibt sich über die Stieltjes-Transformation.

Für Wishart- bzw. Laguerre-Matrizen konvergiert das empirische Spektralmaß νn gegen die Martschenko-Pastur-Verteilung und für MANOVA bzw. Jacobi-Matrizen gegen die Kesten-Mckey-Verteilung.

Für quadratische Zufallsmatrizen An mit i.i.d. komplexen Einträgen (a)ij mit 𝔼[(a)ij]=0 und Var[(a)ij]=1 gilt das Kreisgesetz (Tao-Vu[8]) welches besagt, dass νn gegen

θ(dx):=1π1|x|2+|y|21dxdy

konvergiert.

Man spricht von Universalität, weil die Sätze unabhängig von der zugrundeliegenden Verteilung sind.

Lokale Situation

Limitverhalten

Lokal ergibt sich bei Skalierung ein Punktprozess für die Eigenwerte. Der Fall β=2 von hermiteschen Matrizen ist signifikant einfacher. Man kann mittels der Theorie der orthogonale Polynome eine determinantale Form für die Korrelationsfunktion finden, welche dann zu Fredholm-Determinanten von Integraloperatoren führen. Die Fälle β=1 und β=4 lassen sich mit Quaternionen-Determinanten und schief-orthogonalen Polynome lösen.[9]

Es gilt für die n-Punkt Korrelationsfunktion

RN(n)(λ1,,λn)=N!(Nn)!(λn+1)(λN)pβ(λ1,,λN)j=n+1Ndλj

wobei pβ(λ1,,λn) die multivariate Dichte der Eigenwerte ist.

Für das GUE erhält man einen determinantal point process, ein einfacher Punktprozess mit Kern bezüglich eines Maßes μ, dessen RN(n) existiert, so dass für alle n1 gilt

RN(n)(dx1,,dxn)=det[K(xi,xj)]1i,jnμ(dx1,,dxn).

Skaliert man den Integralkern konvergiert dieser entweder zu dem Sinus- oder Airy-Kern. Die benötigten asymptotischen Entwicklungen können mittels der nicht-trivialen Methode des steilsten Anstiegs gezeigt werden (asymptotische Entwicklungen vom Plancherel-Rotach-Typ).

KSine(x,y)=sin(π(xy))π(xy)

Die Wahrscheinlichkeit, dass eine kompakte Menge V keine (unskalierte) Eigenwerte (λi)in enthält, lässt sich als Fredholm-Determinante formulieren (Gaudin-Mehta)

lim\limits nP(nλ1,,nλn∉V)=1+k=1(1)kk!VVdet[KSine(xi,xj)]i,j=1kj=1kdxj.

Universalität im Hauptteil

2010 zeigten Erdős-Ramírez-Schlein-Tao-Vu-Yau für wignerische Matrizen mit subexponentialer Abnahme Universalität des Sinus-Kern.[10]

Rand

Betrachtet man den Rand des Spektrums, so erhält man einen Airy-Prozess und bekommt die Tracy-Widom-Verteilung mit Kern

KAiry(x,y)=Ai(x)Ai(y)Ai(x)Ai(y)xy

wobei Ai die Airy-Funktion bezeichnet.

Für das GSE und GOE erhält man eine Verallgemeinerung, ein sogenannter pfaffian point processes.

Im Falle des Laguerre-Ensembles ergibt sich bei dem hard edge (harten Rand) ein Bessel-Prozess und bei dem soft edge (weichen Rand) ein Airy-Prozess.

Geschichte

Bereits 1928 untersuchte John Wishart als einer der ersten die Zufallsmatrizen, die bei einer standard-multivariaten normalverteilten Stichprobe entstehen (die Kovarianzmatrix). Dies führte zu der Wishart-Verteilung, die matrixvariate Verallgemeinerung der χ2-Verteilung bzw. Gamma-Verteilung.

In den 1950er untersuchte Eugene Wigner die Verteilung zwischen benachbarten Energieniveaus von schweren Atomkernen. Das Energieniveau wird durch die Eigenwerte des Hamiltonian der (zeitunabhängigen) Schrödingergleichung beschrieben

H^|Ψ=E|Ψ

Für schwere Atomkerne ist dieses Problem zu komplex um es theoretisch zu lösen, deshalb kam Wigner auf die Idee, dieses Problem als statistisches Problem zu lösen und stattdessen die Spektraldichte von großen endlichen Zufallsmatrizen zu untersuchen.

Empirische Daten aus Experimenten zeigten, dass die Verteilung von der Form

ω(dx)=Cβxβekβx2dx

sein musste und somit das Energieniveau korreliert ist, da sonst eine Poisson-Verteilung zugrunde liegen sollte und es erklärte auch das Phänomen, dass sich die Energieniveaus gegenseitig abstiessen. Dieses Resultat wird als Wigners Vermutung (Vorlage:EnS) bezeichnet. Die Konstanten Cβ,kβ sind von β{1,2,4} abhängig und β beschreibt die zugrundeliegende Symmetrie der Atomkerne unter Zeitumkehr und Spinrotation. Wigner postulierte, dass die Abstände zwischen den Linien des Spektrums den Abständen der Eigenwerte einer Zufallsmatrix gleichen.

Aus den 1960ern stammen bedeutende Arbeiten zur mathematischen Theorie der Zufallsmatrizen von Gaudin, Mehta und Dyson. Parallel dazu entwickelte sich auch wichtige Arbeiten zu den Kovarianzmatrizen.

Die traditionelle Ausgangslage der Statistik hat eine (kleine) fixe Anzahl p von Parametern und n Observationen. Die Theorie der Zufallsmatrizen hat sich aus der Situation entwickelt, wenn p sehr groß ist und man interessiert sich auch für die Fälle wenn n,p.

In den 1970ern entdeckte Montgomery und Dyson eine Verbindung zwischen den Zufallsmatrizen und der Zahlentheorie respektive zwischen schweren Atomkernen und den kritischen Nullstellen der riemannschen Zeta-Funktion.

Anwendungen

Statistik

Physik

Weitere Anwendungen

Literatur

Einzelnachweise und Anmerkungen

Vorlage:Navigationsleiste Spezielle Matrizen in der Statistik