Normalisierter Fluss

Ein flussbasiertes generatives Modell ist ein generatives Modell, welches die Wahrscheinlichkeitsdichte der zugrundeliegenden Trainingsdaten schätzt, indem der normalisierte Fluss (normalizing flow) berechnet wird. Der normalizing flow wird aus den Rechenregeln zum Wechseln der Variablen bei Integration (siehe Transformationssatz) hergeleitet, wobei eine einfache Verteilung in die komplizierte Zielverteilung transformiert wird.

Hintergrund

Normalisierten Flüssen liegt die folgende Tatsache zugrunde: Betrachten wir die bijektive Abbildung $g$, sodass $Y=g(X)$, dann gilt laut Transformationssatz

$p_X(x)=p_Y(g(x))\left|\frac{\partial g(x)}{\partial x}\right|\iff p_Y(y)=p_X(g^{-1}(y)){\left|\frac{\partial g(x)}{\partial x}\right|}^{-1},$

wobei $\left|\frac{\partial g(x)}{\partial x}\right|$ der Betrag der Funktionaldeterminante ist und $g$ durch neuronale Netze parametrisiert wird.

Methode

Schema, welches den normalisierten Fluss darstellt

Log Likelihood

Betrachte Bijektionen $f_i$, sodass $z_1=f_1(z_0)$, sodass $z_0=f_1^{-1}(z_1)$.

Aufgrund des Transformationssatzes gilt:

$p_1(z_1)=p_0(z_0)|\det \frac{d{f}_1^{-1}(z_1)}{d{z}_1}|,$ bzw.

$\log (p_1(z_1))=\log (p_0(z_0))+\log \left(|\det \frac{d{f}_1^{-1}(z_1)}{d{z}_1}|\right)=\log (p_0(z_0))-\log \left(|\det \frac{d{f}_1(z_1)}{d{z}_1}|\right),$

daher gilt

$\log (p_n(z_n))=\log (p_{n-1}(z_{n-1}))-\log \left(|\det \frac{d{f}_n(z_n)}{d{z}_n}|\right),$

und wiederholtes Einsetzen der Regel liefert:

$\log p_K(z_K)=\log p_0(z_0)-\sum _{i=1}^K\log |\det \frac{d{f}_i(z_{i-1})}{d{z}_{i-1}}|$

Training

Ziel des Trainings ist es die Kullback-Leibler-Divergenz zwischen der geschätzten Wahrscheinlichkeitsdichte $p_{\theta }:=p_K$ und der wahren, die Stichproben generierende, Wahrscheinlichkeitsdichte $p^{*}$ zu minimieren:

$\hat{\theta }=\underset{\theta }{\mathrm{a}\mathrm{r}\mathrm{g}\mathrm{m}\mathrm{i}\mathrm{n}}{D}_{KL}[p^{*}(x)||p_{\theta }(x)]$.

Durch Schätzen des Erwartungswertes in der Kullback-Leibler-Divergenz mithilfe einer Realisierung des Stichprobenmittelwertes (und Vernachlässigung konstanter Terme) können die optimalen Maximum-Likelihood Parameter $\hat{\theta }$ geschätzt werden:

$\hat{\theta }=\arg \underset{\theta }{\min }-{\widehat{𝔼}}_{p^{*}(x)}[\log (p_{\theta }(x))]=\arg \underset{\theta }{\min }-\frac{1}{N}\sum _{i=0}^N\log (p_{\theta }(x_i))$

Varianten

Planarer Fluss

Das früheste Beispiel einer Abbildung $f$ ist der planare Fluss. Bei gegebener Aktivierungsfunktion $h$, und Parametern $\theta =(u,w,b)$ mit entsprechender Dimension, ist$$x=f_{\theta }(z)=z+uh(⟨w,z⟩+b)$$ und die inverse $f_{\theta }^{-1}$ (ohne allgemeingültige geschlossene Form).

Der Jacobian ist $|\det (I+h^{\prime }(⟨w,z⟩+b)u{w}^T)|=|1+h^{\prime }(⟨w,z⟩+b)⟨u,w⟩|$.

Damit der Fluss invertierbar ist, muss die Determinante überall ungleich null sein, was z. B. mit $h=\tanh$ und $⟨u,w⟩>-1$ der Fall ist.