Slow Feature Analysis

Slow Feature Analysis ist ein unüberwachter Lernalgorithmus, der invariante oder sich zumindest nur langsam verändernde Merkmale aus einem vektoriellen Signal lernen soll. Er basiert auf der Hauptachsentransformation.

Problembeschreibung

Wenn ein Eingabesignal $x(t)$ gegeben ist, wird eine Ein-/Ausgabefunktion $g(x)$ gesucht, für die $y(t)=g(x(t))$ so wenig wie möglich variiert und $g$ nicht konstant ist.

Formal schreibt man:

Gegeben sei ein $n$-dimensionales Eingabesignal $x(t)=[x_1(t),\dots ,x_n(t)]$ mit $t\in [t_0,t_1]$. Finde eine $m$-dimensionale Ein-/Ausgabefunktion $g(x)=[g_1(x),\dots ,g_m(x)]$, die aus $x(t)$ die $m$-dimensionale Ausgabe $y(t)=[y_1(t),y_2(t),\dots ,y_m(t)]$ mit $y_i(t)=g_i(x(t))$ für jedes $i\in \{1,\dots ,m\}$ erzeugt. Dabei müssen für alle $i\in \{1,\dots ,m\}$ folgende Nebenbedingungen erfüllt sein:

$\begin{array}{ccc}{\mathrm{\Delta }}_i=\mathrm{\Delta }(y_i):& =⟨{\dot{y}}_i^2⟩& \text{ ist minimal}\\ ⟨y_i⟩& =0& \text{(Mittelwert)}\\ ⟨y_i^2⟩& =1& \text{(Varianz)}\\ \mathrm{\forall }{i}^{\prime }<i:⟨y_{i^{\prime }}{y}_i⟩& =0& \text{(Dekorrelation)}\end{array}$

wobei $\dot{y}$ die Ableitung nach $t$ bezeichnet und $⟨\cdot ⟩$ ein Durchschnitt über die Zeit ist:

$⟨f⟩:=\frac{1}{t_1-t_0}\underset{t_0}{\overset{t_1}{\int }}f(t)\mathrm{d}t$

Weblinks

• Laurenz Wiskott et al.: Slow feature analysis. In: Scholarpedia. 6, Nr. 4, 2011, 5282.