next up previous contents
Nächste Seite: ARCHITEKTUR 2 Aufwärts: ARCHITEKTUR UND NETZWERKDYNAMIK Vorherige Seite: ARCHITEKTUR UND NETZWERKDYNAMIK   Inhalt

ARCHITEKTUR 1

Die vielleicht einfachste Schnittstelle zwischen $S$ and $F$ erhält man durch Bereitstellung eines Ausgabeknotens $s_{ab} \in S$ für jede Gewichtsvariable $w_{ba} \in W_F$, wobei
\begin{displaymath}
\Box w_{ba}(t):=s_{ab}(t).
\end{displaymath} (3.4)

$s_{ab}(t)$ bezeichnet hier die Aktivation des Ausgabeknotens zur Zeit $t \geq 0$. Siehe Abbildung 3.1.

Abbildung: Gewichtsänderungen eines Netzwerkes mit dynamischen Verbindungen (rechts, mit einem versteckten Knoten) werden direkt durch die Ausgaben des `langsamen' Netzes (links) gesteuert.
\begin{figure}\psfig{figure=fig3.1} \end{figure}

Ein Nachteil dieser Architektur besteht darin, daß die Zahl der Ausgabeknoten in $S$ proportional zur Anzahl der schnellen Gewichte in $F$ wächst. Eine Alternative bietet



Juergen Schmidhuber 2003-02-20


Related links in English: Recurrent networks - Fast weights - Subgoal learning - Reinforcement learning and POMDPs - Unsupervised learning and ICA - Metalearning and learning to learn
Deutsche Heimseite