ARCHITEKTUR 1

Die vielleicht einfachste Schnittstelle zwischen $S$ and $F$ erhält man durch Bereitstellung eines Ausgabeknotens $s_{ab} \in S$ für jede Gewichtsvariable $w_{ba} \in W_F$, wobei

$$\Box w_{ba}(t):=s_{ab}(t).$$ (3.4)

$s_{ab}(t)$ bezeichnet hier die Aktivation des Ausgabeknotens zur Zeit $t \geq 0$. Siehe Abbildung 3.1.

Abbildung: Gewichtsänderungen eines Netzwerkes mit dynamischen Verbindungen (rechts, mit einem versteckten Knoten) werden direkt durch die Ausgaben des `langsamen' Netzes (links) gesteuert.

Ein Nachteil dieser Architektur besteht darin, daß die Zahl der Ausgabeknoten in $S$ proportional zur Anzahl der schnellen Gewichte in $F$ wächst. Eine Alternative bietet

Related links in English: Recurrent networks - Fast weights - Subgoal learning - Reinforcement learning and POMDPs - Unsupervised learning and ICA - Metalearning and learning to learn
Deutsche Heimseite