Nächste Seite: EINE ZIELFUNKTION FÜR DAS
Aufwärts: PERFORMANZMASSE FÜR DIE DREI
Vorherige Seite: EINE ZIELFUNKTION FÜR DAS
  Inhalt
Eine wohlbekannte Zielfunktion zur Erzwingung binärer Ausgaben
ist durch
|
(6.4) |
gegeben. ist maximal, wenn jeder Repräsentationsknoten
ausschließlich binäre Werte annimmt.
Der Beitrag, den ein Knoten für liefert, ist dann maximal,
wenn so nahe an liegt wie möglich. Dies zieht
unter der Binärbedingung
maximale Entropie des Knotens nach sich;
das Repräsentationsmodul übermittelt dabei maximale
(Shannon-)Information
über seine Eingaben.
Juergen Schmidhuber
2003-02-20
Related links in English: Recurrent networks - Fast weights - Subgoal learning - Reinforcement learning and POMDPs - Unsupervised learning and ICA - Metalearning and learning to learn
Deutsche Heimseite