Wichtige Forderungen an Lernalgorithmen (und zugleich Schwerpunkte der Arbeit) sind die folgenden:
1. `On-line'-Verwendbarkeit. Weder in der Natur noch bei anspruchsvollen technischen Problemen macht die Umgebung plötzlich Pausen, um irgendwelchen lernenden Systemen Luft für aufwendige Lernprozesse zu schaffen. In der Regel fährt die Umgebung fort sich zu ändern, während das System lernt.
2. Parallelisierbarkeit. Aus Effizienzgründen wünscht man sich Lernalgorithmen, deren Ausführung auf viele Prozessoren verteilbar ist. Ideale Voraussetzung für die Parallelisierung von Algorithmen bietet die
3. Lokalität in der Zeit und möglichst im Raum. Am liebsten hätte man einen Lernalgorithmus, bei dem alle Knoten und Verbindungen zu jedem Zeitpunkt im wesentlichen dieselben Operationen ausführen. Dabei sollten sie sich jeweils nur um die engste räumliche und zeitliche Nachbarschaft kümmern, nicht jedoch um die globale Netztopologie, die zeitliche Struktur der Eingaben, etc... Ein lokaler Algorithmus ist aus heutiger Sicht auch biologisch plausibler als ein nicht lokaler: Bisher fand man bei neurophysiologischen Untersuchungen keine Anhaltspunkte für nicht lokale Berechnungen. Das Konzept der raumzeitlichen Lokalität ist wichtig und wird im folgenden detaillierter ausgeführt.