Ist es möglich, in einem gegebenen Netzwerk wenigstens einen Knoten zu finden, von dem aus ein Kantenpfad auf selbst führt, so spricht man von einem zyklischen Netzwerk oder einem Netzwerk mit zyklischen Verbindungen. Besitzt ein Netzwerk zyklische Verbindungen, so vermögen zu einem gegebenen Zeitpunkt stattfindende Eingabeereignisse einen Einfluß darauf auszuüben, wie spätere Eingaben verarbeitet werden. Man hat also das Potential für ein Kurzzeitgedächtnis in Form wandernder Aktivationen und spricht von interner Rückkopplung. Im allgemeinen können beliebige zeitliche Verzögerungen zwischen irgendwelchen Eingaben und ihren späteren Konsequenzen auftreten. Will man einem Netzwerk einen Algorithmus beibringen, der über simple Eingabe/Ausgabe-Assoziation hinausgeht, so ist interne Rückkopplung eine Möglichkeit für die Implementierung algorithmischer Dynamik. Algorithmische Dynamik unterscheidet sich dabei von trivialer Dynamik im wesentlichen dadurch, daß sie die Geschichte der Evolution der Zustände einer `wahrnehmbaren' Umgebung zur Entscheidungsfindung mit berücksichtiget (siehe auch den untenstehenden Abschnitt über Markov-Prozesse). Bei trivialer Dynamik ist der wahrnehmbare Umgebungszustand zu einem gegebenen Zeitschritt nur vom wahrnehmbaren Zustand während des vorhergehenden Zeitschrittes abhängig.
Zwar sind neben der internen Rückkopplung auch noch andere Möglichkeiten zur Implementierung algorithmischer Dynamik denkbar, z.B. die von v. d. Malsburg vorgeschlagenen sich schnell ändernden Gewichte [70]. Da man aber neue Konzepte nicht einführen sollte, solange keine offensichtliche Notwendigkeit dazu besteht, beschränkt sich die vorliegende Arbeit auf das durch interne Rückkopplung eröffnete Potential für nicht-trivale Dynamik.