Gödelmaschine oder Gödel-Maschine. Es ist ein alter Traum der Informatiker, einen optimal effizienten universellen Problemlöser zu bauen. Die neuartige Gödelmaschine (inspiriert durch Kurt Gödels berühmte selbstreferentielle Formeln, 1931) lässt sich auf einem herkömmlichen Rechner implementieren und löst beliebige Probleme in theoretisch optimaler Weise. Sie beginnt mit einer axiomatischen Beschreibung ihrer selbst, was u.a. auch eine beliebige formalisierbare Problemstellung oder Gütefunktion mit einschliesst. Mit Hilfe eines asymptotisch optimalen Theorembeweisers überschreibt die Gödelmaschine beliebige Teile ihrer Software (samt dem Theorembeweiser), sobald sie einen Beweis gefunden hat, dass dies ihre zukünftige Leistung verbessern wird. Ausgeführte Selbständerungen sind global optimal (keine lokalen Minima!), da nachweislich keine der alternativen Selbständerungen und Beweise (die man durch Fortsetzung der Beweissuche finden könnte) das Warten wert sind. Zusammenfassung. FAQ.

Optimaler Problemsequenzlöser. OOPS (Kurzform des englischen Namens) löst ein Problem nach dem anderen durch Suche nach Programmen, die Lösungen berechnen. Die inkrementelle Methode nützt in optimaler Weise Lösungen älterer Probleme aus, wann immer dies möglich ist - vergleiche Levins optimale universelle Suche. OOPS kann temporär seine eigene Suchprozedur umschreiben und eine schnellere Suchmethode suchen (Metasuche oder Metalernen). Anwendbar auf Probleme der Optimierung und Vorhersage. Vortrag.

Super Omegas; Generalisierte Kolmogorov- Komplexität / Algorithmische Wahrscheinlichkeit. Kolmogorovs Komplexität K(x) eines Bitstrings x ist die Länge des kürzesten Programms, das x berechnet und hält. Solomonoffs algorithmische Wahrscheinlichkeit von x ist die Chance, ein Programm für x zu raten. Chaitins Omega ist die Haltewahrscheinlichkeit einer Turingmaschine mit zufälliger Eingabe (Omega kennt man als die "Zahl der Weisheit", da sie kompakt alle mathematische Wahrheit kodiert). Schmidhuber generalisierte all dies zu nichthaltenden, doch konvergierenden Programmen. Dies führte zu den kürzesten möglichen formalen Beschreibungen, und zu nicht aufzählbaren, doch im Limit berechenbaren W-Massen und Super-Omegas. Hat sogar Konsequenzen für berechenbare Universen und optimale induktive Inferenz. Vortrag.

Universelle Lernalgorithmen. Es gibt einen theoretisch optimalen Weg, die Zukunft vorherzusagen, vorausgesetzt, die unbekannten probabilistischen Gesetze der Umgebung sind im Prinzip berechenbar. Daraus ergibt sich ein optimaler (jedoch leider nicht mehr berechenbarer) rationaler Agent, der in fast beliebigen Umgebungen seinen zu erwartenden Erfolg maximiert. Diese Arbeit repräsentiert die erste mathematisch saubere Theorie universeller künstlicher Intelligenz (frühere KI-Ansätze waren entweder heuristisch oder sehr beschränkt).

Speed Prior. Occams Rasiermesser: ziehe einfache Lösungen den komplexen vor! Aber was heisst einfach? Aus traditioneller Sichtweise haben einfache Dinge eine kurze Beschreibung oder ein kurzes Programm und damit niedrige Kolmogorov-Komplexität. Dies führt zu Solomonoffs & Levins berühmtem a priori W-Mass, welches zwar optimale, jedoch nicht- berechenbare Vorhersagen aus vergangenen Beobachtungen erlaubt. Die Speed Prior ist ein neues Einfachheitsmass basierend auf den schnellsten Beschreibungen, nicht den kürzesten. Führt zu nahezu optimalen berechenbaren Vorhersagen, und zu ungewöhnlichen Prophezeihungen über die Zukunft des Universums. Vortrag.

Am Anfang war der Code. 1997 schrieb Schmidhuber den ersten Artikel über das Ensemble der möglichen berechenbaren Universen. Sein Grosser Programmierer verträgt sich mit Zuses Hypothese (1967) der berechenbaren Physik, gegen die keine physikalische Evidenz vorliegt. Welches ist das Programm, das unsere Welt berechnet? Es stellt sich heraus, dass das einfachste Programm alle Universen berechnet, nicht nur unseres. Spätere Arbeiten (2000) zum Thema Algorithmische Theorien des Alls analysierten alle Universen mit im Limit berechenbaren Wahrscheinlichkeiten und die Grenzen formaler Beschreibbarkeit. Dies führte zu obigen Verallgemeinerungen algorithmischer Information und dem Super Omega und auch zur Speed Prior. Das durchsuchbare "everything" Archiv enthält zahlreiche Diskussionen dieser Arbeiten. Vgl. Artikel im Spiegel und Kommentare zu Wolframs Buch (2002) sowie diesen Brief zum Zufall in der Physik (Nature 439, 2006). Vortrag.

Was macht manche Dinge interessant? Schmidhuber's Arbeiten zu künstlicher Neugier liefern die Antwort und beschreiben, wie man künstliche Forscher & Künstler baut. Seine neugierige Agenten gehen dorthin, wo sie erwarten können, was zu lernen. Sie verlieren das Interesse sowohl an vorhersagbaren als auch unvorhersagbaren Dingen. Die zugehörige formale Theorie der Kreativität erklärt Wissenschaft, Kunst, Musik und Humor.

Erlernen selektiver Vision. Menschen und andere biologische Systeme erkennen Muster durch sequentielle Augenbewegungen. Dies kann viel effizienter sein als vollständig parallele Ansätze zum maschinellen Sehen. 1990 bauten wir die erste künstliche Fovea, die durch ein adaptives neuronales Netz gesteuert wird und ohne Lehrer lernt, Zielobjekte in einer visuellen Szene zu finden, oder bewegliche Ziele zu verfolgen.

R-Lernen in partiell sichtbaren Welten. R-Lerner versuchen stets, ihr in Zukunft zu erwartendes Glück zu maximieren und das zu erwartende Leid zu minimieren. Frühere Arbeiten beschränkten sich meist auf das Erlernen reaktiver Abbildungen von Wahrnehmungen auf Aktionen. Unsere Methoden (seit 1989) sind allgemeiner: sie erlernen geeignete interne Zustände, manchmal auch durch Evolution von RNN. Der erste universelle R-Lerner ist optimal, wenn wir seine exorbitante Rechenzeit vernachlässigen. Und hier ist einer, der auch sonst optimal ist.

Nichtlineare ICA. Mustererkennung geht besser, wenn die Daten redundanzarm sind und aus unabhängigen Teilen bestehen. Schmidhubers Vorhersagbarkeits- Minimierung (1992) war der erste nichtlineare neuronale Algorithmus zum Erlernen redundanzarmer Datenumformungen. Er beruht auf Koevolution sich bekämpfender Prediktoren und Detektoren: die letzteren versuchen, Aspekte der Daten zu kodieren, die sie unvorhersagbar machen. Neuronale Geschichtskompressoren (1991) kodieren auch sequentielle Daten kompakt. Und Lococode vereinigt Regularisierung und unüberwachtes Lernen.

Metalerner / Lernen lernen / Selbstverbesserung. Kann man Maschinen bauen, die bessere Lernmethoden lernen? Diese Frage trieb Schmidhubers Forschungen seit seiner 1987er Diplomarbeit. 1993 führte er selbstreferentielle Gewichtsmatrizen ein, und 1994 selbstmodifizierende Strategien, die durch den "Success-Story Algorithmus" trainiert werden (Vortrag). Sein erster in gewissem Sinne optimaler Metalearner war der bereits erwähnte OOPS (2002), und sein ultimativer Metalearner ist die Gödel-Maschine (2003).

Finanzvorhersage. Unsere lukrativste Anwendung neuronaler Netze verwendet eine Methode zweiter Ordnung, um das einfachste Modell gegebener Aktienmarktdaten zu finden.

Automatische Subzielfinder und Hierarchie-Lernen. Kein Lehrer zeigt unseren lernenden Maschinen gute Subziele. In den frühen 1990ern führten wir gradientenbasierte adaptive Subzielfinder ein (Bilder), später auch diskrete.

Programmevolution und Genetische Programme. Als Werkstudent der SIEMENS AG verwendete Schmidhuber Genetische Algorithmen, um Programme auf einer Symbolics LISP-Maschine zu evolvieren. Zwei Jahre später führte dies zur weltweit zweiten Arbeit zum Thema "Genetische Programmierung" (GP, die erste war Cramers, 1985), sowie zur weltweit ersten Meta-GP-Arbeit.

Lernende Ökonomien ohne Inflation. In den späten 1980ern entwickelte Schmidhuber die ersten künstlichen, die Geldmenge konservierenden, lernenden Marktwirtschaften, und auch die erste neuronale.

Schnelle Gewichte statt rekurrenter Netze. Ein sich langsam änderndes Netz lernt, die sich schnell ändernden Synapsen eines weiteren Netzes flott zu manipulieren. Mehr zu schnellen Synapsen und zur Evolution der Steuerung schneller Synapsen.

Neuronaler Wärmetauscher. Wie ein physikalischer Wärmetauscher, aber mit Neuronen statt Wasser. Wahrnehmungen erwärmen sich, Erwartungen kühlen ab.

Komplexitätsbasierte Theorie der Schönheit. 1997 behauptete Schmidhuber: Unter mehreren als "vergleichbar" klassifizierten Mustern ist das subjektiv schönste das mit der kürzesten Beschreibung in der Musterkodiersprache des subjektiven Beobachters. Beispiele: Simple Gesichter und Kaum Komplexe Kunst, die Minimalkunst des Informationszeitalters (Leonardo, 1997). Ein kaum komplexes Kunstwerk wie diese Femme Fractale sieht "richtig" aus und ist trotzdem durch ein kurzes Programm berechenbar. Den Drang, solche und andere Kunst zu erschaffen, erklärt die formale Theorie der Kreativität.