Kann KI wie ein Gehirn denken – nicht nur im Ergebnis, sondern im Prozess? Das japanische Start-up Sakana AI wagt genau diesen Schritt mit einer neuen Architektur, die auf Zeitdynamik statt Momentaufnahme setzt.
Denken über Zeit: Eine unkonventionelle Architektur
Mit der „Continuous Thought Machine“ (CTM) präsentiert Sakana AI ein KI-Modell, das sich klar von klassischen Sprachmodellen abhebt. Anders als traditionelle Netze, die Daten punktuell verarbeiten, setzt die CTM auf zeitbasierte Aktivitätsmuster zwischen künstlichen Neuronen. Diese Muster ähneln biologischen Prozessen und sollen eine tiefere, dynamischere Verarbeitung ermöglichen.
Statt einer einzigen Entscheidung pro Rechendurchlauf denkt die CTM in sogenannten „internal ticks“. Dabei entstehen Zwischenergebnisse, die sich mit jedem Schritt verfeinern – vergleichbar mit einem mehrstufigen inneren Monolog. Möglich wird dies durch sogenannte neuron-level models, die vergangene Aktivierungen speichern und auswerten. Eine Art Gedächtnis also, das Reaktionen nicht nur speichert, sondern als Teil des Denkprozesses integriert.
Was kann das neue Modell?
In Tests zeigte sich die CTM überraschend vielseitig. Bildklassifikation im ImageNet-1K-Datensatz, Planung von Routen durch Labyrinthe und mathematische Aufgaben wie Paritätsberechnung – die CTM schlug sich solide, teils sogar besser als etablierte Modelle wie LSTMs oder Feedforward-Netze. Dabei fiel insbesondere auf, wie stark das Modell menschlichen Entscheidungsverhalten ähnelte – etwa durch gezielte Aufmerksamkeit und adaptive Rechentiefe.
Ein besonders spannender Aspekt ist die dynamische Anpassung der Verarbeitungstiefe: Leichte Aufgaben werden mit weniger Denkaufwand gelöst, während komplexere Probleme mehr Schritte erfordern. Und das ohne externe Steuerung oder Zusatzfunktionen – eine Eigenschaft, die aus der Architektur selbst erwächst.
Zwischen Hirnforschung und Techniklabor
Trotz aller Inspiration durch die Biologie ist die CTM kein Versuch, das Gehirn eins zu eins nachzubauen. Vielmehr geht es um funktionale Parallelen: Synchronisation über Zeit, rekursive Verarbeitung und emergente Verhaltensweisen. Doch diese Komplexität hat ihren Preis. Die CTM lässt sich nicht effizient parallelisieren, was Training und Einsatz aufwendiger macht. Ob sich dieser Mehraufwand lohnt, müssen weitere Tests zeigen.
Wer selbst einen Eindruck gewinnen möchte: Sakana AI stellt eine interaktive Demo bereit – dort kann man beobachten, wie das Modell in bis zu 150 Schritten seinen Weg durch ein Labyrinth findet.