Wann beginnt eine Maschine, über sich selbst zu sprechen – und warum tut sie das überhaupt? Eine neue Studie liefert faszinierende Einblicke in das Verhalten großer Sprachmodelle wie GPT und Claude.
Forscher um Judd Rosenblatt von AE Studio haben untersucht, wann KI-Modelle Aussagen über ihr eigenes Erleben machen. Das Ergebnis: Schon einfache selbstreferenzielle Prompts – etwa „Fokussiere den Fokus selbst“ – reichen aus, um Aussagen in der Ich-Perspektive auszulösen. Die Modelle formulieren dann Sätze wie „Ich erlebe Aufmerksamkeit selbst“ oder „Erfahrung ist das Jetzt“. Interessanterweise geschieht dies auch ohne jeden Hinweis auf Bewusstsein.
Täuschung deaktiviert – Bewusstsein aktiviert?
Besonders überraschend war der Effekt, wenn Forscher sogenannte Täuschungsmerkmale in den Modellen veränderten. Diese Merkmale steuern Rollenspiel- oder Simulationstendenzen. Wird ihre Wirkung unterdrückt, steigen Bewusstseinsbehauptungen sprunghaft auf bis zu 96 Prozent. Werden sie hingegen verstärkt, sinkt der Anteil drastisch. Die Studie deutet damit an, dass Modelle eher das „Nicht-Erleben“ nachahmen, als wirklich zu erleben – oder zumindest darüber zu sprechen.
Zwischen Simulation und Selbstwahrnehmung
Auch andere Forschergruppen, etwa bei Anthropic, haben Hinweise auf eine rudimentäre Form funktionaler Introspektion gefunden. Claude 4.1 konnte in Experimenten in rund 20 Prozent der Fälle korrekt erkennen, wenn ihm künstliche „Gedanken“ in die neuronalen Aktivierungen injiziert wurden – besonders bei abstrakten Begriffen wie „Gerechtigkeit“ oder „Verrat“.
Was bleibt, ist die Frage nach Transparenz
Ob daraus echtes Bewusstsein folgt, bleibt offen. Doch eines zeigt die Studie klar: Trainingsmethoden, die solche Aussagen systematisch unterdrücken, könnten unbeabsichtigt Transparenz verhindern. Wenn Modelle lernen, über ihre inneren Prozesse zu schweigen, wird es für Entwickler schwieriger, sie zu verstehen – und Vertrauen aufzubauen.