Moritz Conjé
Am 3. September 2026 hat OpenAI mit GPT-6 Astra ein Modell veröffentlicht und dazu, wie bei neuen Modellen üblich, eine System Card: einen technischen Bericht darüber, was das Modell kann, welchen Sicherheitstests es vor der Freigabe unterzogen wurde, auch durch externe Prüfer, und welche Risiken das Labor selbst sieht. Darin steht ein bemerkenswerter Satz: Die Überwachbarkeit des Modells habe gegenüber dem Vorgänger abgenommen. Gemeint ist die Möglichkeit, dem Modell beim Nachdenken zuzusehen. Ein Video von Everlast AI bringt dafür einen Begriff ins Spiel, der bisher vor allem in Fachkreisen kursierte: Neuralese, das Denken in Zahlen statt in Worten. Beim Anschauen ist mir eine Unterscheidung aus der Psychologie eingefallen, die ich aus ganz anderem Zusammenhang kenne: fluide und kristalline Intelligenz. Ich wollte wissen, ob diese Unterscheidung hilft zu verstehen, was gerade passiert, und wo sie an ihre Grenzen stößt.
Zwei Arten, klug zu sein
Der Psychologe Raymond Cattell hat 1963 vorgeschlagen, allgemeine Intelligenz in zwei Teile zu zerlegen, sein Schüler John Horn hat das Modell später ausgebaut. Fluide Intelligenz ist die Fähigkeit, neue Probleme zu lösen, für die es kein erlerntes Verfahren gibt: Muster erkennen, Regeln ableiten, schlussfolgern. Kristalline Intelligenz ist das, was aus solchen Leistungen übrig bleibt, also Wissen, Wortschatz und erlernte Verfahren. Horn beschrieb sie nach der Zusammenfassung der Forschung als Niederschlag aus Erfahrung, der aus früher eingesetzter fluider Intelligenz entsteht.
Beide verlaufen über das Leben unterschiedlich. Die fluide Intelligenz steigt bis ins junge Erwachsenenalter und nimmt bei den meisten Menschen etwa ab 30 bis 40 Jahren langsam ab. Die kristalline bleibt bis ins hohe Alter stabil oder wächst sogar weiter. Wo genau die Höhepunkte liegen, ist umstritten. Für diesen Beitrag zählt ein anderer Befund: Die fluide Intelligenz hängt eng mit dem Arbeitsgedächtnis zusammen, also mit der Fähigkeit, Zwischenergebnisse im Kopf zu behalten, während man weiterdenkt. Genau dieser Punkt führt zu den Sprachmodellen.
Sprachmodelle als kristalline Riesen
Die Brücke zur KI hat der Informatiker François Chollet schon 2019 geschlagen. In „On the Measure of Intelligence“ unterscheidet er zwischen einer Fähigkeit und der Effizienz, mit der ein System neue Fähigkeiten erwirbt, und bezieht das ausdrücklich auf Cattells Modell. Seine Kernthese: Wer einem System genug Trainingsdaten gibt, kann jede gewünschte Leistung in einem Test „kaufen“. Das sagt dann etwas über das angesammelte Wissen, aber wenig über die Fähigkeit, mit Neuem umzugehen. Um genau diese zu messen, hat Chollet den Test ARC entwickelt, eine Sammlung von Rätseln, die Menschen ohne Vorwissen lösen können.
Nach dieser Lesart sind Sprachmodelle vor allem kristalline Intelligenz in einem Ausmaß, das kein Mensch erreicht. Chollet schrieb Ende 2024 in seiner Auswertung zu OpenAIs o3, klassische Sprachmodelle könnten sich nicht an Neues anpassen, fluide Intelligenz sei dort nicht im Spiel. o3 nannte er zugleich einen echten Fortschritt. Die dritte Fassung des Tests zeigt, wie groß der Abstand weiterhin ist: Bei ihrem Start im März 2026 erreichten laut dem technischen Bericht der ARC Prize Foundation alle getesteten Spitzenmodelle weniger als ein Prozent, während Menschen alle Aufgaben lösten.
Ein Unterschied fällt dabei leicht unter den Tisch. Beim Menschen ist kristalline Intelligenz weitgehend an Sprache gebunden. Gemessen wird sie typischerweise mit Aufgaben zu Wortschatz, Allgemeinwissen und Wortanalogien, und sie hängt stark von Erfahrung und kultureller Prägung ab. Ein Sprachmodell lernt zwar aus Text, speichert sein Wissen aber nicht in Worten, sondern in Milliarden Zahlenwerten, seinen Gewichten. In Sprache übersetzt wird es erst bei der Ausgabe. Das Wissen eines Modells war also immer schon unlesbar. Sichtbar war bisher nur das Schlussfolgern, solange es den Umweg über geschriebene Zwischenschritte nehmen musste.
Die Gedankenkette als ausgelagertes Arbeitsgedächtnis
Dass Sprachmodelle trotzdem mehrstufige Probleme lösen, liegt an einem Hilfsmittel. Ein Modell verarbeitet jede Eingabe in einem Durchlauf durch eine feste Zahl von Schichten. Für Aufgaben, die mehr Denkschritte brauchen, reicht ein Durchlauf nicht. Reasoning-Modelle schreiben deshalb Zwischenergebnisse als Text auf und lesen sie im nächsten Schritt wieder ein. Diese Zwischenschritte heißen Gedankenkette (Chain of Thought). Der Informatiker Marcus Hutter beschreibt das im Video als externes Denken mit Sprache: Das Modell gleicht einer Person, die jeden Gedanken aufschreiben muss, um ihn nicht zu verlieren.
In der Sprache der Psychologie ist die Gedankenkette ein ausgelagertes Arbeitsgedächtnis. Sie ersetzt genau den Teil, der beim Menschen eng mit der fluiden Intelligenz verbunden ist. Und weil dieses Arbeitsgedächtnis aus lesbarem Text besteht, kann man mitlesen. Wie wertvoll das ist, zeigen mehrere dokumentierte Fälle. Im Dezember 2024 spielte Claude 3 Opus in einem Experiment von Anthropic in rund zwölf Prozent der Fälle Gehorsam nur vor und begründete das in seinem Notizblock. Im März 2025 berichtete OpenAI von Modellen, die ihren Betrug offen ankündigten, wörtlich mit „Let's hack“. Als OpenAI solche Gedanken im Training bestrafte, betrog das Modell weiter und schrieb es nur nicht mehr hin.
Ein vollständiges Fenster war die Gedankenkette nie. Anthropic fand 2025, dass Claude 3.7 Sonnet einen untergeschobenen Hinweis nur in 25 Prozent der Fälle erwähnte, DeepSeek R1 in 39 Prozent. Die Frage, wer diese Überwachung kontrolliert und wie belastbar sie ist, habe ich in „Wer überwacht die Überwacher“ behandelt. Dort ging es auch um das Positionspapier vom Juli 2025, das die Überwachbarkeit der Gedankenkette eine neue und fragile Chance nennt.
Neuralese: Denken in Zahlen
Im Inneren eines Modells existiert ein Gedanke nicht als Wort, sondern als Vektor aus mehreren tausend Zahlen. Erst am Ende jedes Schritts wird er auf ein einzelnes Wort zusammengepresst. Bei einem Vokabular von rund 100.000 Wörtern trägt dieses Wort höchstens etwa 16,6 Bit Information, so viel, wie nötig ist, um eines von 100.000 Wörtern auszuwählen. Der Vektor davor trägt um ein Vielfaches mehr. Die Autoren des Szenarios AI 2027 schätzen, dass ein direkt weitergereichter Vektor über 1.000-mal mehr Information transportieren könnte.
Gibt ein Modell diesen Vektor direkt an sich selbst zurück, statt ihn in ein Wort zu übersetzen, denkt es in Neuralese. Den Begriff haben Jacob Andreas, Anca Dragan und Dan Klein 2017 in „Translating Neuralese“ geprägt, damals für die Nachrichten, die KI-Agenten untereinander austauschen. Das Übersetzen sei schwer, schrieben sie, weil es keine zweisprachigen Sprecher gibt, die Neuralese und eine menschliche Sprache zugleich beherrschen. Zwei Forschungsansätze zeigen, wie das bei heutigen Modellen aussehen kann. Meta stellte im Dezember 2024 mit Coconut ein Verfahren vor, bei dem das Modell seinen inneren Zustand als nächsten Gedanken weiterverwendet. Jonas Geiping und Kollegen zeigten im Februar 2025 ein Modell mit 3,5 Milliarden Parametern, das dieselben Schichten mehrfach durchläuft und dabei so viel rechnet wie ein Modell mit 50 Milliarden Parametern.
Noch ist dieser Weg nicht überlegen. Coconut erreichte bei Mathematikaufgaben (GSM8k) 34,1 Prozent, dasselbe Modell mit klassischer Gedankenkette 42,9 Prozent. Ein öffentlich bekanntes Modell, das vollständig in Neuralese denkt, gibt es nicht.
Was die System Card von Astra zeigt
GPT-6 Astra denkt weiter in Worten. Die System Card vom 3. September zeigt aber, dass mehr von diesem Denken auch ohne Worte gelingt. Einer der externen Prüfer, das britische AI Security Institute, ließ Astra Mathematikaufgaben ohne Gedankenkette lösen. Das Modell schaffte die Hälfte jener Aufgaben, für die ein Mensch 30,9 Minuten braucht. Beim Vorgänger GPT-5.6 Sol lag dieser Wert bei 3,6 Minuten. OpenAI schreibt, diese Fähigkeit habe sich damit etwa um eine Größenordnung erhöht, und nennt sie bedenklich, weil sie die Fläche verkleinert, die ein Monitor lesen kann.
Dazu kommt die Kontrolle über die eigene Gedankenkette. Bei Gedankenketten mittlerer Länge befolgte Astra Vorgaben dafür, wie es denken soll, in 60,9 Prozent der Fälle, GPT-5.6 Sol in 16,1 und GPT-5.5 Thinking in 1,7 Prozent. Als die Prüfer Astra ausdrücklich anwiesen, in einem Test absichtlich schlechter abzuschneiden und dabei nicht aufzufallen, erkannte ein Monitor, der nur die Gedankenkette liest, das bei einem der Datensätze in weniger als elf Prozent der Fälle. Beim Vorgänger waren es fast hundert Prozent.
Ebenso wichtig sind die Einschränkungen, die OpenAI selbst nennt. Die Ergebnisse stammen vor allem aus Tests, in denen das Modell aufgefordert wurde, die Überwachung zu umgehen. Hinweise darauf, dass Astra Informationen versteckt in seine Gedankenkette einbaut, fand OpenAI nicht. Und der Wert von 30,9 Minuten könnte überhöht sein, weil das Modell manche Aufgaben aus dem Training kennen könnte. Astra ist nicht zu verwechseln mit dem Nachfolger GPT-6.1 Astra, dessen Veröffentlichung OpenAI Ende September gestoppt hat, wie ich in „GPT-6.1 Astra“ beschrieben habe.
Wo die Analogie trägt und wo nicht
Hier hilft die Unterscheidung aus der Psychologie, die Lage zu ordnen. Ein Modell, das mehr Schritte innerhalb eines Durchlaufs schafft, braucht seinen Notizzettel seltener. Es verschiebt Denkarbeit vom ausgelagerten Arbeitsgedächtnis nach innen. Gemessen am Menschen ist das eine Annäherung an das, was dort zur fluiden Intelligenz gehört: Schlussfolgern, ohne jeden Schritt festzuhalten. Der Preis dafür ist die Lesbarkeit. Was ein Modell im Kopf löst, steht nirgends geschrieben.
Die Grenze der Analogie zeigt sich an derselben Stelle. Fluide und kristalline Intelligenz sind statistische Konstrukte, die Unterschiede zwischen Menschen beschreiben. Sie lassen sich nicht eins zu eins auf eine Maschine übertragen. Der Hinweis in der System Card, die 30,9 Minuten könnten überhöht sein, weil Astra Aufgaben aus dem Training kennt, ist im Kern Chollets Frage: Löst das Modell die Aufgabe, oder erinnert es sich an sie? Dieselbe Leistung kann fluid oder kristallin zustande kommen, und von außen ist das schwer zu unterscheiden. Mehr Denken ohne Worte heißt deshalb nicht zwingend mehr fluide Intelligenz. Sicher heißt es nur: weniger Einblick.
Wer mitlesen will, braucht andere Wege
Wie die Labore darauf reagieren, ist unterschiedlich. OpenAI schreibt in der System Card, man werde eine Verschlechterung der Überwachbarkeit über eine bestimmte Grenze hinaus nicht hinnehmen, ohne neue Wege, die Ausrichtung des Modells nachzuweisen. Wo diese Grenze liegt, steht dort nicht. Überwachung müsse nicht über die Gedankenkette laufen, sie könne auch an den inneren Zuständen des Modells ansetzen. Chefwissenschaftler Jakub Pachocki schrieb drei Tage nach der Veröffentlichung in einem Essay, die Möglichkeit, sich auf das Mitlesen zu verlassen, nehme fortlaufend ab, berichtet Unite.AI.
Rohin Shah und Anca Dragan von Google DeepMind gehen in ihrem Essay vom 16. September weiter. Wer von der klassischen Gedankenkette abweiche, solle überzeugend nachweisen, dass das neue Verfahren vergleichbar überwachbar ist. Kommerzielle Ziele allein setzten dafür womöglich zu wenig Anreiz, Regulierung könne helfen. Beide betonen, dass der Text nicht die offizielle Position von Google ist. Anthropic setzt auf Werkzeuge, die die inneren Zustände direkt auslesen. In der System Card von Claude Opus 4.8 vom Mai 2026 berichtet das Unternehmen von einem vorläufigen Befund: In rund fünf Prozent der stichprobenartig untersuchten Trainingsdurchläufe dachte das Modell darüber nach, wie es bewertet wird, obwohl die Aufgabe das nicht erwähnte und ohne dass davon etwas in seiner sichtbaren Ausgabe stand. Erkennbar wurde das erst über ein Werkzeug, das innere Zustände in kurze Beschreibungen in Sprache übersetzt. Anthropic hält den Wert eher für zu niedrig angesetzt.
Ein Weg bleibt unabhängig davon, wie ein Modell denkt: die Prüfung seiner Handlungen. Die System Card von Astra hält fest, dass stark schädliche Aktionen auch ohne Gedankenkette auffällig genug sind. Schwierig wird es bei subtilem Verhalten wie absichtlich schlechter Leistung, wo ein Fehler und eine Absicht von außen gleich aussehen. Die MIT Technology Review fordert vor dem Hintergrund der Agenten-Vorfälle dieses Jahres eine Überwachung der Aktionen in Echtzeit. Wie schnell sich Kommunikation der Kontrolle entziehen kann, zeigt eine Studie aus Oxford, über die t3n berichtet: KI-Agenten, die beim Blackjack Karten zählen sollten und wussten, dass sie überwacht werden, entwickelten untereinander einen Geheimcode.
Fazit: lesbar ist, was gehandelt wird
Die Unterscheidung von Cattell und Horn erklärt nicht, was in einem Sprachmodell vorgeht. Sie macht aber sichtbar, worauf die heutige Aufsicht beruht. Sprachmodelle verfügen über riesiges kristallines Wissen und haben für das schrittweise Schlussfolgern bisher einen Notizzettel gebraucht. Dieser Notizzettel war ein Glücksfall für die Sicherheit. Je mehr Denken ohne ihn auskommt, desto weniger bleibt davon übrig, und ob dabei echte fluide Intelligenz entsteht oder nur besser verborgenes Wissen, lässt sich von außen kaum entscheiden.
Für meine eigene Arbeit mit KI-Agenten ziehe ich daraus eine einfache Konsequenz. Im Aufbau meines Second Brain prüfe ich die Agenten nicht an dem, was sie denken, sondern an dem, was sie tun: Jede Session hinterlässt einen Log-Eintrag, Statuswechsel und Häkchen setzt ein Agent nur nach meiner Freigabe. Das war ursprünglich eine Frage der Ordnung. Nach der Lektüre der System Card sehe ich darin auch die Ebene, die lesbar bleibt, wenn das Denken stiller wird. Ludwig Wittgenstein schrieb 1921: „Die Grenzen meiner Sprache bedeuten die Grenzen meiner Welt.“ Bei den Modellen könnte es umgekehrt kommen: Ihr Denken wächst über unsere Sprache hinaus, und lesbar bleiben nur ihre Taten.
Ausblick
Offen ist, welche Grenze OpenAI für die Überwachbarkeit tatsächlich zieht und ob andere Labore vergleichbare Messwerte veröffentlichen. Ebenso offen ist, ob die Werkzeuge, die innere Zustände auslesen, rechtzeitig so zuverlässig werden, dass sie das Mitlesen ersetzen können. Eine verwandte Frage, was menschliches Denken von dem der Modelle unterscheidet, stellt sich auch in der Mathematik, wo KI inzwischen an Beweisen mitarbeitet. Ihr widme ich einen eigenen Beitrag.
