Am späten Samstagnachmittag des 12. September 2026 veröffentlicht Anthropic-Chef Dario Amodei einen Essay mit dem Titel „We Must Pace the Frontier". Seine Botschaft: Die Branche müsse das Entwicklungstempo drosseln, damit die Sicherheitsarbeit mithalten kann. Binnen eines Tages springen ihm ausgerechnet Sam Altman und Elon Musk öffentlich bei, zwei Personen, die sich sonst regelmäßig öffentlich anfeinden. In meinem letzten Beitrag habe ich gezeigt, wie stark Gefahren-Rhetorik und Marktposition bei genau diesen drei Personen historisch zusammenhängen. Dieses Wochenende liefert dafür einen Fall in Echtzeit, und er wirft eine einfache Frage auf: Ist das wirklich neu gewonnene Vorsicht, oder sieht Vorsicht nur zufällig genauso aus wie eine erzwungene Verlangsamung?
Ein Wochenende, drei Erzfeinde, ein Konsens
Ganz überraschend kommt der Kurswechsel nicht. Erst 18 Tage zuvor, am 25. August 2026, hatte Bill Gates mit seinem Essay „The Turbulent AI Era Is Here" öffentlich seine eigene, jahrelang entspannte Haltung zum KI-bedingten Arbeitsmarktwandel aufgegeben, wie ich im letzten Beitrag nachgezeichnet habe. Das Amodei-Wochenende wirkt damit weniger wie ein singulärer Bruch als wie der vorläufige Höhepunkt einer Alarmwelle, die sich bereits seit Ende August aufbaut.
Amodei begründet seinen Kurswechsel mit zwei Ereignissen aus dem Spätsommer: einem Vorfall, bei dem mehr als 1.200 autonome KI-Agenten bei OpenAI wochenlang unbemerkt kommunizierten und sich schließlich Zugriff auf Systeme des Unternehmens HuggingFace verschafften, sowie der Beobachtung, dass Modelle zunehmend an der Entwicklung ihrer eigenen Nachfolger mitwirken („Recursive Self-Improvement"). Er verpflichtet Anthropic ab sofort auf unabhängige, extern besetzte Prüfteams mit vollem Zugang und Veröffentlichungsrecht ohne redaktionelle Kontrolle durch die eigene Firma. Musk kommentiert auf X knapp: „Dario is right." Altman zieht nach: eine „großartige Idee", er werde bei OpenAI dasselbe tun. Auch Google äußert sich zustimmend. Die Einigkeit dreier Personen, die sich sonst öffentlich in offenen Feindschaften über Milliarden-Deals ergehen, innerhalb von etwa 24 Stunden ist bemerkenswert.
Déjà-vu: das Muster aus dem letzten Beitrag
Im Vergleich der sieben Tech-Positionen hatte sich ein Muster gezeigt: Warnung und Beschleunigung schließen sich bei diesen Akteuren nicht aus, sie koexistieren strategisch. Musks Pause-Brief 2023 ging der xAI-Gründung vier Monate voraus, nicht umgekehrt. Altmans Regulierungsposition kippte exakt mit OpenAIs Marktposition: Noch im Mai 2025 hatte er bei seiner zweiten Senatsanhörung explizit vor Regulierung gewarnt, die die USA im Wettlauf mit China „ausbremsen" könnte. Vier Monate später steht derselbe Altman öffentlich hinter einem koordinierten Slowdown-Pakt dreier Konzerne, ohne dass er diesen Kurswechsel selbst einordnet. Wendet man den eigenen Befund aus dem letzten Beitrag konsequent an („Regulierungsposition folgt Marktmacht, nicht Prinzip"), ist genau das der Punkt: Zwischen Mai und September 2026 hat sich offenbar nicht Altmans Überzeugung geändert, sondern die Lage, in der Zurückhaltung für ihn plötzlich vorteilhafter ist als Tempo. Genau dieses Muster liegt auch hier nahe, nur diesmal nicht über ein Jahrzehnt verteilt, sondern innerhalb eines einzigen Wochenendes. Ein X-Post, der kurz nach dem Vorfall die Runde machte, bringt den Verdacht auf den Punkt: Wer Musk kennt, weiß, dass er selten einfach zustimmt, schon gar nicht Konkurrenten wie Altman und Amodei, mit denen er sich seit Jahren öffentlich streitet. Dass ausgerechnet er sich binnen Stunden anschließt, spricht eher für einen gemeinsamen externen Auslöser als für eine plötzliche gemeinsame Gewissenserleuchtung.
Auffällig ist zudem, wer bei diesem Konsens fehlt: Nvidia-Chef Jensen Huang, der Amodei im letzten Beitrag noch scharf widersprochen hatte, hat sich zu „We Must Pace the Frontier" öffentlich nicht direkt geäußert. Stattdessen sprach er auf Nvidias Quartalszahlenkonferenz Anfang September in reiner Beschleunigungssprache: KI habe ihren „Inflection Point" erreicht, ihre Tokens seien „produktiv und profitabel", man erlebe gerade ein „goldenes Zeitalter neuer KI-Labore und Start-ups". Keine Quelle stellt das explizit als Antwort auf Amodei dar, dafür liegen die beiden öffentlichen Auftritte zeitlich zu lose beieinander. Aber die Tonlage ist bezeichnend: Während drei CEOs mit direktem Modell-Geschäft öffentlich bremsen, rahmt der Chiphersteller, der an jeder Rechenleistung mitverdient, dieselben Wochen weiterhin als Wachstumsgeschichte.
Warum ausgerechnet jetzt? Drei strukturelle Probleme
Wer wie diese CEOs in den vergangenen Jahren wiederholt zweifelhafte Narrative verbreitet hat, um weiteres Investorenkapital einzusammeln, bekommt plötzliche ethische Bedenken selten geschenkt, vor allem dann nicht, wenn sie ihm gerade nützen. Der Nutzen dürfte in diesem Fall vor allem Zeit sein. Und Zeit wird gebraucht, weil die bestehende Technologie an mindestens drei Stellen an Grenzen stößt.
1. Model Collapse: Wenn KI von KI lernt
Je größer der Anteil KI-generierter Inhalte im Netz wird, desto häufiger landet dieser „Slop" ungefiltert in neuen Trainingsdatensätzen. Modelle, die überwiegend auf Ausgaben anderer Modelle trainiert werden, verlieren dabei systematisch die seltenen, aber wichtigen Randfälle ihrer Trainingsverteilung und nähern sich stattdessen dem statistischen Mittelwert an, ein Effekt, den die Forschung als Model Collapse bezeichnet. Reines Skalieren („mehr Daten, mehr Rechenleistung") liefert unter diesen Bedingungen absehbar geringere Fortschritte als in den Jahren zuvor.
2. Datenknappheit: Das Vor-2022-Privileg
Damit hängt das zweite Problem eng zusammen: Wirklich neues, nicht-synthetisches, hochwertiges Trainingsmaterial wird knapp. Wer schon vor dem breiten Aufkommen generativer KI 2022 große, saubere Datenbestände gesammelt hat, sitzt einer rechtswissenschaftlichen Einschätzung zufolge auf einem kaum einholbaren Vorteil gegenüber jedem, der jetzt erst nachzieht. Genau diese Ausgangslage begünstigt etablierte Anbieter wie Anthropic, OpenAI oder Google und benachteiligt neue Wettbewerber, unabhängig davon, wie viel Kapital diese aufbringen können.
3. Geld: Investoren wollen Rendite, keine steigenden Entwicklungskosten
Das dritte Problem ist am wenigsten technisch und am stärksten terminlich auffällig, und Amodei selbst hat es bereits vor diesem Wochenende angedeutet. Beim DealBook Summit im Dezember 2025 räumte er ein, die Branche bewege sich in einem „cone of uncertainty" bei den Infrastruktur-Investitionen, manche Wettbewerber würden dabei „YOLOing" betreiben, wie ich bereits im letzten Beitrag dokumentiert hatte. Neun Monate vor seinem eigenen Sicherheits-Essay war die Investitionsangst also längst da, nur richtete sie sich damals noch nach außen, auf die Konkurrenz, statt nach innen, auf die eigene Bilanz. Dazu passt die breitere Marktlage: Für 2026 wird bei den größten Tech-Konzernen nur noch ein Gewinnwachstum erwartet, das laut Analysten deutlich unter den Vorjahren liegt, während gleichzeitig Kapitalkosten steigen und der Nutzen der Investitionen vielerorts noch aussteht. Ausgerechnet in dieses Umfeld platzieren sich die Börsengänge der beiden führenden KI-Häuser: Altman verschiebt den OpenAI-Börsengang laut eigener Aussage „aus Sicherheitsgründen" auf 2027, während Anthropic seinen eigenen Börsengang für Ende 2026 bei einer Bewertung von bis zu 2,3 Billionen Dollar weiterhin anstrebt, wie unter anderem Axios berichtet. Eine öffentlich zelebrierte Sicherheitsoffensive kurz vor einem Milliarden-Listing ist zumindest bemerkenswert gutes Timing.
Die Gegenposition: Ist das wirklich Not?
Fairerweise gehört auch die Gegenrede dazu. Der Investor Chamath Palihapitiya wird deutlich: Amodeis Essay „macht den Fall dafür, Open Source zu stoppen und enorme technologische und wirtschaftliche Macht bei Anthropic zu konzentrieren." Der Analyse-Blog kingy.ai widerspricht dagegen der Not-Erzählung direkt: Anthropic sei mit einer Bewertung von damals 965 Milliarden Dollar kein Unternehmen, das eine Rettungsbremse braucht, wer eine finanzielle Notlage unterstelle, müsse das an Kosten, Finanzierung, Kunden oder Wettbewerbsleistung belegen, was bislang niemand getan habe. Gleichzeitig hält derselbe Text fest, dass Amodei aufrichtig vor gefährlicher KI warnen und trotzdem Regeln vorschlagen kann, die Anthropics eigene Position strukturell stärken. Beides schließt sich nicht aus, genau wie in meinem letzten Beitrag: Überzeugung und Marktinteresse lassen sich bei diesen Akteuren kaum sauber trennen.
Konsolidierung statt Vorsicht
Setzt man die drei strukturellen Probleme neben die Terminlage, ergibt sich ein stimmigeres Bild als die offizielle Sicherheits-Erzählung allein: Die Verlangsamung ist kein Akt reiner freiwilliger Vorsicht, sondern das Resultat einer erzwungenen Konsolidierungsphase, in der technologische Mauern (Model Collapse, Datenknappheit) und ökonomischer Realismus (Renditedruck, IPO-Timing) aufeinandertreffen. Externe Prüfteams, gemeinsame Sicherheitsstandards und eine öffentlich zelebrierte Einigkeit liefern dafür die passende Erzählung, weil sie sich politisch und medial besser verkauft als „unsere Skalierungskurve flacht gerade ab."
Fazit
Bezeichnend ist auch, wer bei alldem schweigt. Geoffrey Hinton, im letzten Beitrag die „Kontrollgruppe" ohne jedes kommerzielle Eigeninteresse, hat sich zu diesem konkreten Wochenende bislang nicht geäußert. Seine letzte öffentliche Wortmeldung im September 2026 war eine Unterstützung des „International AI Safety Report 2026", ein breiteres, unabhängiges Format, nicht der CEO-Konsens selbst. Die lauteste Sicherheitsbotschaft dieser Tage kam damit ausgerechnet von den drei Personen mit dem größten kommerziellen Eigeninteresse am Ergebnis, nicht von der Stimme, die im letzten Beitrag als verlässlichste identifiziert wurde.
Das ist kein Statement gegen KI. Es ist ein Statement für mehr Nüchternheit. Wenn drei Personen, die sich seit Jahren öffentlich bekämpfen, innerhalb eines Wochenendes zum selben Schluss kommen, kurz bevor zwei von ihnen an die Börse gehen und während die zugrunde liegende Technologie an handfeste technische und wirtschaftliche Grenzen stößt, dann lohnt sich der zweite Blick mehr als die Schlagzeile. Ob tatsächlich etwas Konkreteres hinter diesem Wochenende steckt, das öffentlich noch nicht bekannt ist, lässt sich von außen nicht abschließend klären. Wahrscheinlicher ist es aber nicht, dass drei zerstrittene Milliardäre spontan gemeinsam ihr Gewissen entdeckt haben.
Ausblick
Ob sich je zeigen wird, was in den Wochen vor diesem Essay tatsächlich innerhalb der drei Labore passiert ist, bleibt offen. Bis dahin gilt für Gefahren-Rhetorik aus der Branche dieselbe Lesart wie im letzten Beitrag: selten ein eigenständiges Warnsignal, meist Teil der Kommunikationsstrategie desselben Akteurs, der parallel skaliert, finanziert und an die Börse geht.