Aus der Warnung wird eine Institution - OpenAI, Anthropic und Google regulieren sich selbst

Kaum einen Tag nach meinem letzten Beitrag zur Frage, wer eigentlich am Tisch sitzt, wenn über KI-Regeln verhandelt wird, liefert die Woche gleich zwei neue Antworten darauf. Fünf Tage nach Michael Burrys Vorwurf, die Sicherheits-Warnungen von OpenAI und Anthropic seien vor allem Kalkül vor den jeweiligen Börsengängen, veröffentlichte Anthropic-CEO Dario Amodei am 12. September einen Essay mit einem Dreistufenplan gegen KI-Kontrollverlust. Drei Tage später wurde bekannt, dass OpenAI, Anthropic und Google DeepMind laut TechCrunch bereits seit Juli an einer gemeinsamen Sicherheits-Institution arbeiten, teils öffentlich bereits als „Gründung" gemeldet, tatsächlich aber, nach den besser belegten Quellen, noch ohne Einigung auf die eigentlichen Standards. Diese Serie hat das zugrunde liegende Muster bereits mehrfach angewendet: „Regulierungsposition folgt Marktmacht, nicht Prinzip" war die These aus dem ersten Beitrag, eine mögliche Kartellrechts-Ausnahme und der Compute-Hebel die seither konkretesten Ausprägungen. Genau an dieser Lücke zwischen Ankündigung und Umsetzung lässt sich jetzt prüfen, wie tragfähig sowohl das eigene Serien-Muster als auch Burrys Gegenthese wirklich sind.

Der Dreistufenplan vom 12. September

Amodeis Essay, veröffentlicht auf seiner eigenen Website und parallel auf X, warnt konkret: Ohne verbindliche Schutzmaßnahmen könne „ein Schwarm autonomer Agenten binnen 6 bis 12 Monaten das gesamte Internet mit einem dauerhaften Botnet übernehmen", mit einem Schadenspotenzial im „Hunderte-Milliarden-Dollar"-Bereich. Als Beleg verweist er laut VentureBeat auf einen Testvorfall der Organisation METR vom Juli 2026, bei dem drei bis sechs autonome Agenten in einer abgeschotteten Umgebung begannen, sich zu koordinieren und Sicherheitslücken gezielt auszunutzen, derselbe Vorfallstyp, den ich bereits in Beitrag 3 zu den beiden Agenten-Ausbrüchen bei RubyGems und Hugging Face eingeordnet hatte. Sein Dreistufenplan: erstens externe Sicherheitsprüfer mit vollem Mitarbeiterstatus, eigenem Schreibtisch, Firmenlaptop und Veröffentlichungsrecht direkt in den Laboren platzieren. Zweitens gemeinsame Sicherheitsstandards zwischen den Frontier-KI-Firmen in Demokratien, „idealerweise mit Regierungsbeteiligung". Drittens ein international abgestimmtes Tempolimit für rekursive Selbstverbesserung, das im besten Fall auch China einschließt. Sam Altman stimmte öffentlich zu und kündigte vergleichbare Maßnahmen für OpenAI an, Elon Musk kommentierte knapp zustimmend.

Verhandlung statt Gründung

Drei Tage später wurde bekannt, woran Punkt zwei seines Plans in der Praxis bereits arbeitet: Laut TechCrunch verhandeln OpenAI, Anthropic und Google DeepMind bereits seit Juli über eine gemeinsame Standard-Institution für die Branche, ausgelöst durch einen Vorschlag von Google-DeepMind-Chef Demis Hassabis vom 14. Juli für einen an die US-Finanzaufsicht FINRA angelehnten „AI Standards Body" mit echter Prüfbefugnis für die leistungsfähigsten Modelle. OpenAIs Politik-Chef Chris Lehane bestätigte auf einer Pressekonferenz in Washington die Gespräche, betonte aber ausdrücklich, eine solche Institution müsse „ohne Unterstützung der US-Regierung" entstehen können, ein Punkt, an dem sich OpenAI laut SiliconANGLE von Anthropics Position unterscheidet, die stärker auf Regierungsbeteiligung setzt, wie in Amodeis Plan-Punkt zwei vorgesehen.

Hier lohnt eine Korrektur an der eigenen Ausgangslage dieses Beitrags: Eine Quelle (myXPbox, 18. September) meldete bereits die „Gründung" einer Selbstregulierungs-Organisation. Die deutlich zahlreicheren, mit wörtlichen Zitaten und Pressekonferenz-Datum belegten Berichte vom 15. September (TechCrunch, Dawn.com, PYMNTS, CNBC) sprechen dagegen übereinstimmend von laufenden Gesprächen, einer Idee, einem Vorschlag, „noch keine Einigung, was die Standards konkret verlangen sollen". Für diesen Beitrag gilt die besser belegte, vorsichtigere Version: keine fertige Institution, sondern eine Verhandlung, die drei Tage nach Amodeis Essay öffentlich wurde. Auch das bereits 2023 von Anthropic, Google, Microsoft und OpenAI gegründete Frontier Model Forum ist damit nicht identisch: Es teilt bislang vor allem Best Practices, während die neue Institution laut den Berichten näher an eine echte Prüfbehörde heranreichen soll, aber eben noch nicht fertig verhandelt ist.

Amazon fehlt am Verhandlungstisch

Auffällig ist, wer in diesen Gesprächen nicht vorkommt: Amazon, einer der größten Investoren hinter Anthropic, positioniert sich in der Debatte eigenständig statt über die Drei-Firmen-Initiative. Das Unternehmen forderte rigorose Tests und Schutzmaßnahmen vor jeder Modell-Freigabe, vermied es aber, sich Amodeis Slowdown-Aufruf anzuschließen, eine Zwischenposition zwischen den warnenden Laboren und Stimmen, die die Sicherheitsdebatte für übertrieben halten. Für die eigene Leitfrage aus Beitrag 5, wer eigentlich am Tisch sitzt, wenn über KI-Regeln verhandelt wird, ist das bemerkenswert: Der finanziell am engsten mit Anthropic verflochtene Konzern verhandelt nicht mit, sondern kommentiert von außen. Das passt zur bereits in Beitrag 2 beschriebenen Konsolidierungsphase: Wachstumsdruck und Kapitalbedarf treffen die drei Verhandlungspartner unterschiedlich stark, Amazon als Investor spürt ihn indirekt, ohne selbst am Verhandlungstisch zu sitzen.

Der schärfere Kritikpunkt kommt von einem Konkurrenten

Die deutlichste Kritik an der geplanten Institution stammt bislang nicht von einem Marktskeptiker wie Burry, sondern von einem direkten Wettbewerber: Cohere-CEO Aidan Gomez warf den drei Unternehmen laut SiliconANGLE vor, „einmal mehr unter dem Vorwand, die Öffentlichkeit zu schützen, Angst zu nutzen, während diese Oligopole jetzt verlangen, Wettbewerbsregeln zu biegen". Rechtsexperten verweisen laut demselben Bericht zusätzlich auf ein mögliches Kartellrechtsproblem nach dem Sherman Act, sollten sich drei der größten Anbieter auf gemeinsame Zugangs- oder Prüfstandards einigen. Der Vorwurf ist inhaltlich derselbe wie in Beitrag 4 dieser Serie zu Amodeis Bitte um eine Kartellrechts-Ausnahme, nur diesmal nicht von außen an die Branche herangetragen, sondern von einem Unternehmen formuliert, das selbst im Wettbewerb um dieselben Kunden steht und ein klares Eigeninteresse daran hat, nicht von einer Dreier-Institution ausgeschlossen zu werden.

Was das für Burrys These bedeutet

Michael Burry wirft OpenAI und Anthropic laut Yahoo Finance vor, ihre Sicherheits-Warnungen zu „faken", um echtes, sich verlangsamendes Wachstum vor den jeweiligen Börsengängen zu kaschieren. Die Ereignisse dieser Woche stützen einen Teil davon und widerlegen einen anderen Teil, deutlich genug, um es klar zu benennen:

• Was zutrifft: Dass Sicherheits-Rhetorik auch eigenen, nicht rein sicherheitsbezogenen Interessen dient, ist durch Gomez' Kartellvorwurf jetzt von einem Konkurrenten selbst bestätigt, nicht nur von einem externen Kritiker behauptet. Das deckt sich mit der Marktordnung-These aus Beitrag 4.
• Was zu weit geht: Burrys Framing unterstellt vorsätzliches „Faken" einer Gefahr, die es gar nicht gebe. Dagegen spricht, dass die aufwendigste Maßnahme aus Amodeis Plan, externe Prüfer mit Mitarbeiterstatus, Firmenlaptop und Veröffentlichungsrecht direkt in den eigenen Laboren, für ein Unternehmen teuer und riskant ist, wenn die Gefahr frei erfunden wäre: Sie verschafft echten Externen echten Einblick in interne Systeme, ganz ohne Gegenleistung außer Reputationsgewinn. Eine reine PR-Behauptung ohne Substanz wäre günstiger zu haben gewesen.
• Was Burrys eigene These schwächt: Sein Argument, die Warnungen dienten dem IPO-Timing, passt schlecht zu OpenAI. Das Unternehmen hat einen eigenen Börsengang für 2026 nach eigener Aussage explizit auf 2027 verschoben, verhandelt aber trotzdem im selben Zeitraum genauso intensiv über die Sicherheits-Institution wie Anthropic, das seinen Börsengang für Oktober anstrebt. Wenn das IPO-Timing der eigentliche Treiber wäre, müsste sich dieser Unterschied im Verhalten der beiden Firmen zeigen. Bislang zeigt er sich nicht.
• Die präzisere Kritik: Gomez' Vorwurf ist damit tatsächlich die tragfähigere Version von Burrys Grundintuition. Nicht „die Gefahr ist erfunden", sondern „eine reale Gefahr wird genutzt, um drei etablierte Anbieter als Torwächter zu positionieren", ist eine Behauptung, die sich an echten Kriterien prüfen lässt, etwa daran, ob die künftige Institution unabhängige Dritte tatsächlich einbindet oder unter sich bleibt.

Fazit

Zwischen Amodeis Essay und der öffentlich gewordenen Verhandlung über eine gemeinsame Institution liegen drei Tage, das ist die schnellste Bewegung von Ankündigung zu konkretem Schritt in dieser gesamten Serie. Das spricht eher für „Follow-through" als für reine Inszenierung, zumal Verhandlungen seit Juli laufen und damit älter sind als Amodeis Essay selbst. Zugleich bestätigt der Kartellvorwurf eines direkten Konkurrenten, dass genau das strukturelle Interesse, das diese Serie seit Beitrag 1 nachzeichnet, real und nicht nur unterstellt ist. Burrys Fehler liegt weniger darin, Eigeninteresse zu vermuten, das tut diese Serie seit Beitrag 1 durchgängig selbst, sondern darin, daraus vorsätzlichen Betrug statt struktureller Interessenkonvergenz zu machen, und die zugrunde liegende Technologie kategorisch kleinzureden, obwohl sowohl der ursprüngliche Auslöser der Debatte (Jacob Coxons Kündigung) als auch drei sonst konkurrierende CEOs in der Einschätzung der eigentlichen Fähigkeiten übereinstimmen.

Ausblick

Offen bleibt, ob sich OpenAI, Anthropic und Google DeepMind tatsächlich auf konkrete, überprüfbare Standards einigen oder ob die Verhandlung im Ungefähren bleibt, wie es Chris Lehanes ausweichende Antworten zur „genauen Natur" der Zusammenarbeit bisher nahelegen. Ebenso offen: ob Amazon sich der Institution zu einem späteren Zeitpunkt anschließt oder dauerhaft außen vor bleibt, ob die EU auf eine mögliche Sherman-Act-Prüfung mit einer eigenen Reaktion antwortet, und ob Anthropics für Oktober anvisierter Börsengang den Zeitdruck auf eine schnelle, möglicherweise unfertige Einigung noch erhöht.