Die Frage klingt nach Science-Fiction, hat aber prominente Anhänger. Elon Musk sagte 2016 auf der Code Conference, die Chance, dass wir in der echten, nicht simulierten Welt leben, stehe bei eins zu Milliarden. Die Grundlage solcher Aussagen ist ein Aufsatz des Philosophen Nick Bostrom aus dem Jahr 2003. Die Philosophin Catrin Misselhorn, Autorin des Standardwerks „Grundfragen der Maschinenethik“, hält dagegen. In einem Gespräch im ZEIT-Podcast „Nur eine Frage“ zerlegt sie das Argument Schritt für Schritt. Ich habe ihre Einwände nachgezeichnet, weil sie an einer Frage hängen, die in der KI-Debatte immer wiederkehrt: Kann eine Maschine ein Bewusstsein haben?
Bostroms Argument braucht sehr viele simulierte Bewusstseine
Bevor es um Wahrscheinlichkeiten geht, klärt Misselhorn den Begriff. Eine Computersimulation im Sinne der Debatte ist eine virtuelle Realität, die immersiv ist, also mit allen Sinnen erfahren wird, und interaktiv, weil Dinge auf mich einwirken und ich auf sie. Beides gilt auch für die physikalische Realität. Der Unterschied liegt in einem Punkt: Die Simulation ist programmiert.
In seinem Aufsatz „Are You Living in a Computer Simulation?“ geht Bostrom von einer Voraussetzung aus: Die Rechenleistung wächst weiter, bis Zivilisationen ganze Welten samt ihrer Bewohner simulieren können. Daraus baut er ein Trilemma, drei Aussagen, von denen mindestens eine wahr sein soll:
- Zivilisationen sterben aus, bevor sie die technischen Mittel für solche Simulationen haben.
- Zivilisationen mit diesen Mitteln entscheiden sich dagegen, etwa aus ethischen Gründen.
- Wir leben sehr wahrscheinlich selbst in einer Simulation.
Die dritte Aussage folgt aus einer Zählung. Misselhorn rechnet ein Beispiel vor: Angenommen, nur eine von zehn Zivilisationen führt Simulationen durch, jede davon tausend. Dann kommen auf jede reale Welt hundert simulierte, und die Wahrscheinlichkeit, in einer davon zu leben, liegt bei rund 99 Prozent. Bostrom selbst entscheidet sich nicht zwischen den drei Aussagen. Gelesen wurde er trotzdem meist so, als sei die dritte seine eigentliche Schlussfolgerung, weil die beiden anderen wenig einleuchten.
Die Rechnung hat eine Bedingung, auf die Misselhorn mehrfach zurückkommt. In den Simulationen müssen ähnlich viele Personen mit Bewusstsein leben wie in unserer Welt. Reicht es nicht aus, dass ich das einzige echte Bewusstsein in einer Welt voller Statisten bin, vergleichbar den computergesteuerten Figuren eines Spiels? Für Bostroms Zahlen nicht. Ohne viele simulierte Bewusstseine, mehr als es reale gibt, hätten wir laut Misselhorn keinen Grund mehr, an eine Simulation zu glauben.
Ob Bewusstsein simuliert werden kann, ist die offene Flanke
An dieser Bedingung setzt der erste Einwand an. Bostrom nimmt ausdrücklich an, dass Bewusstsein nicht an Nervenzellen gebunden ist: Werden die Rechenprozesse eines Gehirns fein genug nachgebildet, etwa auf der Ebene einzelner Synapsen, entsteht auch Erleben. Diese Substratunabhängigkeit nennt er selbst nicht ganz unumstritten. Misselhorn ordnet sie dem Funktionalismus zu, einer Position aus der Philosophie des Geistes, die lange als vorherrschend galt. Sie versteht den menschlichen Geist als eine Art Programm, das auf dem Gehirn läuft wie Software auf einem Rechner. Wenn nur das Programm zählt, ist es gleich, ob es auf Nervenzellen oder auf Chips läuft.
Der amerikanische Philosoph Ned Block hat diese Annahme 1978 in seinem Aufsatz „Troubles with Functionalism“ mit einem Gedankenexperiment angegriffen, dem China-Gehirn. Die Bevölkerung Chinas übernimmt die Rolle der Neuronen: Jeder Mensch bekommt ein Telefon und ruft nach festen Regeln andere an, sobald ihn genug Anrufe erreichen. So ließe sich das Programm eines Gehirns vollständig ausführen. Hätte dieses System ein Bewusstsein? Block verneint das. Es fehlt das phänomenale Bewusstsein, also das Erleben selbst: wie es sich anfühlt, eine blaue Wand zu sehen, und dass sich das anders anfühlt als Rot.
Misselhorn veranschaulicht das mit einer Wettersimulation. Ein Computer kann einen Wirbelsturm sehr genau berechnen, trotzdem wird dabei nichts nass, und es weht kein Wind. Die Berechnung beschreibt den Sturm, sie ist keiner. Misselhorn überträgt das Bild auf das Gehirn: Eine Simulation rechnet mit Gleichungen nach, wie Nervenzellen Signale weitergeben. Am Ende stehen Zahlen im Speicher, aber keine Nervenzellen, die feuern. Wer annimmt, dass aus diesen Zahlen ein Erleben entsteht, setzt genau das voraus, was erst zu zeigen wäre. Ein weiterer Punkt kommt hinzu: Derselbe Algorithmus kann je nach Deutung etwas mit oder ohne Bewusstsein darstellen. Für Misselhorn ist es deshalb eine Frage der Interpretation, ob ein Teil der Simulation bewusst ist. Bei Lebewesen stellt sich diese Frage nicht, ihr Bewusstsein entsteht unabhängig von einem Beobachter. Misselhorn hält es für plausibel, dass nur biologische Systeme bewusst sein können. Ausschließen will sie Maschinenbewusstsein nicht: Erst wenn Maschinen „den Sprung zum Leben schaffen“, sieht sie eine Chance. Eine bloße Simulation reicht ihr nicht.
Wer in einer Simulation lebt, könnte nach Misselhorn nicht einmal daran denken
Der zweite Einwand stammt aus einem älteren Gedankenexperiment, das Misselhorn eines der schönsten der Philosophie nennt. Hilary Putnam beschreibt im ersten Kapitel seines Buchs „Vernunft, Wahrheit und Geschichte“ ein Gehirn im Tank: Wissenschaftler entnehmen ein Gehirn, schließen es an einen Computer an und spielen ihm eine Welt vor, die sich anfühlt wie immer. Putnam wollte damit nicht zeigen, dass wir in einem Tank leben. Er wollte die Möglichkeit widerlegen.
Sein Argument dreht sich um die Bezugnahme, also die Frage, wie sich Gedanken und Wörter auf Dinge in der Welt beziehen. Ähnlichkeit reicht dafür nicht. Das Wort „Tisch“ sieht keinem Tisch ähnlich und bezieht sich trotzdem auf ihn. Umgekehrt zeichnet eine Ameise im Sand zufällig Linien, die an eine Karikatur Winston Churchills erinnern. Sie bezieht sich damit nicht auf Churchill, sie hat ihn nie gesehen. Bezugnahme braucht eine kausale Verbindung: Ich muss selbst mit Tischen in Berührung gekommen sein oder von Menschen davon erfahren haben, die es sind. Ein Gehirn im Tank hat den echten Tank nie wahrgenommen. Es kann sich nur auf Reize und Vorstellungen beziehen, und deshalb kann es den Gedanken „Ich bin ein Gehirn im Tank“ gar nicht bilden.
Misselhorn überträgt das auf die Simulation. Wer denkt, in einer Simulation zu leben, bezieht sich auf etwas außerhalb davon: auf die Welt, in der Programmierer das Programm geschrieben haben. Zu dieser Welt hat ein simuliertes Wesen nach ihrer Lesart keine kausale Verbindung, also kann es den Gedanken nicht fassen. Unumstritten ist das nicht. Ein bekannter Einwand gegen Putnam lautet, dass sein Argument nicht für jemanden gilt, der erst später in den Tank versetzt wurde und vorher Kontakt mit der realen Welt hatte. Der Einwand lässt sich auch auf die Simulation übertragen. Die Debatte um „Glitches“, kleine Fehler, die eine Simulation verraten könnten, ändert daran wenig. Eine perfekte Simulation zeigt keine solchen Fehler, und für die Behauptung, wir lebten in einer unvollkommenen, kennt Misselhorn kein unumstrittenes Argument.
Was als real gilt, lässt sich anhand von Kriterien prüfen
Im Gespräch fragt der ZEIT-Moderator schließlich, was Realität überhaupt ist. Misselhorn antwortet mit fünf Kriterien, die auch der australische Philosoph David Chalmers verwendet:
- Was real ist, existiert.
- Es hat kausale Kräfte, wirkt sich also auf anderes aus.
- Es besteht unabhängig vom menschlichen Geist.
- Es ist keine Illusion.
- Es ist echt und kein Fake.
Für Misselhorn scheitert die Simulation an mehreren dieser Punkte. Ein realer Tisch reflektiert Licht, das auf die Netzhaut trifft. Ein virtueller Tisch tut das nicht, die kausalen Beziehungen digitaler Objekte sind anderer Art. Simulierte Dinge hängen zudem vom Geist der Programmierer ab und von meinem, der stimuliert wird. Chalmers selbst kommt mit derselben Liste zum gegenteiligen Ergebnis. In seinem Buch „Reality+“ argumentiert er, dass die Dinge in einer perfekten, dauerhaften Simulation alle fünf Kriterien erfüllen. Ein virtueller Tisch existiert für ihn als digitales Objekt, also als Daten auf einem Rechner. Über diesen Rechner wirkt er auf uns ein, und er hängt nicht von unserem Geist ab, sondern von der Maschine, auf der er gespeichert ist. Misselhorn und Chalmers legen also dieselben Kriterien an. Uneinig sind sie darüber, wie diese Prüfung für eine Simulation ausfällt.
Die Antwort hat Folgen für das Handeln
Spielt die Frage im Alltag überhaupt eine Rolle? Misselhorn verweist zunächst auf den Philosophen David Hume. Sinngemäß sagte er, sein Zweifel an der Außenwelt beschäftige ihn nur am Schreibtisch. Sobald er das Studierzimmer verlasse, lebe er weiter wie zuvor. Für das tägliche Leben ändert die Frage demnach wenig. Bei Entscheidungen mit moralischem Gewicht sieht Misselhorn das anders. Ihr Beispiel ist die Klimakrise: Wer überzeugt ist, nur eine von Billionen Simulationen zu bewohnen, kann sich sagen, dass es auf diese eine nicht ankommt, weil es in vielen anderen gut ausgehen mag. Als Anhänger der Simulationsthese nennt sie Elon Musk und hat den Eindruck, dass er sich auch entsprechend verhält. Belege dafür führt sie im Gespräch nicht an, es bleibt ihr Eindruck. Er passt aber zu dem Muster, das ich in „Der KI-Diskurs der Tech-Größen“ beschrieben habe: Bei Musk liegen Rhetorik und Handeln besonders weit auseinander.
Am Ende räumt Misselhorn ein, dass sich die Welt für sie manchmal trotzdem wie eine Simulation anfühlt. Als hätten die Programmierer die Temperatur hochgesetzt, wie man bei KI-Modellen den Parameter nennt, der steuert, wie zufällig die Ausgaben ausfallen. Sie nennt Klimakrise und Demokratiegefährdung als Beispiele für einen Weltlauf, der absurd wirkt. Gleich danach ordnet sie das als bloßes Gefühl ein, das auf einer fragwürdigen Voraussetzung beruht: dass nicht sein kann, was nicht sein soll.
Fazit
Aus einer scheinbar sauberen Wahrscheinlichkeitsrechnung wird bei genauem Lesen eine Frage nach dem Bewusstsein. Bostroms Rechnung geht nur auf, wenn in einer Simulation bewusste Wesen entstehen können. Ob das so ist, lässt sich von außen nicht sicher feststellen. Ob ein Teil einer Simulation bewusst ist, bleibt nach Misselhorn eine Frage der Deutung.
Eine ähnliche Grenze habe ich in „Denken ohne Worte“ beschrieben. Dort ging es um Sprachmodelle, die zunehmend ohne lesbare Zwischenschritte schlussfolgern, sodass sich ihr Denken nicht mehr mitlesen lässt. Mein Schluss war, KI-Agenten an dem zu prüfen, was sie tun, nicht an dem, was sie denken. Die Simulationsfrage führt von der anderen Seite an denselben Punkt: Ob in einer Maschine etwas erlebt wird, lässt sich an ihrem Verhalten nicht ablesen. Ob unsere Welt simuliert ist, lässt sich von innen nicht feststellen. Was in beiden Fällen bleibt, ist das Handeln. Deshalb halte ich Misselhorns letzten Gedanken für den wichtigsten: Wer sich für eine von Billionen Versionen hält, entscheidet anders als jemand, der von einer einzigen Welt ausgeht. Für meine Entscheidungen gehe ich von der einen Welt aus, die wir haben.