Nick Bostrom: Leben wir in einer Computersimulation (2001)

Ich sammle alle wichtigen Texte aller Zeiten und Völker, die das Weltbild und die Bildung des Weltbildes beeinflussen ( "Ontol" ). Und hier dachte und dachte ich und stellte eine gewagte Hypothese auf, dass dieser Text für unser Verständnis der Struktur der Welt revolutionärer und wichtiger ist als die kopernikanische Revolution und die Werke Kants. In Runet befand sich dieser Text (Vollversion) in einem schrecklichen Zustand, ich kämmte ihn ein wenig und veröffentlichte ihn mit Erlaubnis des Übersetzers zur Diskussion.

"Lebst du in einer Computersimulation?"

von Nick Bostrom [Veröffentlicht in Philosophical Quarterly (2003) Vol. 53, No. 211, pp. 243-255. (Erste Version: 2001)] In



diesem Artikel heißt es, dass mindestens eine der folgenden drei Annahmen zutrifft:

• (1) Es ist sehr wahrscheinlich, dass die Menschheit aussterben wird, bevor sie die "posthumane" Phase erreicht.
• (2) Es ist äußerst unwahrscheinlich , dass jede posthumane Zivilisation eine signifikante Anzahl von Simulationen ihrer Evolutionsgeschichte (oder ihrer Varianten) durchführt
• (3) Wir leben mit ziemlicher Sicherheit in einer Computersimulation .

Daraus folgt, dass die Wahrscheinlichkeit, in der Phase einer posthumanen Zivilisation zu sein, die Simulationen ihrer Vorgänger ausführen kann, Null ist, es sei denn, wir akzeptieren den Fall, dass wir bereits in einer Simulation leben, als wahr. Andere Konsequenzen dieses Ergebnisses werden ebenfalls diskutiert.

1. Einleitung

Viele Science-Fiction-Werke sowie die Vorhersagen seriöser Futuristen und Technologieforscher sagen voraus, dass in Zukunft kolossale Mengen an Rechenleistung verfügbar sein werden. Nehmen wir an, diese Vorhersagen sind korrekt. Zum Beispiel können zukünftige Generationen mit ihren ultra-leistungsstarken Computern detaillierte Simulationen ihrer Vorgänger oder Menschen wie ihre Vorgänger durchführen. Weil ihre Computer so leistungsfähig sind, können sie viele solcher Simulationen ausführen.Angenommen, diese simulierten Menschen haben Bewusstsein (und sie werden es haben, wenn die Simulation sehr genau ist und wenn ein bestimmtes weithin akzeptiertes Konzept des Bewusstseins in der Philosophie korrekt ist). Daraus folgt, dass die größte Anzahl von Köpfen wie unser nicht zur ursprünglichen Rasse gehört, sondern zu Menschen, die von den fortgeschrittenen Nachkommen der ursprünglichen Rasse simuliert wurden. Auf dieser Grundlage kann argumentiert werden, dass es vernünftig ist zu erwarten, dass wir zu den simulierten und nicht zu den ursprünglichen natürlichen biologischen Köpfen gehören. Wenn wir also nicht glauben, dass wir jetzt in einer Computersimulation leben, sollten wir nicht davon ausgehen, dass unsere Nachkommen viele Simulationen ihrer Vorfahren durchführen werden. Dies ist die Hauptidee. Im weiteren Verlauf dieser Arbeit werden wir uns genauer damit befassen.



Neben dem Interesse, das diese These für diejenigen darstellen kann, die an futuristischen Diskussionen beteiligt sind, besteht hier auch ein rein theoretisches Interesse. Dieser Beweis ist ein Anreiz für die Formulierung einiger methodischer und metaphysischer Probleme und bietet auch einige natürliche Analogien zu traditionellen religiösen Konzepten, und diese Analogien mögen überraschend oder suggestiv erscheinen.



Die Struktur dieses Artikels ist wie folgt: Am Anfang werden wir eine bestimmte Annahme formulieren, die wir aus der Philosophie des Geistes importieren müssen, damit dieser Beweis funktioniert. Wir betrachten dann einige der empirischen Gründe für die Annahme, dass eine zukünftige Zivilisation eine Vielzahl von Simulationen des menschlichen Geistes durchführen kann, die viele der Technologien entwickeln werden, von denen klargestellt wurde, dass sie mit bekannten physikalischen Gesetzen und technischen Einschränkungen vereinbar sind.



Dieser Teil ist aus philosophischer Sicht nicht notwendig, ermutigt aber dennoch, auf die Hauptidee des Artikels zu achten. Darauf folgt eine Darstellung des Beweises im Wesentlichen unter Verwendung einiger einfacher Anwendungen der Wahrscheinlichkeitstheorie und ein Abschnitt, der das Prinzip der schwachen Äquivalenz rechtfertigt, das dieser Beweis verwendet. Am Ende werden wir einige Interpretationen der eingangs erwähnten Alternative diskutieren, und dies wird die Schlussfolgerung des Beweises des Simulationsproblems sein.

2. Annahme der Unabhängigkeit des Luftfahrtunternehmens

Eine verbreitete Annahme in der Philosophie des Geistes ist die Annahme der Unabhängigkeit der Träger. Die Idee ist, dass mentale Zustände in jedem Medium aus einer breiten Klasse von physischen Trägern entstehen können. Vorausgesetzt, dass der richtige Satz von Rechenstrukturen und -prozessen im System enthalten ist, können darin bewusste Erfahrungen entstehen. Die intrinsische Eigenschaft ist nicht, dass intrakranielle Prozesse in biologischen neuronalen Netzen auf Kohlenstoffbasis verkörpert sind: Prozessoren auf Siliziumbasis in Computern können genau den gleichen Trick ausführen. Argumente für diese These wurden in der vorhandenen Literatur vorgebracht, und obwohl sie nicht vollständig konsistent ist, werden wir sie hier als selbstverständlich betrachten.



Der Beweis, den wir hier präsentieren, hängt jedoch nicht von einer sehr starken Version des Funktionalismus oder Computationalismus ab. Zum Beispiel sollten wir nicht akzeptieren, dass die These der Unabhängigkeit vom Träger notwendigerweise wahr ist (sowohl im analytischen als auch im metaphysischen Sinne) - wir sollten nur akzeptieren, dass in Wirklichkeit ein Computer unter der Kontrolle des entsprechenden Programms Bewusstsein haben könnte ... Darüber hinaus sollten wir nicht davon ausgehen, dass wir, um Bewusstsein in einem Computer zu schaffen, es so programmieren müssen, dass es sich in allen Fällen wie ein Mensch verhält, den Turing-Test besteht usw. Wir brauchen nur einen Schwächeren die Annahme, dass es ausreicht, subjektive Erfahrungen zu machenso dass die Rechenprozesse im menschlichen Gehirn in geeigneten hochpräzisen Details strukturell kopiert würden, beispielsweise auf der Ebene einzelner Synapsen. Diese verfeinerte Version der Medienunabhängigkeit wird weitgehend akzeptiert.



Neurotransmitter, Nervenwachstumsfaktoren und andere Chemikalien, die kleiner als Synapsen sind, spielen eindeutig eine Rolle bei der Wahrnehmung und beim Lernen des Menschen. Die These der Medienunabhängigkeit besagt nicht, dass die Auswirkungen dieser Chemikalien gering oder vernachlässigbar sind, sondern dass sie die subjektive Erfahrung nur durch direkte oder indirekte Auswirkungen auf die Rechenaktivität beeinflussen. Wenn es beispielsweise keine subjektiven Unterschiede gibt, ohne dass es auch einen Unterschied in der synaptischen Entladung gibt, befindet sich das erforderliche Simulationsdetail auf synaptischer Ebene (oder höher).

3 technologische Grenzen der Berechnung

Auf dem gegenwärtigen Stand der technologischen Entwicklung verfügen wir weder über ausreichend leistungsfähige Geräte noch über die entsprechende Software, um auf einem Computer ein Bewusstsein zu schaffen. Es wurden jedoch starke Argumente vorgebracht, dass diese Einschränkungen letztendlich überwunden werden, wenn der technologische Fortschritt ohne Unterbrechung fortgesetzt wird. Einige Autoren argumentieren, dass diese Phase in nur wenigen Jahrzehnten kommen wird. Für die Zwecke unserer Diskussion sind jedoch keine zeitlichen Annahmen erforderlich. Simulationsnachweise funktionieren genauso gut für diejenigen, die glauben, dass es Hunderttausende von Jahren dauern wird, bis eine "posthumane" Entwicklungsphase erreicht ist, in der die Menschheit die meisten technologischen Fähigkeiten erwerben wird, die jetzt gezeigt werden könnenim Einklang mit physikalischen Gesetzen und materiellen und energetischen Einschränkungen.



Diese ausgereifte Phase der technologischen Entwicklung wird es ermöglichen, Planeten und andere astronomische Ressourcen in Computer mit kolossaler Macht umzuwandeln. Im Moment ist es schwierig, sich über die endgültigen Grenzen der Rechenleistung zu informieren, die posthumanen Zivilisationen zur Verfügung stehen werden. Da wir immer noch keine "Theorie von allem" haben, können wir nicht ausschließen, dass neue physikalische Phänomene, die durch moderne physikalische Theorien verboten sind, verwendet werden können, um die Einschränkungen zu überwinden, die nach unserer gegenwärtigen Ansicht der Informationsverarbeitung im Inneren theoretische Grenzen setzen ein bestimmtes Stück Materie. Mit einem viel höheren Maß an Zuverlässigkeit können wir die unteren Grenzen der posthumanen Berechnung festlegen, vorausgesetzt, wir implementieren nur die Mechanismen, die bereits verstanden wurden. Zum Beispiel,Eric Drexler gab eine Skizze eines Systems von der Größe eines Zuckerwürfels (ohne Kühlung und Stromversorgung), das 10 kann²¹ Operationen pro Sekunde. Ein anderer Autor gab eine grobe Schätzung von 10 ⁴² Operationen pro Sekunde für einen Computer in Planetengröße an. (Wenn wir lernen, wie man Quantencomputer erstellt oder wie man Computer aus Kernmaterial oder Plasma baut, können wir den theoretischen Grenzen noch näher kommen. Seth Lloyd berechnete die Obergrenze für einen 1-kg-Computer in 5 * 10 ⁵⁰ logischen Operationen pro Sekunde 10 ³¹ Bit. Für unsere Zwecke ist es jedoch ausreichend, konservativere Schätzungen zu verwenden, die nur die derzeit bekannten Funktionsprinzipien implizieren.)



Die Menge an Computerleistung, die erforderlich ist, um ein menschliches Gehirn zu emulieren, eignet sich für dieselbe grobe Schätzung. Eine Schätzung, die darauf basiert, wie rechenintensiv es wäre, die Funktion eines bereits verstandenen Nervengewebes zu kopieren, dessen Funktionalität bereits in Silizium kopiert wurde (dh das Kontrastverstärkungssystem in der Netzhaut wurde kopiert), ergibt eine Schätzung von etwa 10 ¹⁴ Operationen pro Sekunde. Eine alternative Schätzung basierend auf der Anzahl der Synapsen im Gehirn und der Häufigkeit ihres Feuers ergibt einen Wert von 10 ¹⁶ -10 ¹⁷Operationen pro Sekunde. Dementsprechend kann noch mehr Rechenleistung erforderlich sein, wenn wir das Innenleben von Synapsen und Dendritenästen detailliert simulieren möchten. Es ist jedoch sehr wahrscheinlich, dass das menschliche Zentralnervensystem auf Mikroebene eine gewisse Redundanz aufweist, um die Unzuverlässigkeit und das Rauschen seiner neuronalen Komponenten auszugleichen. Folglich würde man signifikante Effizienzgewinne erwarten, wenn zuverlässigere und flexiblere nicht-biologische Prozessoren verwendet werden.



Der Speicher ist keine größere Einschränkung als die Rechenleistung. Darüber hinaus liegt der maximale Fluss menschlicher sensorischer Daten in der Größenordnung von 10 ⁸Bits pro Sekunde, dann wäre die Simulation aller sensorischen Ereignisse im Vergleich zur Simulation der kortikalen Aktivität vernachlässigbar. Auf diese Weise können wir die zur Simulation des Zentralnervensystems erforderliche Verarbeitungsleistung als Schätzung der gesamten Rechenkosten für die Simulation des menschlichen Geistes verwenden.



Wenn die Umgebung in die Simulation einbezogen wird, ist zusätzliche Computerleistung erforderlich, deren Höhe von der Größe und den Details der Simulation abhängt. Es ist offensichtlich unmöglich, das gesamte Universum bis auf die Quantenebene zu simulieren, es sei denn, es wird eine neue Physik entdeckt. Um eine realistische Simulation der menschlichen Erfahrung zu erhalten, ist jedoch viel weniger erforderlich - genau so viel, wie erforderlich ist, um sicherzustellen, dass simulierte Personen, die auf normale menschliche Weise mit der simulierten Umgebung interagieren, keinen Unterschied bemerken. Die mikroskopische Struktur des Erdinneren kann leicht weggelassen werden. Entfernte astronomische Objekte können einer sehr hohen Komprimierung ausgesetzt sein: Die genaue Ähnlichkeit sollte nur in einem engen Bereich von Eigenschaften liegen.was wir von unserem Planeten oder von einem Raumschiff im Sonnensystem aus beobachten können. Auf der Erdoberfläche müssen makroskopische Objekte an unbewohnten Orten kontinuierlich simuliert werden, aber mikroskopische Phänomene können sich füllenad hoc , dh nach Bedarf. Was Sie durch ein Elektronenmikroskop sehen, sollte verdächtig aussehen, aber Sie haben normalerweise keine Möglichkeit, seine Konsistenz mit nicht beobachtbaren Teilen der Mikrowelt zu überprüfen. Ausnahmen ergeben sich, wenn wir absichtlich Systeme entwickeln, um nicht beobachtbare mikroskopische Phänomene zu nutzen, die nach bekannten Prinzipien arbeiten, um Ergebnisse zu erzielen, die wir unabhängig überprüfen können. Das klassische Beispiel hierfür ist der Computer. Die Simulation muss daher kontinuierliche Simulationen von Computern bis auf die Ebene einzelner Logikgatter umfassen. Dies ist kein Problem, da unsere derzeitige Rechenleistung nach posthumanen Maßstäben vernachlässigbar ist.



Darüber hinaus verfügt ein posthumaner Simulator über genügend Rechenleistung, um den Denkzustand in allen menschlichen Gehirnen jederzeit detailliert zu verfolgen. Wenn eine Person feststellt, dass sie bereit ist, den Mikrokosmos zu beobachten, kann sie die Simulation so weit wie nötig mit einem ausreichenden Detaillierungsgrad füllen. Wenn ein Fehler auftritt, kann der Simulationsdirektor die Zustände jedes Gehirns, das von der Anomalie erfahren hat, leicht bearbeiten, bevor sie die Simulation ruiniert. Alternativ kann der Director die Simulation einige Sekunden zurückspulen und neu starten, um das Problem zu vermeiden.



Daraus folgt, dass die teuerste Methode zur Erstellung einer Simulation, die für den menschlichen Verstand nicht von der physischen Realität zu unterscheiden ist, darin besteht, Simulationen organischer Gehirne bis auf die neuronale oder subneurale Ebene zu erstellen. Während es nicht möglich ist , eine sehr genaue Schätzung der Kosten für eine realistische Simulation der menschlichen Geschichte zu geben, können wir eine Schätzung von 10 verwenden ³³ -10 ³⁶ Operationen als eine grobe Schätzung.



Wenn wir mehr Erfahrung mit der Erstellung virtueller Realität sammeln, werden wir ein besseres Verständnis der Rechenanforderungen gewinnen, die erforderlich sind, um solche Welten für ihre Besucher realistisch erscheinen zu lassen. Aber selbst wenn unsere Schätzung um mehrere Größenordnungen falsch ist, spielt es für unseren Beweis keine große Rolle. Wir haben festgestellt, dass eine grobe Schätzung der Rechenleistung eines Computers in Planetengröße 10 ⁴² beträgtOperationen pro Sekunde, und dies berücksichtigt nur die bereits bekannten nanotechnologischen Konstruktionen, die wahrscheinlich alles andere als optimal sind. Ein solcher Computer kann die gesamte mentale Geschichte der Menschheit (nennen wir es eine Simulation von Vorfahren) mit nur einem Millionstel seiner Ressourcen in 1 Sekunde simulieren. Die posthumane Zivilisation könnte schließlich eine astronomische Anzahl solcher Computer bauen. Wir können daraus schließen, dass die posthumane Zivilisation eine riesige Menge von Ahnen-Simulationen durchführen kann, selbst wenn sie nur einen kleinen Teil ihrer Ressourcen dafür ausgibt. Wir können zu diesem Schluss kommen und sogar einen signifikanten Fehler in all unseren Schätzungen berücksichtigen.

• , -, .

4.

Die Hauptidee dieses Artikels kann wie folgt ausgedrückt werden: Wenn es eine signifikante Chance gibt, dass unsere Zivilisation eines Tages das postmenschliche Stadium erreicht und viele Ahnen-Simulationen startet, wie können wir dann beweisen, dass wir nicht in einer solchen Simulation leben?



Wir werden diese Idee in Form eines strengen Beweises entwickeln. Lassen Sie uns die folgenden Bezeichnungen einführen:



- den Anteil aller Zivilisationen der menschlichen Ebene, die bis zum posthumanen Stadium überleben;

N ist die durchschnittliche Anzahl von Ahnen-Simulationen, die die posthumane Zivilisation startet.

H ist die durchschnittliche Anzahl von Menschen, die in einer Zivilisation lebten, bevor sie das postmenschliche Stadium erreichte.



Dann ist der tatsächliche Anteil aller Beobachter mit menschlicher Erfahrung, die in der Simulation leben ,:







Wir bezeichnen als den Anteil posthumaner Zivilisationen, die an der Durchführung von Ahnen-Simulationen interessiert sind (oder die mindestens eine bestimmte Anzahl einzelner Kreaturen enthalten, die daran interessiert sind und über erhebliche Ressourcen verfügen, um eine signifikante Anzahl von Simulationen durchzuführen) und als die durchschnittliche Anzahl von Ahnen-Simulationen, die von solchen gestartet wurden Interessierte Zivilisationen erhalten wir:







Und deshalb:







Aufgrund der kolossalen Rechenleistung posthumaner Zivilisationen ist sie extrem groß, wie wir im vorigen Abschnitt gesehen haben. Wenn man die Formel (*) betrachtet, kann man sehen, dass mindestens eine der folgenden drei Annahmen wahr ist:

5. Das weiche Prinzip der Äquivalenz

Wir können noch einen Schritt weiter gehen und daraus schließen, dass (3) wahr ist und Sie mit ziemlicher Sicherheit sicher sein können, dass Sie sich in einer Simulation befinden. Im Allgemeinen, wenn wir wissen, dass der Bruchteil x aller Beobachter mit menschlicher Erfahrung in einer Simulation lebt, und wir keine zusätzlichen Informationen haben, die zeigen, dass unsere eigene besondere Erfahrung mehr oder weniger wahrscheinlich in einer Maschine verkörpert ist und nicht in vivo als andere menschliche Erfahrungen, und dann sollte unser Vertrauen, dass wir in einer Simulation sind, x sein:







Dieser Schritt ist durch ein sehr schwaches Äquivalenzprinzip gerechtfertigt. Lassen Sie uns die beiden Fälle aufteilen. Im ersten Fall, der einfacher ist, ähneln alle untersuchten Köpfe Ihren in dem Sinne, dass sie qualitativ genau zu Ihrem Geist passen: Sie haben dieselben Informationen und dieselben Erfahrungen wie Sie. Im zweiten Fall sind sich die Gedanken nur im weitesten Sinne ähnlich. Sie sind die für Menschen typischen, aber qualitativ unterschiedlichen Köpfe und haben unterschiedliche Erfahrungen. Ich behaupte, dass selbst wenn die Köpfe qualitativ unterschiedlich sind, der Simulationsnachweis immer noch funktioniert, vorausgesetzt, Sie haben keine Informationen, die die Frage beantworten, welche der verschiedenen Köpfe simuliert und welche biologisch verwirklicht werden.



In der Literatur wurde eine strengere Begründung des Prinzips gegeben, die unsere beiden besonderen Beispiele als triviale Sonderfälle einschließt. Platzmangel macht es unmöglich, hier die ganze Begründung zu geben, aber wir können hier einen der intuitiven Gründe nennen. Stellen Sie sich vor, x% einer Population haben eine bestimmte genetische Sequenz S in einem bestimmten Teil ihrer DNA, die normalerweise als "Junk-DNA" bezeichnet wird. Nehmen wir weiter an, dass es keine Manifestationen von S gibt (mit Ausnahme derjenigen, die bei Gentests auftreten können) und es keine Korrelation zwischen dem Besitz von S und irgendwelchen externen Manifestationen gibt. Dann ist es ziemlich offensichtlich, dass es vor der Sequenzierung Ihrer DNA rational ist, der Hypothese, dass Sie ein Fragment S haben, das Vertrauen in x% zuzuschreiben. Und dies ist völlig unabhängig von der Tatsache, dassdass Menschen, die S haben, Gedanken und Erfahrungen haben, die sich qualitativ von denen unterscheiden, die kein S haben. (Sie unterscheiden sich einfach, weil alle Menschen unterschiedliche Erfahrungen haben, nicht weil es einen direkten Zusammenhang zwischen ihnen gibt S und die Art der Erfahrung, die die Person macht.)



Die gleiche Überlegung gilt, wenn S nicht die Eigenschaft einer bestimmten genetischen Sequenz ist, sondern die Tatsache, dass wir uns in einer Simulation befinden, unter der Annahme, dass wir keine Informationen haben, die es uns ermöglichen, Unterschiede zwischen den Erfahrungen des simulierten Geistes und zwischen den Erfahrungen des ursprünglichen Biologischen vorherzusagen Köpfe.



Es sollte betont werden, dass das weiche Äquivalenzprinzip nur die Äquivalenz zwischen Hypothesen darüber betont, welcher der Beobachter Sie sind, wenn Sie keine Informationen darüber haben, welcher der Beobachter Sie sind. Es wird im Allgemeinen keine Äquivalenz zwischen Hypothesen zugeschrieben, wenn Sie keine spezifischen Informationen darüber haben, welche Hypothese wahr ist. Im Gegensatz zu Laplace und anderen stärkeren Äquivalenzprinzipien ist er daher immun gegen das Bertrand-Paradoxon und andere ähnliche Schwierigkeiten, die die unbegrenzte Anwendung der Äquivalenzprinzipien erschweren.



Leser, die mit dem Beweis des Doomsday-Arguments (DA) vertraut sind (J. Leslie, "Ist das Ende der Welt nahe?" Philosophical Quarterly 40, 158: 65-72 (1990)), können sich nicht sicher sein, ob das Prinzip der Äquivalenz, Die hier verwendete Grundlage basiert auf denselben Annahmen, die für das Herausschlagen des Bodens aus der DA verantwortlich sind, und dass die Gegenintuitivität einiger der Schlussfolgerungen der letzteren einen Schatten auf die Gültigkeit der Argumentation über die Simulation wirft. Es ist nicht so. DA beruht auf der viel strengeren und kontroversen Prämisse, dass eine Person argumentieren sollte, als wäre sie eine Zufallsstichprobe der gesamten Gruppe von Menschen, die jemals gelebt haben und leben werden (in der Vergangenheit, Gegenwart und Zukunft), obwohl dies der Fall ist dass wir wissen, dass wir zu Beginn des 21. Jahrhunderts leben und nicht irgendwann in ferner Zukunft. Das Prinzip der weichen Unsicherheit gilt nur für diese Fällewenn wir keine zusätzlichen Informationen darüber haben, zu welcher Gruppe von Menschen wir gehören.



Wenn Wetten eine Grundlage für rationalen Glauben sind, dann, wenn jeder darauf setzt, ob er sich in einer Simulation befindet oder nicht, dann, wenn Menschen das Prinzip der weichen Unsicherheit anwenden und darauf wetten, dass sie sich in einer Simulation befinden Mit dem Wissen, dass die meisten Leute dabei sind, wird fast jeder seine Wetten gewinnen. Wenn sie wetten, dass sie nicht in der Simulation sind, wird fast jeder verlieren. Es erscheint sinnvoller, dem Prinzip der weichen Äquivalenz zu folgen. Ferner kann man sich eine Abfolge möglicher Situationen vorstellen, in denen ein zunehmender Anteil der Menschen in Simulationen lebt: 98%, 99%, 99,9%, 99,9999% und so weiter. Wenn wir uns der Obergrenze nähern und jeder in einer Simulation lebt (woraus man schließen kann, dass sich jeder in einer Simulation befindet), scheint dies eine vernünftige Anforderung zu sein.so dass sich die Gewissheit, die man einer Simulation zuschreibt, reibungslos und kontinuierlich der Grenzgrenze der Gesamtsicherheit nähert.

6. Interpretation

Die in Punkt (1) erwähnte Möglichkeit ist durchaus verständlich. Wenn (1) wahr ist, wird die Menschheit mit ziemlicher Sicherheit die posthumane Ebene nicht erreichen; Keine Art auf unserem Entwicklungsstand wird posthuman, und es ist schwierig, eine Rechtfertigung für die Annahme zu finden, dass unsere eigene Art Vorteile oder besonderen Schutz vor zukünftigen Katastrophen hat. Unter Bedingung (1) müssen wir daher eine hohe Sicherheit des Schicksals (DOOM) zuschreiben, dh der Hypothese, dass die Menschheit verschwinden wird, bevor sie die posthumane Ebene erreicht:







Man kann sich eine hypothetische Situation vorstellen, in der wir Daten haben, die sich überschneiden unser Wissen über f _p... Wenn wir zum Beispiel feststellen, dass ein riesiger Asteroid uns treffen wird, können wir davon ausgehen, dass wir extrem unglücklich waren. In diesem Fall können wir der Doom-Hypothese mehr Glaubwürdigkeit zuschreiben als unsere Erwartung an den Anteil der Zivilisationen auf menschlicher Ebene, die die Posthumanität nicht erreichen können. In unserem Fall scheinen wir jedoch keinen Grund zu der Annahme zu haben, dass wir in dieser Hinsicht etwas Besonderes sind, zum Guten oder Schlechten.



Annahme (1) an sich bedeutet nicht, dass wir wahrscheinlich aussterben werden. Es deutet darauf hin, dass wir die posthumane Phase wahrscheinlich nicht erreichen werden. Diese Möglichkeit könnte zum Beispiel bedeuten, dass wir lange Zeit auf dem aktuellen Niveau bleiben oder etwas darüber liegen, bevor wir aussterben. Ein weiterer möglicher Grund für die Wahrheit von (1) ist, dass die technologische Zivilisation höchstwahrscheinlich zusammenbrechen wird. Gleichzeitig werden primitive menschliche Gesellschaften auf der Erde bleiben.



Es gibt viele Möglichkeiten, wie die Menschheit aussterben kann, bevor sie die posthumane Entwicklungsphase erreicht. Die natürlichste Erklärung (1) ist, dass wir infolge der Entwicklung einer leistungsfähigen, aber gefährlichen Technologie aussterben werden. Ein Kandidat ist die molekulare Nanotechnologie, deren ausgereiftes Stadium die Schaffung selbstreplizierender Nanoroboter ermöglicht, die sich von Schmutz und organischer Substanz ernähren können - so etwas wie ein mechanisches Bakterium. Solche Nanoroboter können, wenn sie für böswillige Zwecke entwickelt wurden, zum Tod allen Lebens auf dem Planeten führen.



Eine zweite Alternative zur Schlussfolgerung der Simulationsgründe ist, dass der Anteil posthumaner Zivilisationen, die daran interessiert sind, Ahnen-Simulationen durchzuführen, vernachlässigbar ist. Damit (2) wahr ist, muss es eine strikte Konvergenz zwischen den Entwicklungspfaden fortgeschrittener Zivilisationen geben. Wenn die Anzahl der von interessierten Zivilisationen erstellten Ahnensimulationen außergewöhnlich groß ist, muss die Seltenheit solcher Zivilisationen entsprechend extrem sein. Praktisch keine posthumane Zivilisation beschließt, ihre Ressourcen zu nutzen, um eine große Anzahl von Ahnen-Simulationen zu erstellen. Darüber hinaus fehlen fast allen posthumanen Zivilisationen Individuen mit den entsprechenden Ressourcen und dem Interesse, Ahnen-Simulationen durchzuführen. oder sie haben Gesetze, die mit Gewalt unterstützt werden,Verhinderung des Verhaltens von Individuen nach ihren Wünschen.



Welche Kraft kann zu einer solchen Konvergenz führen? Jemand könnte argumentieren, dass sich fortgeschrittene Zivilisationen als eine auf einem Weg entwickeln, der zur Anerkennung des ethischen Verbots der Durchführung von Ahnen-Simulationen aufgrund des Leidens führt, das die Bewohner der Simulation erfahren. Aus heutiger Sicht scheint es jedoch nicht offensichtlich, dass die Erschaffung der Menschheit unmoralisch ist. Im Gegenteil, wir neigen dazu, die Existenz unserer Rasse als von großem ethischen Wert wahrzunehmen. Darüber hinaus reicht die Konvergenz nur ethischer Ansichten zur Unmoral laufender Ahnen-Simulationen nicht aus: Sie muss mit der Konvergenz der zivilisatorischen Sozialstruktur kombiniert werden, was dazu führt, dass Aktivitäten, die als unmoralisch gelten, effektiv verboten sind.



Eine andere Möglichkeit der Konvergenz besteht darin, dass sich fast alle einzelnen Posthumanen in fast allen posthumanen Zivilisationen in eine Richtung entwickeln, in der sie den Drang verlieren, Ahnen-Simulationen durchzuführen. Dies erfordert signifikante Änderungen in den Motivationen, die ihre posthumanen Vorfahren antreiben, da es sicherlich viele Menschen gibt, die Ahnen-Simulationen durchführen möchten, wenn sie die Chance dazu hätten. Aber vielleicht erscheinen viele unserer menschlichen Wünsche jedem, der posthuman wird, töricht. Vielleicht ist der wissenschaftliche Wert von Ahnen-Simulationen für posthumane Zivilisationen vernachlässigbar (was angesichts ihrer unglaublichen intellektuellen Überlegenheit nicht allzu unglaublich erscheint) und vielleichtPosthumanen betrachten Freizeitaktivitäten als einen sehr ineffektiven Weg, um Vergnügen zu erlangen - was viel billiger erreicht werden kann, indem die Lustzentren des Gehirns direkt stimuliert werden. Eine Schlussfolgerung aus (2) ist, dass sich posthumane Gesellschaften stark von menschlichen Gesellschaften unterscheiden werden: Sie werden keine relativ wohlhabenden unabhängigen Agenten haben, die eine ganze Reihe menschlicher Wünsche haben und die frei sind, in Übereinstimmung mit ihnen zu handeln. ...und die frei sind, in Übereinstimmung mit ihnen zu handeln.und die frei sind, in Übereinstimmung mit ihnen zu handeln.



Die durch Inferenz (3) beschriebene Gelegenheit ist konzeptionell die faszinierendste. Wenn wir in einer Simulation leben, ist der Raum, den wir beobachten, nur ein kleines Stück in der Gesamtheit der physischen Existenz. Die Physik des Universums, in dem sich der Computer befindet, kann der Physik der Welt, die wir beobachten, ähneln oder auch nicht. Während die Welt, die wir beobachten, etwas „real“ ist, befindet sie sich nicht auf einer fundamentalen Ebene der Realität. Es kann möglich sein, dass simulierte Zivilisationen posthuman werden. Sie können wiederum Ahnen-Simulationen auf leistungsstarken Computern ausführen, die sie in einem simulierten Universum erstellt haben. Solche Computer wären „virtuelle Maschinen“, ein in der Informatik weit verbreitetes Konzept. (Webanwendungen, die in Java-Skript geschrieben sind, wie zläuft in einer virtuellen Maschine - einem simulierten Computer - auf Ihrem Laptop.)



Virtuelle Maschinen können ineinander verschachtelt werden: Es ist möglich, eine virtuelle Maschine, die eine andere Maschine simuliert, usw. mit einer beliebig großen Anzahl von Schritten zu simulieren. Wenn wir unsere eigenen Ahnen-Simulationen erstellen können, wäre dies ein starker Beweis gegen die Punkte (1) und (2), und wir müssten daher zu dem Schluss kommen, dass wir in einer Simulation leben. Darüber hinaus müssen wir vermuten, dass die Posthumanen, die unsere Simulation gestartet haben, selbst simulierte Kreaturen sind und ihre Schöpfer wiederum auch simulierte Kreaturen sein können.



Die Realität kann daher mehrere Ebenen enthalten. Selbst wenn die Hierarchie auf einer bestimmten Ebene enden soll - der metaphysische Status dieser Aussage ist ziemlich unklar -, kann genügend Platz für eine große Anzahl von Realitätsebenen vorhanden sein, und diese Anzahl kann im Laufe der Zeit zunehmen. (Eine Überlegung, die gegen eine solche abgestufte Hypothese spricht, ist, dass die Rechenkosten für Basissimulatoren sehr hoch sein werden. Die Simulation selbst einer posthumanen Zivilisation kann unerschwinglich teuer sein. Wenn ja, sollten wir damit rechnen, dass unsere Simulation ausgeschaltet wird wenn wir uns der posthumanen Ebene nähern.)



Obwohl alle Elemente dieses Systems naturalistisch und sogar physisch sind, ist es möglich, einige lose Analogien zu religiösen Konzepten der Welt zu ziehen. In gewissem Sinne sind die Posthumanen, die die Simulation gestartet haben, wie Götter in Bezug auf die Menschen in der Simulation: Posthumanen erschaffen die Welt, die wir sehen; sie haben einen Intellekt, der uns überlegen ist; Sie sind allmächtig in dem Sinne, dass sie die Funktionsweise unserer Welt auf eine Weise stören können, die gegen physikalische Gesetze verstößt, und sie sind allwissend in dem Sinne, dass sie alles überwachen können, was geschieht. Alle Halbgötter, mit Ausnahme derer, die auf der fundamentalen Ebene der Realität leben, unterliegen jedoch den Handlungen mächtigerer Götter, die auf höheren Ebenen der Realität wohnen.



Weiteres Kauen an diesen Themen kann mit einer naturalistischen Theogonie enden, die die Struktur dieser Hierarchie und die den Bewohnern auferlegten Einschränkungen durch die Möglichkeit untersucht, dass ihre Handlungen auf ihrer Ebene die Haltung der Bewohner einer tieferen Realitätsebene zu ihnen beeinflussen können. Wenn zum Beispiel niemand sicher sein kann, dass er sich auf einem Grundniveau befindet, sollte jeder die Wahrscheinlichkeit in Betracht ziehen, dass seine Handlungen von den Meistern der Simulation belohnt oder bestraft werden, möglicherweise basierend auf einigen moralischen Kriterien. Ein Leben nach dem Tod wird eine echte Möglichkeit sein. Aufgrund dieser grundsätzlichen Unsicherheit wird auch die Zivilisation auf einer grundlegenden Ebene motiviert sein, sich ethisch zu verhalten. Die Tatsache, dass sie einen Grund haben, sich moralisch zu verhalten, wird natürlich ein zwingender Grund für jemand anderen sein, sich moralisch zu verhalten, und so weiter.einen tugendhaften Kreis bilden. Auf diese Weise können Sie so etwas wie einen universellen ethischen Imperativ erhalten, der im persönlichen Interesse aller liegt und aus dem Nichts kommt.



Neben Simulationen von Vorfahren kann man sich die Möglichkeit selektiverer Simulationen vorstellen, an denen nur eine kleine Gruppe von Personen oder eine Person beteiligt ist. Der Rest der Leute wird dann "Zombies" oder "Schattenmenschen" sein - Leute, die nur auf einem Niveau simuliert wurden, das ausreicht, damit vollständig simulierte Leute nichts Verdächtiges bemerken.



Es ist nicht klar, wie viel billiger es sein wird, Schattenmenschen zu simulieren als echte Menschen. Es ist nicht einmal offensichtlich, dass es möglich ist, dass sich ein Objekt nicht von einer realen Person unterscheidet und gleichzeitig keine bewussten Erfahrungen hat. Selbst wenn solche selektiven Simulationen existieren, müssen Sie nicht sicher sein, dass Sie sich darin befinden, bevor Sie sicher sind, dass solche Simulationen viel zahlreicher sind als vollständige Simulationen. Die Welt muss ungefähr 100 Milliarden mehr Selbstsimulationen (Simulationen des Lebens nur eines Bewusstseins) haben als vollständige Ahnen-Simulationen - damit sich die meisten simulierten Menschen in Selbstsimulationen befinden.



Es besteht auch die Möglichkeit, dass Simulatoren über einen bestimmten Teil des mentalen Lebens der simulierten Kreaturen springen und ihnen falsche Erinnerungen an die Art von Erfahrung geben, die sie während der versäumten Perioden haben könnten. Wenn ja, kann man sich die folgende (ausgedehnte) Lösung für das Problem des Bösen vorstellen: In Wirklichkeit gibt es kein Leiden auf der Welt und alle Erinnerungen an Leiden sind Illusionen. Natürlich kann diese Hypothese nur in den Momenten ernst genommen werden, in denen Sie selbst nicht leiden.



Angenommen, wir leben in einer Simulation. Was bedeutet das für uns Menschen? Im Gegensatz zu dem, was zuvor gesagt wurde, sind die Folgen für den Menschen nicht besonders drastisch. Unser bester Leitfaden dafür, wie unsere posthumanen Schöpfer unsere Welt arrangiert haben, ist die empirische Standarderkundung des Universums, das wir sehen. Änderungen an einem Großteil unseres Glaubenssystems sind wahrscheinlich klein und sanft - proportional zu unserem mangelnden Vertrauen in unsere Fähigkeit, posthumane Denksysteme zu verstehen.



Ein korrektes Verständnis der Wahrheit der These (3) sollte uns nicht "verrückt" machen oder uns zwingen, unser Geschäft aufzugeben und keine Pläne und Vorhersagen für morgen mehr zu machen. Die derzeitige empirische Hauptbedeutung von (3) liegt offenbar in seiner Rolle in der oben gegebenen dreifachen Schlussfolgerung.



Wir sollten hoffen, dass (3) wahr ist, weil es die Wahrscheinlichkeit von (1) verringert. Wenn jedoch rechnerische Einschränkungen es wahrscheinlich machen, dass Simulatoren die Simulation ausschalten, bevor sie posthumane Niveaus erreicht, dann ist unsere beste Hoffnung, dass (2) wahr ist. ...



Wenn wir mehr über posthumane Motivation und Ressourcenbeschränkungen erfahren, möglicherweise als Ergebnis unserer Entwicklung zur Posthumanität, wird die Hypothese, dass wir simuliert werden, eine viel umfangreichere Reihe empirischer Anwendungen erhalten.

7. Fazit

Eine technologisch ausgereifte posthumane Zivilisation hätte enorme Rechenleistung. Auf dieser Grundlage zeigt die Begründung der Simulation, dass mindestens eine der folgenden Thesen wahr ist:

• (1) , , .
• (2) , , .
• (3) , , .

Wenn (1) wahr ist, werden wir mit ziemlicher Sicherheit sterben, bevor wir die posthumane Ebene erreichen.



Wenn (2) wahr ist, muss es eine streng koordinierte Konvergenz der Entwicklungspfade aller fortgeschrittenen Zivilisationen geben, damit keiner von ihnen relativ wohlhabende Personen hat, die Ahnen-Simulationen durchführen möchten und dazu frei wären.



Wenn (3) wahr ist, dann leben wir mit ziemlicher Sicherheit in einer Simulation. Der dunkle Wald unserer Unwissenheit macht es vernünftig, unser Vertrauen fast gleichmäßig auf die Punkte (1), (2) und (3) zu verteilen.



Wenn wir nicht bereits in einer Simulation leben, werden unsere Nachkommen mit ziemlicher Sicherheit niemals Ahnen-Simulationen durchführen.

Danksagung

Ich bin vielen Menschen für ihre Kommentare dankbar, insbesondere Amara Angelica, Robert Bradbury, Mailand Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr., John Leslie, Mitch Porter, Keith DeRose, Mike Treder, Mark Walker, Eliezer Yudkowsky, und anonyme Schiedsrichter.



Übersetzung: Alexey Turchin





Weitere Werke von Alexey Turchin:

• Eine Nachricht an eine unfreundliche künstliche Intelligenz
• Panne in der Matrix: Urbane Legende oder Beweis der Simulation?
• Simulationstypologie und Beendigungsrisiken

---

Über Ontol

Ontol ist eine Karte, mit der Sie die effektivste Route für die Bildung Ihres Weltbildes auswählen können.



Ontol basiert auf einer Überlagerung subjektiver Bewertungen, die die gelesenen Texte widerspiegeln (idealerweise Millionen / Milliarden von Menschen). Jede Person, die an dem Projekt teilnimmt, entscheidet selbst, was die Top 10/100 der wichtigsten sind, was sie in den letzten 10 Jahren oder sein ganzes Leben über wichtige Aspekte des Lebens (Denken, Gesundheit, Familie, Geld, Vertrauen usw.) gelesen / gesehen hat ... Was kann mit einem Klick geteilt werden (Texte und Videos, keine Bücher, Gespräche und Veranstaltungen).



Das ideale Endergebnis von Ontola ist der 10x-100x schnellere Zugriff (als die vorhandenen Analoga von Wikipedia, Quora, Chats, Kanälen, LJ, Suchmaschinen) auf aussagekräftige Texte und Videos, die das Leben des Lesers beeinflussen („Oh, wie ich wünschte, ich könnte Lies diesen Text schon einmal! Höchstwahrscheinlich wäre das Leben anders verlaufen "). Kostenlos für alle Bewohner des Planeten und in 1 Klick.

• Telegrammkanal: t.me/ontol
• Webdienst-Prototyp: beta.ontol.org
• Auf Habré:
  
  
  
  
  • DeepMind Ontol: Die hilfreichsten KI-Ressourcen der Welt
  • Ontol (= das nützlichste) über Fernarbeit [Auswahl von mehr als 100 Artikeln]
  • Ontol: eine Auswahl von Artikeln über "Burnout" [100+]
  
  
  
• Informationen zu Startups von Y Combinator: www.ycombinator.com/library