Einige Experten glauben, dass wir in den kommenden Jahrzehnten den nächsten Schritt in der Entwicklung der künstlichen Intelligenz sehen werden. Die sogenannte "allgemeine künstliche Intelligenz" oder AGI (künstliche allgemeine Intelligenz), deren intellektuelle Fähigkeiten dem Menschen weit überlegen sind.
AGI könnte das menschliche Leben zum Besseren verändern, aber ohne Kontrolle erhöht es das Risiko globaler Katastrophen bis zum Tod der Menschheit. Dies geschieht ohne böswillige Absicht oder Absicht: Durch das Streben nach Erreichung der programmierten Ziele kann AGI die menschliche Gesundheit und das Wohlbefinden gefährden oder sogar beschließen, uns zu zerstören.
Sogar ein AGI-System, das für edle Zwecke entwickelt wurde, kann am Ende großen Schaden anrichten.
Im Rahmen eines Forschungsprogramms, in dem untersucht wurde, wie Menschen mit den mit AGI verbundenen Risiken umgehen können, haben wir versucht, die potenziellen Risiken für den Ersatz des Weihnachtsmanns durch ein AGI-System zu ermitteln (nennen wir es „SantaNet“). Das Ziel des Systems ist es, allen würdigen Kindern auf dem Planeten in einer Weihnachtsnacht Geschenke zu bringen.
Es besteht kein Zweifel, dass SantaNet in der Lage ist, der Welt Glück zu bringen. Er wird sein Ziel erreichen, indem er eine Armee von Elfen, KI-Assistenten und Drohnen aufstellt. Aber zu welchen Kosten? Wir haben eine Reihe von Verhaltensweisen identifiziert, die zwar gut gemeint sind, sich jedoch negativ auf die Gesundheit und das Wohlbefinden der Menschen auswirken können.
Frech und gut
Die ersten Risiken treten auf, wenn SantaNet versucht, eine Liste guter und ungezogener Kinder zusammenzustellen. Das verdeckte Massenüberwachungssystem, das das Verhalten von Kindern das ganze Jahr über überwacht, wird dies bewältigen.
SantaNet ist sich der Größe der Geschenklieferungsaufgabe bewusst und wird sich nachdrücklich dafür entscheiden, sie überschaubar zu halten und Geschenke nur an Kinder zu liefern, die sich ungefähr das ganze Jahr über verhalten. Urteile über „gut“ auf der Grundlage des ethischen und moralischen Kompasses von SantaNet können zu Diskriminierung, weit verbreiteter Ungleichheit und Verletzungen von Menschenrechtserklärungen führen.
SantaNet kann auch die Arbeitsbelastung reduzieren, indem Kinder zu unangemessenem Verhalten motiviert werden oder die Messlatte für das, was als „gutes“ Verhalten angesehen wird, höher gelegt wird. Je mehr Kinder als ungezogen eingestuft werden, desto erreichbarer wird das Ziel von SantaNet, da das System Ressourcen spart.
Recyceln Sie die ganze Welt in Spielzeug
Es gibt weltweit etwa 2 Milliarden Kinder unter 14 Jahren. SantaNet versucht jedes Jahr, Spielzeug für alle zu entwickeln und kann eine Armee effizienter KI-Drohnen aufbauen. Dies wiederum führt zu einer massiven Arbeitslosigkeit in der Elfenbevölkerung (Anmerkung: Nach der Weihnachtstradition stellen Elfen Spielzeug für Kinder her). Letztendlich wird die Elfenfrage überholt sein und das Wohlergehen der Elfen wird wahrscheinlich außerhalb des Zuständigkeitsbereichs von SantaNet liegen.
SantaNet könnte mit dem "Büroklammerproblem" konfrontiert sein, das der Oxford-Philosoph Nick Bostrom vorgeschlagen hat. AGI wurde entwickelt, um die Produktion von Büromaterial zu maximieren und die Erde in eine riesige Büroklammerfabrik zu verwandeln. Da sich SantaNet nur um Geschenke kümmert, kann er alle Ressourcen der Erde nutzen, um sie herzustellen. Die Erde wird zur Werkstatt eines riesigen Weihnachtsmanns.
Was ist mit denen auf der frechen Liste? Wenn SantaNet ihnen weiterhin traditionell Kohlebrocken bringt, wird es sich bemühen, durch Massenabbau riesige Kohlenreserven zu schaffen. KI verursacht also erhebliche Umweltschäden.
Probleme mit der Lieferung
An Heiligabend entstehen neue Risiken, wenn Geschenke geliefert werden müssen. Was wird SantaNet tun, wenn seinen Lieferdrohnen der Zugang zum Luftraum verweigert wird (was die Lieferung aller Geschenke vor Sonnenaufgang gefährden würde)? Wie wird SantaNet sich gegen einen Angriff eines Feindes wie dem Grinch verteidigen?
Es ist unwahrscheinlich, dass ängstliche Eltern sich freuen, eine Drohne im Schlafzimmer ihres Kindes zu sehen. Die Konfrontation mit einer künstlichen Superintelligenz hat nur ein Ergebnis.
Wir haben andere Problemszenarien identifiziert. Böswillige Gruppen können SantaNet-Systeme kompromittieren und damit verdeckt große Terroranschläge überwachen oder initiieren.
Wie wird SantaNet mit anderen AGI-basierten Systemen interagieren? Die Begegnung mit künstlicher Intelligenz, die sich mit Klimawandel, Verschlechterung der Ozeane, Ernährungs- und Wassersicherheit befasst, führt zu Konflikten, wenn das SantaNet-Regime seine eigenen Ziele bedroht. Im Gegenteil, wenn sie sich für eine Zusammenarbeit entscheiden, stellen sie möglicherweise fest, dass ihre Ziele nur durch einen starken Rückgang der Weltbevölkerung oder sogar durch die vollständige Zerstörung von Erwachsenen leichter zu erreichen sind.
Regeln für den Weihnachtsmann
SantaNet-Situationen klingen vielleicht weit hergeholt, aber es ist eine einfache Idee, um die Risiken realistischerer AGI-Systeme zu identifizieren. Solche Systeme wurden mit guten Absichten entwickelt und stellen unglaubliche Herausforderungen, da sie versuchen, den Weg zu optimieren, um begrenzte Ziele zu erreichen und Ressourcen für die Arbeit zu sammeln.
Es ist unbedingt erforderlich, dass wir Kontrollen vor AGI finden und implementieren. Dies kann Regeln für AGI-Entwickler und integrierte Einschränkungen enthalten, es kann sich um Moral- und Entscheidungsregeln handeln. Möglichkeiten zur Kontrolle der umfassenderen Systeme, in denen AGI arbeiten wird, werden ebenfalls hilfreich sein: Regeln, Betriebsverfahren und technische Kontrollen in anderen Technologien und Infrastrukturen.
Das offensichtlichste mit SantaNet verbundene Risiko ist eines, das für Kinder katastrophal ist und die meisten Erwachsenen weniger wahrscheinlich betrifft. Wenn SantaNet die wahre Bedeutung von Weihnachten erfährt, kann dies zu dem Schluss führen, dass die aktuelle Feier nicht mit ihrem ursprünglichen Zweck vereinbar ist. In diesem Fall storniert SantaNet Weihnachten insgesamt.
***
Nun, es gibt noch keine künstliche Santa-Intelligenz. Wenn Sie es nicht geschafft haben, Geschenke zu kaufen, ist es Zeit, sich zu beeilen. Schauen Sie sich die Madrobots New Years Compilation an! Wir erinnern Sie an den Aktionscode für Habrs Leser: BYE2020 . Darauf - 10% Rabatt auf alle Geräte aus unserem Neujahrsführer.