Dies ist das Jahrhundert zweier Singularitäten - der wirtschaftlichen Singularität (technologische Arbeitslosigkeit) und der technologischen Singularität (Intelligenzexplosion). Beides birgt enorme Chancen und enorme Herausforderungen. Wenn wir sie erfolgreich verwalten, ist unsere Zukunft als Spezies mehr als wunderbar. Wenn wir versagen, könnte es miserabel sein - und vielleicht kurz.
Der Treiber ist Artifizelle Intelligenz (AI) - die leistungsstärkste Technologie der Menschheit. Software, die Probleme löst und Daten in Erkenntnisse umwandelt, hat unser Leben bereits revolutioniert, und die Revolution beschleunigt sich.
Das Argument dieses Buches ist, dass wir die stattfindenden Veränderungen überwachen und Richtlinien verabschieden sollten, die die bestmöglichen Ergebnisse fördern. Die Bandbreite der möglichen Ergebnisse ist groß, vom Schrecklichen bis zum Wunderbaren, und sie sind nicht vorherbestimmt. Sie werden zum Teil durch Glück, zum Teil durch ihre eigene interne Logik, zum Teil aber auch durch die Politik auf allen Ebenen der Gesellschaft ausgewählt.
Automatisierung und Superintelligenz sind die beiden Entwicklungen, von denen wir bereits sehen, dass sie wahrscheinlich enorme Auswirkungen haben werden. Automatisierung könnte zu einer wirtschaftlichen Singularität und der Entwicklung einer völlig anderen Art von Wirtschaft führen. Wenn wir das falsch verstehen, könnte eine Elite die Produktionsmittel besitzen und den Rest von uns in einem dystopischen technologischen autoritären Regime unterdrücken. Wenn wir es richtig machen, könnten wir eine Wirtschaft des radikalen Überflusses genießen, in der niemand arbeiten muss, um seinen Lebensunterhalt zu verdienen, und wir alle frei sind, Spaß zu haben, unseren Geist zu dehnen und unsere Fähigkeiten voll zu entfalten.
Die Ankunft der Superintelligenz wird, falls und wenn sie eintritt, eine technologische Singularität darstellen, die das bedeutendste Ereignis in der Geschichte der Menschheit sein wird, ohne Ausnahme. Herauszufinden, wie man es überlebt, ist die wichtigste Herausforderung für die Menschheit in dieser und der nächsten Generation. Wenn wir die Fallstricke vermeiden, wird es das Leben auf eine Weise verbessern, die buchstäblich jenseits unserer Vorstellungskraft liegt. Eine Superintelligenz, die ihre eigene Architektur rekursiv verbessert und ihre Fähigkeiten erweitert, könnte sehr plausibel fast jedes denkbare menschliche Problem lösen. Der Tod könnte optional werden und wir könnten ein Leben voller ständiger Glückseligkeit und Aufregung genießen. Wenn wir es falsch verstehen, könnte es zum Aussterben führen. Wegen der Ungeheuerlichkeit dieses Risikos befasst sich der Großteil dieses Buches mit Superintelligenz: der Wahrscheinlichkeit, dass sie eintrifft und von Nutzen ist.
