«Algorithmen verbreiten Hass, Angst und Gier»

Das zentrale Paradox des Buchs lautet: Wenn die Menschen so klug sind, warum sind sie dann so dumm? «Wir haben unsere Spezies Homo sapiens genannt, was ‘weise Menschen’ bedeutet. Wir wissen mehr als jedes andere Tier auf dem Planeten», sagt Harari. «Und dennoch sind wir drauf und dran, uns selbst und einen Grossteil des Ökosystems zu zerstören.» Das Problem liege nicht in der menschlichen Natur, sondern in den Informationen, die wir konsumieren: «Wenn man guten Menschen schlechte Informationen gibt, treffen sie schlechte Entscheidungen.»

Harari kritisiert die naive Vorstellung, vor allem im Silicon Valley verbreitet, dass mehr Information automatisch zu mehr Wissen und Weisheit führe. «Das stimmt einfach nicht, denn die meisten Informationen sind Müll.» Die Wahrheit sei eine sehr seltene und teure Art von Information. «Die Grundfunktion von Information besteht in den meisten Fällen nicht darin, die Wahrheit aufzudecken», sagt er. Vielmehr gehe es darum, grosse Menschenmengen zu vernetzen – und das gelinge am einfachsten mit Fiktionen, Fantasien und Massen-Wahnvorstellungen.

Harari fordert zwei konkrete Schritte: Erstens müsse man «Fake-Menschen» verbieten, also Algorithmen, die sich als Menschen ausgeben und so die Informationssysteme verzerren. Zweitens sollten Unternehmen für die Aktionen ihrer Algorithmen haftbar gemacht werden. Twitter, Facebook, TikTok und Co. würden gezielt Hass, Angst und Gier verbreiten, weil dies gut fürs Geschäft sei. Sie sollten für die Entscheidungen ihrer Algorithmen zur Rechenschaft gezogen werden.

Als warnendes Beispiel führt Harari die Erfindung des Buchdrucks durch Gutenberg vor 500 Jahren an, die oft als Auslöser für die wissenschaftliche Revolution verklärt werde. «Das ist eine sehr ungenaue und irreführende Sicht auf die Geschichte», sagt er. Es seien fast 200 Jahre vergangen, bis die wissenschaftliche Revolution aufblühte. In dieser Zeit habe der Buchdruck vor allem zu einer Welle von Religionskriegen und Hexenjagden geführt: «Wenn man die Produktion von Informationen erleichtert, erhält man nicht unbedingt Fakten. Man bekommt eine Menge Müll-Information, Fake News und Verschwörungstheorien.»

Laut Harari werden die Entscheidungen, die wir in den nächsten Jahren treffen, darüber bestimmen, ob die Beschwörung dieser «fremden Intelligenz» – gemeint ist KI – sich als «terminaler Fehler» erweist oder den Beginn eines hoffnungsvollen neuen Kapitels in der Evolution des Lebens markiert. Jeder müsse sich daran beteiligen: durch die Wahl der richtigen Politiker, die die Tech-Giganten in die Schranken weisen, und durch die täglichen Entscheidungen, die wir alle treffen. Harari warnt vor der Falle des technologischen Determinismus – der Vorstellung, dass eine einmal entwickelte Technologie nur einen Weg gehen könne. «Das ist nie der Fall. Jede Technologie kann auf viele verschiedene Arten genutzt werden.»