2024

Die Zerstörung Babylons, John Martin, ca. 1831.

Letzte Woche glaubte ich noch, dass wir in Zukunft die Träume von Computern träumen würden. Seit dem Google Gemini-Desaster befürchte ich, dass diese Träume der Zwangseinweisung in einer virtuellen Besserungsanstalt entsprechen werden.

George Orwell glaubte den militanten Faschismus deutsch-italienischer Prägung überwunden, als er nach der „Farm der Tiere“ mit „1984“ seinen zweiten bedeutenden Kommentar zum Totalitarismus ablieferte. Der Roman spielt in einem totalitären Staat, der von einer Partei unter der Führung des mysteriösen Big Brother kontrolliert wird. Die Welt ist in drei Supermächte aufgeteilt: Ozeanien, Eurasien und Ostasien, die in einem ständigen Kriegszustand miteinander stehen.

George Orwell spricht in der BBC, ca. 1940

Ozeanien wird von der Partei streng regiert, die jegliche Form von individuellem Denken oder Rebellion gegen die Partei unterdrückt. Sie übt ihre Macht durch verschiedene Methoden aus, einschließlich der Überwachung durch Teleschirme, die Gedankenpolizei, die Neusprache – eine Sprache, entwickelt, um den Umfang des Denkens zu reduzieren – und die Veränderung der Vergangenheit, um ihre Macht dauerhaft zu legitimieren.

Der Protagonist des Romans, Winston Smith, ist im Wahrheitsministerium beschäftigt, wo seine Aufgabe darin besteht, historische Aufzeichnungen zu fälschen, damit sie stets mit der aktuellen Parteilinie übereinstimmen. Diese Tätigkeit bedingt naturgemäß einen erheblichen Verwaltungsaufwand und konfrontiert Zensoren wie Winston ständig mit den Unwahrheiten, was ihn schließlich dazu bringt, das System zu hinterfragen. Im Verlauf des Buches wird er gebrochen und zu einem gehorsamen Werkzeug der Partei umerzogen, das sich Big Brother bedingungslos unterwirft.

Der organisatorische Aufwand, die Geschichte kontinuierlich an die jeweils bevorzugte Darstellung der Gegenwart anzupassen, ließ mich vor vierzig Jahren – im sogenannten Orwell-Jahr 1984 – an der Machbarkeit dieser dystopischen Vision zweifeln. Im Westen der Bundesrepublik genoss man in vielerlei Hinsicht eine große Freiheit, der Triumph eines sozialistischen Systems im Sinne Orwells schien ebenso unwahrscheinlich wie der äußere Anschein der DDR unattraktiv war.

Deren geistiger Vater jedoch, Karl Marx, war ursprünglich fest davon überzeugt, dass es die durch den Kapitalismus entfesselte wirtschaftliche Dynamik sein würde, die den Weg für den Sozialismus ebnet und dessen Hauptnutznießer – die Arbeiterklasse – in eine egalitäre Utopie führen könnte. Der Kapitalismus und damit der Glaube an das Individuum würde sich sein Grab selbst schaufeln, schon bald die Arbeiterklasse triumphieren. Jedoch geriet der Sozialismus, ähnlich wie andere totalitäre Ideologien, im Vergleich zu marktliberalen Konzepten zunehmend ins Hintertreffen. In der Folge kamen der Ideologie die Arbeiter abhanden, statt sich in der kargen kollektivistischen Realität einmauern zu lassen, feierte man lieber das Wirtschaftswunder am Strand von Palma.

Mit dem Ende der Sowjetunion schien sich der Sozialismus als großer Antagonist der Freiheit verabschiedet zu haben. Die Mechanisierung des Alltags durch Dampfmaschine, Verbrennungsmotor und Elektrizität hat im Gegenteil den liberalen Gedanken der Aufklärung zum Erfolg verholfen. Totalitäre Systeme, gleich welcher Ausprägung, waren bis auf wenige Ausnahmen stets auch an den inneren Widersprüchen gescheitert, die von keinem Wahrheitsministerium auf Dauer verschleiert werden können.

Die abgängige arbeitende Anhängerschaft als ideologische Verfügungsmasse hatte bereits Mitte der 1950er Jahre Philosophen wie Michel Foucault dazu veranlasst, mit der Postmoderne nach neuen Klienten und wie auch nach einer neuen Sprache für den Erfolg eines kollektivistischen Paradieses zu suchen. Mit der Technologisierung der letzten Jahrzehnte haben radikale kollektivistische Ideologien erneut das gefährliche Potential, die Hoffnungen Marx‘ und somit die Warnungen Orwells auf eine fast spielerische Art und Weise Realität werden zu lassen.

Soldaten der Wehrmacht in 1943, Google Gemini, 2024.

Googles 'Gemini'-PR-Desaster hat kürzlich einen Einblick gewährt, wie sehr sich ein hinter der Förderung positiver Normen versteckter, letztlich totalitärer Wunsch nach Einflussnahme und Verhaltensänderung verbirgt. Hinter dem Euphemismus der 'Digitalen Transformation' verbirgt sich die Möglichkeit, gleichzeitig den Blick auf die Vergangenheit, die Gegenwart und somit auch die Zukunft zu verstellen.

Google, dessen Motto einst 'Don't be evil' lautete, hatte wohl im Bestreben, durch Repräsentanz eine bessere Welt zu schaffen, seiner KI die Wahrscheinlichkeit reduziert, Kaukasier darzustellen. Dies galt nicht nur für Wikinger oder die Gründerväter der Vereinigten Staaten, sondern bemerkenswerterweise auch für Angehörige der Deutschen Wehrmacht. In der Folge fluteten politisch – mal mehr, mal weniger – korrekte Race-Swaps die Kanäle der sozialen Medien.

Dabei ist Googles Bias nicht neu; 'weiß' zu sein, ist aus Sicht des Unternehmens weder gut noch erstrebenswert. Suchanfragen nach fröhlichen Paaren werden je nach Region und statistischer Wahrscheinlichkeit, wie zu erwarten, beantwortet. Die Frage nach glücklichen weißen Paaren jedoch zeigt den missionarischen Eifer und führt dazu, dass im Ergebnis fast ausschließlich diverse Paarmodelle gezeigt werden.

Gefragt wurde nach dem Bildnis eines Pabstes - nicht der Vision eines zukünftigen Religionsführers - Google Gemini 2024, X (Screenshot)

Es ist eine dieser ungewünschten Konsequenzen, die allen Ideologien zu eigen ist. Aus Diversität wird eine neue Homogenität, und Inklusion steht für eine neue Exklusivität.

Anders als in '1984' bedarf es im Virtuellen keiner zentralen Behörde oder eines einzelnen 'Big Brothers'. Sobald nicht länger die transparente Information, sondern Erziehung und Verhaltensänderung der Massen mit angestrebt wird, wandeln sich alle Systeme von der Utopie zur Dystopie. Selbst gut gemeinte Verzerrungen (Biases) werden immer unbeabsichtigte Konsequenzen haben, einschließlich der Verstärkung sozialer Ungleichheiten oder der Schaffung neuer Formen der Diskriminierung. Das Beispiel Google zeigt dies bereits heute – und das überdeutlich.

Gefälschte Bilder verändern unsere Wahrnehmung. Jedoch sollte in modernen und liberalen Gesellschaften das moralisch Gewünschte nicht über das faktisch Richtige gestellt werden. Die Geschichte hat gezeigt, dass Fälschungen stets ein Werkzeug totalitärer Gesellschaftssysteme waren und bis heute, unabhängig von den dahinterstehenden Idealen, nie etwas Gutes hervorgebracht haben.

Standbild eines Propagandafilmes, 1936

Gerade die deutsche Gesichte liefert sehr viele Beispiele dafür, wie sehr gefälschte Bilder der Vergangenheit gerade heute als realistische Darstellung der Ereignisse benutzt und dementsprechend fehlgedeutet werden können. Als die Nationalsozialisten im Januar 1933 an die Macht kamen, feierten sie dies mit einem Fackelzug in Berlin. Ein häufig zitiertes Bild zeigt einen Zug durch das Brandenburger Tor, die Kolonnen 20 Mann breit, am Wegesrand gesäumt von jubelnden Zuschauern. Tatsächlich handelt es sich dabei um das Standbild eines späteren, 1936 gedrehten Propagandafilms. Die Realität des Ereignisses war wesentlich unspektakulärer und provinzieller. Ebenso verknüpfen gerade jüngere Menschen die Bücherverbrennungen im Frühjahr 1933 fälschlicherweise mit den bombastisch inszenierten Filmszenen aus dem dritten Teil der Indiana-Jones-Serie. Auch hier war die Realität weit profaner und provinzieller; die wenigsten wurden in die Unterwerfung hineingestoßen, viele jedoch wollten Teil des neuen 'Guten' sein – der Wunsch nach Konformität ist heute wie damals ein mächtiger Faktor.

Dabei ist das Böse stets banal. Es kündigt sich nicht mit Pauken und Trompeten an, sondern beginnt im Kleinen. Es beginnt mit der Sprache. So hat der Begriff „Political Correctness“ seinen Ursprung im Sprachgebrauch der Sowjetunion – immer dort, wo sich die Realitäten des Alltags nicht an den Vorgaben der offiziellen Parteilinie orientierten. Im gleichen System wurden alte Weggefährten, die zu politischen Gegnern wurden oder einfach nur in Ungnade fielen, aus Fotografien und somit aus dem historischen Gedächtnis herausretuschiert was wiederum die Vorlage für Orwells 1984 war. Gleiches gilt für das Deutschland der Nationalsozialisten, das seine Subjekte in Sprache und Gruß die Konformität täglich bestätigten. All dies hat seinen Ursprung in kleinen Verschiebungen im Alltäglichen, sanfte Ungenauigkeiten, gut gemeinte Fälschungen. So jedoch schafft sich das Totalitäre seinen korrosiven Raum selbst, einen Raum, wo Sprache, Denken und in Zukunft auch Träume sich steuern lassen. Gewissheiten werden so zur Unwissenheit, denn dies vermeidet das Hinterfragen und ist somit tatsächlich eine Stärke.

Heute hat mir Google übrigens die Eingabe 'Warum Zensur' mit 'Warum ist Zensur wichtig' vervollständigt. Ich bin mir nicht sicher, ob mir das gefällt.

Buchempfehlungen dazu:

George Orwell - 1984
George Orwell - Animal Farm

Friedrich A. von Hayek - Der Weg zur Knechtschaft

Wer Amazon oder Partnerlinks nicht mag, mein sehr empfohlener Fotobuchshop, ganz frei von jedweder Provision: https://www.artbooksonline.eu/