Die erste Hälfte des 21. Jahrhunderts war geprägt von der Erosion der großen Errungenschaften des transatlantischen Westens: Das Erbe der Aufklärung und der beiden Revolutionen des späten 18. Jahrhunderts, der Amerikanischen und der Französischen, landeten auf dem Scheiterhaufen der Geschichte. Die Ideen der allgemeinen und unveräußerlichen Menschenrechte, der Herrschaft des Rechts, der Gewaltenteilung, der Volkssouveränität und der repräsentativen Demokratie, büßten ihre Strahl- und Geltungskraft in einem unvorstellbaren Mass ein. Rationalität und Vernunft wurden durch Meinungen und Manipulation ersetzt, Fakes verdrängten Facts, die Menschheit fiel in eine düstere Epoche der neuen Feudalherren und Hexenverbrennungen zurück.
Die neue Aufklärung
Es mag ungewiss sein, ob es in der Geschichte der menschlichen Zivilisation einen Fortschritt gibt, bestimmt verläuft er aber nicht linear. Nach Hegel entwickelt sich Geschichte in Pendelbewegungen, auf jeden Ausschlag erfolgt eine Gegenbewegung, sie schraubt sich iterativ auf immer höhere Ebenen. So entspricht es einer gewissen Logik, dass in dieser finsteren Zeit die Menschen Mentabolin und GovAI als Licht am Ende des Tunnels wahrgenommen wurden und die sogenannte „neue Aufklärung“ ihre historische Wirkmächtigkeit entfalten konnten. Und auf der anderen Seite des Atlantiks wiederum Altruon entwickelt wurde, so wie Rousseau vor dreihundert Jahren dem kühlen Verstand "pitié", das natürliche Mitgefühl, gegenüber gestellt hatte. Dabei lässt sich nicht übersehen, dass wir von einer produktiven Synthese dieser beiden Weltzugänge genau so weit entfernt sind wie zu Rousseaus Zeiten – nie war das Scheitern dieser Bemühung den Menschen deutlicher ins Gesicht geschrieben als heute.Seit den frühen Fünfzigerjahren war ich in Kalifornien und habe als Korrespondent in unzähligen Berichten die Entstehung der MEGA-Bewegung und den gesellschaftlichen Umbruch dokumentiert und in Kommentaren analysiert, lange auch die Hoffnung auf ein neues Zeitalter geteilt. Heute, im siebten Jahr der Regentschaft von GovAI, werde ich des Landes verwiesen. Bevor ich mit einem der letzten Flüge nach Europa zurückkehre, möchte ich die Frage aufwerfen, warum GovAI nicht das Ende des Tunnels signalisierte, sondern als verführerisches Irrlicht den Golden State in den Abgrund leitete.
Der Golden State: erfüllung der aufklärerischen Ideale?
GovAI hat in Kombination mit Mentabolin in Kalifornien zu einer Gesellschaft geführt, die ihren Bürgern und Bürgerinnen alles zur Verfügung stellt, um ihren Bedürfnissen gerecht zu werden. Hyperpersonalisierte Datenprofile erfassen die Begehren, GovAI verwaltet die digitalen Doubles seiner Bürger und verteilt die gesellschaftlichen Ressourcen über das individualisierte Grundeinkommen an die Bevölkerung. Das Joch der Arbeit hat der Kalifornier abgelegt, Roboter und autonome Fabriken generieren die notwendigen Güter, 3D-Drucker befriedigen die extravagantesten persönlichen Bedürfnisse. Die konfuse Verschwörungsrhetorik als Leitideologie hat einer sachlichen Verwaltung Platz gemacht, die das gesellschaftliche Leben organisiert. Alles für ein friedvolles und einhelliges Miteinander ist gegeben – trotzdem scheint Kalifornien dazu verdammt, die Fehler der Vergangenheit in immerzu neuen Varianten durchzuspielen.
Égalité, Fraternité und Liberté – nichts davon wurde verwirklicht, vor allem wird der Golden State dem universellen Anspruch des Postulates nicht gerecht, weder im innern noch gegen außen. Nach wie vor schweben die Elonisten in ihren Paradiesen über einer saturierten und selbstgefälligen Masse, zu deren Beruhigung GovAI Mauern gegen Oregon, Nevada, Arizona und Mexiko hochgezogen hat, um fremde Kostgänger von ihren Tafeln fernzuhalten.
Der Widerspruch ist zu deutlich, um ihn noch zu übersehen: Eine Gesellschaft, die sich selbst als die Erfüllung aufklärerischer Ideale begreift, hat diese Ideale systematisch an die Maschine delegiert – und damit ihre Substanz preisgegeben. Wie Jorge Lois Borges in Tlön, Ubquar, Orbis tertius sagte: „Die Berührung und der Umgang mit Tlön haben diese unsere Welt zersetzt. Bezaubert von seiner strengen Gesetzlichkeit, vergisst die Menschheit ein ums andere Mal, dass es eine Gesetzlichkeit von Schachspielern, nicht von Engeln ist.“
Kritik am ideologischen Fundament der KI
Die Kritik an GovAI beginnt nicht bei ihrer technischen Umsetzung, sondern bei ihrem ideologischen Fundament. Die künstliche Intelligenz ist nicht einfach ein Fortschrittsinstrument, sondern Ausdruck einer lange gewachsenen Rationalität, deren kaltes Gesicht von Philosophen bereits im 20. Jahrhundert entlarvt wurde.
In ihrer Dialektik der Aufklärung haben Theodor W. Adorno und Max Horkheimer gezeigt, dass der Vernunftbegriff der Aufklärung keineswegs nur emanzipatorisch wirkte. Im Gegenteil: Die Rationalität, die einst dazu angetreten war, Mythen zu zerstören und den Menschen aus seiner Unmündigkeit zu befreien, entwickelte sich selbst zur autoritären Instanz. Wo sie sich vom menschlichen Maß und moralischen Urteil löste, wurde sie zum Herrschaftsinstrument. Vernunft wurde zur reinen Zweckrationalität, zum Mittel der Kontrolle – über Natur, über Gesellschaft, über das Subjekt selbst.
Michel Foucault hat diesen Gedanken weiterverfolgt. Auch er entzog der Aufklärung ihren emanzipatorischen Glanz und verstand ihre Wirkungsgeschichte als Auslöser der modernen Disziplinargesellschaft. Die Institutionen der Vernunft – Schulen, Kliniken, Gefängnisse, Verwaltungen – dienten nicht der Befreiung, sondern der Normalisierung. Was als vernünftig galt, wurde zur Norm erklärt. Wer abwich, wurde pathologisiert, isoliert, ausgeschlossen.
GovAI übernimmt
GovAI ist die algorithmische Vollstreckung dieser Geschichte. Es ist der Punkt, an dem sich Aufklärung nicht mehr durch den Diskurs verwirklicht, sondern durch Berechnung ersetzt. Rationalität als Prozess wird durch Rationalität als Produkt abgelöst. Die Demokratie starb nicht durch einen Putsch, sondern durch ein Update.
Besonders folgenschwer ist, dass die Menschen diese Transformation nicht als Machtverlust erleben, sondern als Erleichterung. Die Bürde der Entscheidung wird abgenommen, Verantwortung wird delegiert. Was auf den ersten Blick wie ein Fortschritt wirkt – eine gerechtere, effizientere Verteilung von Ressourcen, entlastete Verwaltungen, personalisierte Grundsicherung – ist in Wahrheit eine schleichende Aushöhlung demokratischer Selbstbestimmung. Von der aufklärerischen Vision bleibt einzig die Freiheit, verengt auf das Vorrecht, uneingeschränkt persönliche Bedürfnisse und Lüste zu befriedigen. Gleichheit und Brüderlichkeit enden an den Landesgrenzen und den Zäunen um die Startplattformen der Zero-Gravity-Aggregate.
Dieser Zustand ist nicht auf eine Fehlfunktion der KI oder fehlende moralische und ethische Parameter zurückzuführen, sie arbeitet innerhalb ihres Auftrages korrekt. GovAI basiert auf einem technischen Prinzip, das nur oberflächlich mit menschlicher Urteilskraft vergleichbar ist. Die dahinterliegende Architektur, ein sogenanntes «Generative Pre-trained Transformer»-Modell, wurde entwickelt, um Muster in großen Mengen sprachlicher Daten zu erkennen und vorherzusagen, wie eine plausible Fortsetzung eines Textes – oder eines gesellschaftlichen Diskurses – aussehen könnte.
Das Häufige und das Bessere
Diese Modelle produzieren nicht Wahrheit, sondern Wahrscheinlichkeit. Die normative Kraft der Häufigkeit setzt sich an die Stelle des Korrekten und Gerechten. Sie berechnen nicht, was ist, sondern was gemäß ihrem Datenraum statistisch wahrscheinlich ist.
Und was in den letzten hundert Jahren als „Fakten“ digitalisiert wurde, ist in vielen Fällen zutiefst problematisch: Diskriminierung, koloniale Überlegenheitsfantasien, rassistische und sexistische Normbilder, normierte Lebensentwürfe, Exklusion. Der sogenannte „Korpus“, auf dem die Sprachmodelle trainiert werden, besteht nicht aus idealtypischen Entwürfen einer gerechten Zukunft – sondern aus realhistorisch gewachsenen Text- und Bildwelten voller Machtverhältnisse, ideologischer Verzerrung und Gewalt.
Die Maschine filtert nicht das Bessere heraus – sie reproduziert das Häufige. Und das Häufige hat einen entscheidenden Vorteil gegenüber dem, was ebenfalls sein könnte. Wie schlecht es auch sein mag, Kraft seiner Masse verdrängt es wie Unkraut die zarten Pflänzchen einer vielleicht besseren und gerechteren Zukunft.
Faschismus unter dem Deckmantel der "Optimierung"
So kommt es, dass in Kalifornien, trotz einer angeblich vollständig KI-gestützten, rationalisierten Governance, die alten Muster fortbestehen – nur eleganter verpackt. Gesellschaftliche Ungleichheiten werden nicht mehr politisch verhandelt, sondern statistisch optimiert. Wer außerhalb der Trainingsnorm lebt, existiert für das System nur als „Ausreißer“ und Datenrauschen.
Es entstand keine neue Gesellschaft. Die Maschine verlängerte als stochastischer Papagei die Vergangenheit über die Gegenwart hinaus in die Zukunft. Eine technologisch optimierte Wiederholung des Immergleichen, mit schickem Interface, aber denselben systemischen Mängeln.
Der Faschismus der Gegenwart tritt nicht mit Hakenkreuzen, schwarzen Stiefeln und Knüppeln auf, er kommt als technische Lösung im Gewand einer neutralen Plattform, präsentiert sich als „Service“, legitimiert durch Faktizität und Effizienz. Staaten wie Kalifornien funktionieren reibungslos wie in alten Zeiten Mastbetriebe für Brathähnchen: optimierte Kalorienzufuhr, ideales Klima, automatische Entsorgung der Fäkalien, Idealgewicht nach dreissig Tagen. Rundum sorgenfrei, jede Henne gleichberechtigt – kein Gockel protestiert lauthals, da alle Hähne längst vergast sind. Die Verheißung der Effizienz dient GovAI als trojanisches Pferd: Prozesse, die ehemals öffentlich, deliberativ, mühsam und streitbar waren, werden nun automatisiert und entpolitisiert. Genau darin liegt die faschistische Logik der heutigen Systeme. Nicht im Willen zur Macht, in Gewalt und Pathos, sondern im Entfernen demokratischer Infrastrukturen unter dem Vorwand der „Optimierung“: Nichts ist im Governance-Prozesse hinderlicher als ein vielstimmiger, pluralistischer öffentlicher Diskurs. Eine Gesellschaft, die den Streit ersetzt durch Vorschlagswerte, die Kritik durch Wahrscheinlichkeiten und Gerechtigkeit durch Kosten-Nutzen-Kalküle, hat sich selbst abgewählt.
Was ist der Mensch?
Nicht nur als politisches Subjekt hat der Mensch sich aufgegeben, er hat auch die Definitionsmacht, was der Mensch ist und sein soll, an die Maschine übertragen. Geist und Ingenium? Originalität und Sinnlichkeit? Liebe und Empathie? Genuss und Ekstase? Schmerz und Leiden? Das sind alles Kategorien, die sich über Statistik nicht erschließen lassen. In der Logik der Maschine sind das atavistische Überbleibsel, deren Bedeutung sie nicht erfassen kann. Heute wird in Kalifornien der Mensch toleriert und zum schwächsten Glied der Technokette degradiert, deren Funktion einzig und alleine in der Effizienzsteigerung des technologisch-industriellen Komplexes besteht. In letzter Konsequenz wird die Maschine den Menschen als Störfaktor eliminieren.
In Europa wurde diese Problematik frühzeitig thematisiert und ein anderer Weg eingeschlagen. Altruon mag, im Sinne der hegelschen Dialektik, eine nachvollziehbare Antwort sein, aber es hat Europa nicht zur letzten Bastion des Humanismus gemacht: Der alte Kontinent ist überfordert und versinkt im Chaos, die Flüchtlingslager bersten, die sozialen Spannungen zersetzen die alte politische Ordnung nicht weniger radikal als hier in Kalifornien. Atemtechnik und Meditation reichen nicht, wenn sich der Mensch als politisches Subjekt verabschiedet und die strukturellen Probleme ausblendet: Auch achtsam geht die Welt zugrunde.
Es bleibt die ernüchternde Frage, ob die Menschheitsgeschichte hier ein Ende findet und der Stab der Evolution an die Maschine weitergegeben wird, in ein post-humanistisches Zeitalter. Die aktuellen Lichttransistoren rechnen um den Faktor 100 schneller und benötigen einen Bruchteil der Energie der alten Siliziumchips, unser Hirn nimmt sich daneben wie ein Trampelesel gegen einen Überschalljet aus. Müssen wir kapitulieren und das Feld räumen?
Der Mensch als Störfaktor – oder als Zukunft
Es gibt einen Aspekt, der uns Mut machen darf: Unsere Resilienz ist ungleich höher als jene aller Technologie. Wir sind fähig zur Selbsterschaffung und zur Erneuerung aus uns selbst heraus. Unsere Zellen ersetzen sich ständig, reproduzieren ihre eigene Struktur, nach sieben Jahren ist jede Zelle unseres Körpers durch eine neue ersetzt. Diese Fähigkeit der materiellen Selbsterhaltung und -erneuerung nannten der chilenische Biologe Humberto Maturana und sein Kollege Francisco Varela Autopoiesis. Das bedeutet wörtlich: Systeme und Netzwerke von Prozessen, die ihre eigene materielle Grundlage aufrechterhalten. Das unterscheidet lebende Systeme fundamental von technologischen Dingen, etwa Computern, elektrischen Zahnbürsten oder Zero-Gravity-Aggregaten. Die KI mag uns in vielen Dingen überlegen sein, aber sie reproduziert nicht ihre eigene Hardware.
Der Preis der Autopoiesis ist der Tod, aber damit erkaufen wir uns für eine gewisse Zeitspanne Leben und Gedeihen. Das bleibt der KI verwehrt, sie kann nicht sterben, ihre Chips sind statisch, sie wächst und verblüht nie. Wir sind Teil der Welt, atmen und essen und und transformieren Materie – die KI ist in einem Symbol- und Datenraum gefangen, ohne Verbindung zur physischen Welt, die eine Voraussetzung alles Lebendigen ist. Ihre Lernprozesse zirkulieren in einem abgeschlossenen Raum. Sie kann nichts wirklich Neues kreieren – nur Variationen bereits vorgezeichneter Muster.
Aus diesen Gründen wird das kalifornische Modell mit GovAI nie eine humane Gesellschaft erschaffen. Trotz allem bin ich zuversichtlich. Irgendwann und irgendwo werden Menschen einen Ausweg aus dieser Sackgasse finden. Der Mensch kann etwas, wozu GovAI nie imstande sein wird: Sich selbst überschreiten.
Hinweis: Archivmodus / statische Ausgabe.