Teil 4: Der Mensch
Hier geht es nun um den synthetischen Menschen als Ganzen – also um solche, die real nie existierten. Als Beispiel dient die Influencerin Aitana Lopez, deren Account > 400.000 Follower hat. Die Macher dahinter verweisen schon in der Bio, dass Aitana nicht real existiert. So wird – nach Łabuz – eine kognitive Dissonanz erzeugt zwischen dem Gefühl, sie sei echt (Bild!) und der Textinfo, sie sei ein Produkt der KI. 309
Anhand eines alten philosophischen Themas zeigt der Autor, wie ein Bild aber auch kognitive Dissonanzen überspielen kann und wir – abgeschnitten von der Kenntnis der Herkunft des Dargestellten – Fake für Realität halten. Die Geschichte des Schiffes des Theseus zeigt ein epistemisches Problem, dass wir das Schiff als solches wahrnehmen, auch wenn es eine „Kopie“ ist. In dieser epistemischen Verschiebung liegt der Schlüssel zum Verständnis politischen Marketings, das auf Deepfakes basiert.
Wo es synthetische Menschen gibt, sind synthetische Beziehungen ebenso möglich. Der Autor schildert den sehr prominenten Fall der synthetischen Hochzeit von Yurina Noguchi mit ChatGPT und erkennt hier auch eine Form des Narzissmus: „Tatsächlich ist Synthetische Liebe nicht nur Liebe zu einer anthropomorphisierten Maschine. Sie ist auch Liebe zum eigenen Bild, das sich im Spiegel eines großen Sprachmodells zeigt“ 349 Synthetische Psychotherapie ist ein weiterer Aspekt der Mensch-Maschine Beziehung (355 ff) Das Problem ist auch hier die Überdosis: „Angehörige von Menschen, die sich in der Erforschung der synthetischen Realität verlieren, berichten, dass sie sie schlicht zu ‚verlieren‘ beginnen.“ 369 Eine andere Beziehung zu ChatGPT endete tödlich, als sich der Junge Adam Raine von ChatGPT den Suizid als gangbaren Ausweg bestätigen ließ. 382ff
Ein anderer Aspekt der synthetischen Beziehung ist das virtuelle Wiederauflebenlassen von Gestorbenen (387ff). Was selbstverständlich auch wieder missbraucht werden kann, wenn bekannten toten Politikern Statements in den Mund gelegt werden zum Zwecke einer tendenziösen Manipulation. „Die Schwächen unserer unreifen Abwehrmechanismen bedeuten nicht, dass wir das digitale Leben nach dem Tod sich selbst überlassen dürfen.“ 399
Teil 5 Veränderung
Das Problem der Regulierung hat der Autor schon im Teil Das Rennen angesprochen. Veränderung – Regulierung 413. Lässt sich das Intransparente überhaupt regulieren – v.a. bei der Hypewelle, die viele Bedenken wegschwemmt? Und Mythos Selbstregulierung bleibt ein Mythos (416) Zum anderen gerät das alte Modell der rechtlichen Urheberschaft ins Wanken. Ebenso wird es schwerfallen, bildbasierte Gewalt gegen Frauen und Kinder rechtlich zu belangen, da ggf. die gesetzliche Grundlage fehlt – Technik ist schneller als die Rechtsprechung. 436
Epistemische Apokalypse
Der letzte Teil mündet in eine ki-generierte Apokalypse der Gesellschaft, deren kommunikative Verständigungsgrundlage – und damit letztlich die Basis des gesellschaftlichen Zusammenhaltes – zerstört wird. Łabuz extrapoliert die „Synthetische Realität“, die ein General Potjomkin erzeugt hat, hin zu der Analyse des französischen Philosophen Baudrillard, der jeden Informationsfluss in eine Simulation ausmünden lässt, als deren Grenzphänomen nur noch der Tod real bleibt. So „erscheint die ‚epistemische Apokalypse‘ als logische Fortsetzung der schrittweisen Erosion des Informationsraums. Sie äußert sich in übermäßigem Skeptizismus als Reaktion auf erkannte Bedrohungen. Permanentes Infragestellen von Informationen kann zu Chaos führen und das Vertrauen in traditionelle Medien weiter untergraben – was wiederum neue Möglichkeiten der Manipulation eröffnet.“ 461
Maschinen und Bewusstsein?
Der Autor referiert den Fall des Googlemitarbeiters Blake Lemoine, der behauptete, dass die LLM LaMDA von Google tatsächlich ein Bewusstsein habe (366) – Anscheinend aber unterstellen wir der Maschine ein Bewusstsein, das wir ihr sozusagen empathisch leihen. Łabuz warnt im Folgekapitel „Menschen ohne Bewusstsein“ davor, dass den Menschen die Änderungen, die der tägliche Kontakt mit KI mit sich bringt, gar nicht mehr reflexiv zu Bewusstsein kommen. (490f)
Haben wir eine Chance? Kritisches Ignorieren (Christopher Mims vom Wall Street Journal) wird kaum ausreichen, aber ob Achtsamkeit auf die Anwendungen und Veränderungen ausreicht, wage ich zu bezweifeln. Aber eine Abkehr von KI wäre eine Illusion – man sollte sich jedenfalls seiner eigenen Entscheidung und Verantwortung selbst bewusst sein – ohne sie an KI zu delegieren.
Laus autoris
Łabuz zeigt in seinem in mehrerer Hinsicht großen Buch die Schattenseiten der KI und die Gefahren, die ihre Ausbreitung in alle gesellschaftlichen Areale mit sich bringt. Ist das zu negativ gedacht, angesichts der Chancen, die sich auch ergeben mögen? Der Vergleich mit der Atomkraft (seien es Reaktoren oder Bomben), die ja auch eine erhebliche Änderung für die Menschheit bedeutete, zeigt aber gleichzeitig den riesigen Unterschied: KI schleicht sich überall ein, sie dringt (z.T. selbständig) ins Internet ein, in die Köpfe der Menschen, in unser Unternehmensmanagement, in Gebäudeverwaltung, in die Netzwerke. Diese quasi ungehinderte Omnipräsenz rechtfertigt m.E. sehr wohl die kritische Haltung des Autors. Insofern ist das Buch eine hervorragende und aktuelle Bestandsaufnahme, was den Status von KI in unserer Gesellschaft angeht – und zur Lektüre dringend empfohlen.
Zur Kritik
Der Autor nennt sein Buch: Das Ende der Wirklichkeit. Er nimmt m.E. Wirklichkeit hier zu sehr in der Definition der res extensa und berücksichtigt dabei zu wenig, dass alle Extensionalität schon immer medial vermittelt ist. Ich erinnere nur an Descartes radikalen Zweifel an jeder Wahrnehmung oder an das Diktum von Charles Sanders Peirce, dass wir immer schon in Zeichen denken – denken müssen. Der Unterschied: Dieses Denken nähert sich approximativ an eine Wahrscheinlichkeit, die sich im Lebensvollzug und Lebenserhalt als erprobt erweist. Eco hatte in seiner Semiotik darauf hingewiesen, dass der Zeichengebrauch es dem Menschen ermögliche, zu lügen. Aber auch die Falsifikation einer Lüge gelingt nur an der medialen Wahrnehmung des Realen.
Ein anderer Punkt der Kritik betrifft die Frage nach dem Bewusstsein von Maschinen. Es gibt phänomenologische und philosophische Ansätze, die das menschliche Bewusstsein nicht nur im „Hirn“ verorten, sondern quasi eine Exzentrität von Leib und Bewusstsein als Grundform des bewussten Daseins beschreiben. Gerade in Situationen, in denen der sprachliche Intellekt des Menschen versagt, springt der Leib reaktiv mit Lachen und Weinen ein. Fragen Sie einmal eine KI-Maschine, ob sie lachen kann.
Ein Letztes: der Ouroboros war das Symbol der sich selbst fütternden und trainierenden Sprachmodelle. Der Autor nannte das treffend die epistemische Apokalypse. In extremis gerät das Sprachmodell in eine selbstverursachte Aphasie, weil jedes Wort jedem folgen könnte und die Sprache in Sinnlosigkeit oder absoluter Beliebigkeit verstummt. Borges Bibliothek von Babel, die alle Bücher aller möglichen Buchstabenfolgen enthält, wäre der Grenzfall einer selbstinduzierten lingualen Katastrophe. Die Referenzialität von Sprache – mit und von der wir leben (müssen) – verliert sich in einem Rauschen der Zeichen.