Während des Lesens kam mir häufiger der Gedanke – hättest du das Buch doch besser nicht gelesen. Nicht weil es schlecht konzipiert oder geschrieben wäre. Im Gegenteil! Nun der Widerspruch erklärt sich aus dem Thema: Das Ende der Wirklichkeit. Deepfakes, synthetische Welten und der Beginn der Post-Realität. Der Autor entfaltet ein ungeheures Panoptikum aus allen gesellschaftlichen Bereichen, in denen Künstliche Intelligenz Einzug gehalten hat. Er beleuchtet die hilfreichen wie fatalen Wirkungen und Folgen, die KI in unserer Gesellschaft (global) entfaltet. Dabei verfügt er nicht nur über sehr weitgefächerte Kenntnisse der verschiedenen Akteure in diesem Feld, sondern greift auch auf konkrete Gespräche und Auseinandersetzungen mit ihnen zurück.
In der Einleitung geht der Autor zunächst auf die grundlegenden Funktionen von KI Modellen ein. Er stellt dar, wie Daten als Trainingsgrundlage verwendet werden, und Maschinen daraus komplexe statistische Modelle entwickeln (Transformer), die quasi an die Stelle treten, die bei Menschen als semantische Bezüge und Assoziationen bezeichnet werden.
Das Buch ist in 5 große Teilen organisiert, die wiederum 17 Kapitel enthalten. Auffällig bei den Kapiteln? Sie alle tragen das Beiwort „synthetisch“. Tatsächlich gibt der Autor zu, dass die Definition schwierig ist – er bezieht sich hilfsweise auf eine EU Verordnung: Synthetische Medien werden von KI erzeugt und stehen in Opposition zu human generierten Medien. Synthetisch steht somit in einer Dichotomie der Urheberschaft: Mensch gegen Maschine (S.43). Łabuz lässt gleich ein drastisches Beispiel synthetischer Medien folgen mit den gefakten Nacktbildern von Sabrina Javellana. Damit ist der eine kritisch-negative Pol von KI im Buch abgesteckt: Dort, wo jeder Täter werden kann, kann jeder Opfer werden. Es liegt wohl schon in der Natur des Themas, dass im Buch eher die negative Seite der KI und ihrer gesellschaftlichen Wirkungen beschrieben wird.
Teil 1 Die Maschine
Die Fähigkeiten der KI Modelle beruhen letztlich auf Daten, auf sprachlichen und visuellen Zeichen und ihrer Beziehungen zueinander. Hier beginnen schon die Probleme: Womit „erzieht“ man ein LLM? Nun, Daten gibt es im Internet mehr als genug – aber nicht alle eignen sich fürs Training; also mussten Menschen (in Kenia) als Gatekeeper die moderne Minenarbeit leisten und die verwertbaren Daten vom Abraum trennen. (S.65ff)
KI Modelle kennen stochastische Bezüge, aber keine Referenz auf die Realität. Folge: Irrtümer, im KI Jargon: Halluzinationen. (79) Łabuz beschreibt die Tatsache, dass sich KI mehr und mehr mit ihren eigenen generierten Daten trainiert, in dem altgriechischen Bild der Schlange, die in ihr eigenes Ende beißt: Ouroboros. (84ff)
In den folgenden Seiten zeigt der Autor, wie Sprache weltprägende Kraft hat (Bezug auf Wittgenstein) und die Trainingsmaterialien Spuren im Output der LLMs hinterlassen (Wortbeispiel „delve“). Dennoch ist es schwierig, ki-generierte Texte zweifelsfrei zu identifizieren. (112)
Teil 2 Das Rennen
Der zweite Teil ist mit „Das Rennen“ überschrieben. Der Wettbewerb um die technologische Spitzenposition schlägt jegliche moralische Skrupel aus dem Feld. (S77f) Die Dominanz im Bereich KI wird in diesem Wettrennen zugleich zur Deutungsdominanz aus der Perspektive der konkurrierenden Großmächte – denn Sprache gibt zu verstehen. (S. 137 Wem gehört Europa)
Sprache repräsentiert Werte – Łabuz zeigt anhand von zahlreichen Beispielen sehr luzide, wie das Training von Algorithmen sie mit einem spezifischen Wertemodell imprägniert – in diesem Fall mit dem der westlichen weißen Welt – einer kritikbedürftigen Form des Postkolonialismus: „Blinder Glaube an die Macht algorithmischer Unparteilichkeit ist nichts anderes als ein Ausdruck von Techno-Chauvinismus, der vor allem die Schwächen von Datensätzen außer Acht lässt.“ (152) Darüber hinaus werden KI Modelle selbstverständlich auch für Propaganda und digitale Kriegsführung eingesetzt. „Untersuchungen zeigten, dass bereits 250 „vergiftete“ Proben ausreichen können, um ein ganzes Modell zu infizieren“. 171 Hier fällt ein weiteres kritisches Schlaglicht auf KI und KI-generierte Texte.
Ein weiteres Kapitel „Synthetische Arbeit“ beschäftigt sich mit den Folgen des Einbruchs von KI in die Arbeitswelt. Łabuz erzählt von einem Projekt des Senders Off Radio Kraków, in dem drei künstliche Personen eben solche künstliche Beiträge erzeugen. Das Projekt wurde nach Protesten und Einsprüchen schon nach wenigen Tagen beendet. (199) Łabuz zitiert Pater Lambrecht: „Ich sehe die Gefahr darin, dass Entscheidungen immer häufiger dort getroffen werden, wo es kein Gesicht gibt, wo keine Verantwortung im menschlichen Gesicht eingeschrieben ist.“ (204) Der Autor verfolgt den Gedanken hier nicht weiter, aber: Welche Folgen hat das Vordringen der KI in ethisch-existenzielle Bereiche? Ich denke hier an die Diskussion während der Coronazeit, als die Triage-Entscheidungsfrage bei fehlenden Sauerstoffgeräten aufkam – noch bevor KI uns mit ihren Elaboraten überschwemmte.
Teil 3 Angst
Auch dieser Teil bringt zum Einstieg ein (ir-)reales Beispiel einer ki-basierten Fake-Meldung, wonach angeblich ein massiver Anschlag auf das Pentagon stattfand (211). „Das besondere an diesem Übergang (Generieren visueller Medien vom Kunstmittel im Film zum täglichen Instrument in sozialen Medien, d.Rez.) ist also nicht die Existenz der Möglichkeit zum Betrug selbst, sondern die drastische Steigerung von Geschwindigkeit, Umfang und Präzision.“ 213
So steht die Gefahr im Raum: „Angst, Misstrauen und ein Gefühl der Unsicherheit können die wichtigsten Folgen sein.“ Das Problem der überzeugenden Wirkung liegt natürlich auch in der Multimodalität der Inhalte: Menschen sind sozialisiert, Bilder als Zeichen von Realem zu verstehen (230). Die Unmöglichkeit, den kommunikativen Anlass der Fake-Meldungen zu eruieren, erzeugt noch mehr Misstrauen gegen alle multimodal aufbereiteten Inhalte.
Den Einzelfällen, die Łabuz schildert weiter nachzugehen, würde den Rahmen der Rezension eindeutig sprengen. Ich beziehe mich im Folgenden auf die systemischen Folgen der Verbreitung von Deep Fakes. Kap 10 behandelt den Synthetischen Müll, AI Slop. Das können Halluzinationen der KI sein, aber auch im Auftrag von Menschen erzeugte – meist multimodale – Inhalte. Hinter Deep Fakes stehen einträgliche Geschäftsmodelle. Die Verbreitung wird zusätzlich durch Algorithmen gesteuert, die das eine Ziel haben, unsere Aufmerksamkeit weiter an das Soziale Medium zu binden, ohne die existenziellen Kosten dafür in Betracht zu ziehen. „Wenn wir uns für KI-Slop entscheiden, verlieren wir all das, was wir hätten gewinnen können, wenn wir eine andere Entscheidung getroffen hätten. Besser investierte Zeit, Zeit für die Familie, Zeit für Beziehungen zu anderen Menschen.“ 298 Opportunitätskosten des KI-Slop