No consensus, no peace: KI-Deepfakes und das Ende der Wahrheit

AI-generated photo faking Donald Trump's possible arrest, created by Eliot Higgins using Midjourney v5. Source: https://arstechnica.com/tech-policy/2023/03/fake-ai-generated-images-imagining-donald-trumps-arrest-circulate-on-twitter/ (Opens in a new window)

28.02.2024

Liebe Leute,

letzte Woche habe ich in einem der weniger populären Texte auf diesem Blog über eine Zukunft zunehmender gesellschaftlicher Konflikte geschrieben (ok, vielleicht war der Titel Posthegemonie (Opens in a new window) ein Bisschen sehr viel zu prätentios, immer ne Gefahr bei mir ;)), in dem ich argumentierte, dass Veränderungen im internationalen System, der zunehmende Druck der “Polykrise” auf nationale Gesellschaften, und das Erreichen planetarer Grenzen zusammen eine ständige Eskalation von Konflikten auf allen Ebenen mit sich bringen würde. Geschrieben in einem meiner Lieblingsformate, der erziehungstechnisch gesprochen leicht autoritäen “Liebe Mitte, wir müssen reden”-Standpauke, lief das Argument darauf hinaus, bei der humanistischen Mitte einen Denkprozess anzustoßen, der vielleicht nicht zur Bildung bürgerlicher Antifa-Rollkommandos führen sollte, aber immerhin einer Erweiterung der eigenen Perspektive, wenn dann dereinst wir eher linksradikalen und hoffentlich auch irgendwann wieder militanzkapablen Antifas zur antifaschistischen Gegengewalt greifen werden.

Das war natürlich naiv. Die Gewaltablehnung ebenso wie der Kommunikationsfetischismus des bürgerlichen Liberalismus sind legendär, muss er doch seine Ursprünge verschleiern, die so gar nicht in gewaltfreier Kommunikation zu finden sind. Stattdessen liegen sie, von der Glorious über die American hin zur französischen Revolution, eventuell auch zurück zum antifeudalen Bauernaufstand, der die “liberale” moderne Schweiz begründete, und nach vorne zur antifaschistischen Gewalt der Alliierten, die uns beide moderne Deutschlands bescherte, in gewaltvollen Prozessen, im Machtkampf zwischen dialogisch unvermittelbaren Positionen, der dann durch Gewalt entschieden wurde. Sprich, ohne Gewalt kein friedlicher Liberalismus, ohne Ausschluss (z.B. faschistischer Positionen) keine inklusive Demokratie.

_____

Damit ich diesen Newsletter jede Woche schreiben kann, kann ich Deine finanzielle Unterstützung gebrauchen.  

_____

Faschistische Gewalt(drohungen) überall

Und doch druckst die Mitte wieder rum, vermittelt den Eindruck, sie wisse zwar unterbewusst, dass es zu gewalt (Opens in a new window)vollen Eruptionen kommen wird, könne, wolle sich (Opens in a new window)aber nicht darauf vorbereiten, weil, das wäre wohl einfach zu icky, würde zu sehr aus dem hart erkämpften eigenen Habitus herausfallen. Und das, obwohl die Einschläge häufiger werden und jeden Tag näherkommen.

Angst vor einer AfD-Regierungsbeteiligung nach den Landtagswahlen im September, dieser Partei, die zunehmend offen Massendeportationsplänen das Wort redet? Not to worry, in Österreich sind diesen Herbst Nationalratswahlen, und die vom hochstrategischen Faschisten Herbert Kickl geleitete FPÖ wird fast mit Sicherheit die stärkste Fraktion – und die reden schon lange ganz offen über Massendeportationen (Opens in a new window).

Angst vor antiqueerer Nazigewalt? Dann empfehle ich keine Reise nach Brandenburg, denn dort haben sich “Straftaten gegen Menschen wegen ihrer sexuellen Orientierung oder Geschlechtsidentität mehr als verdoppelt (Opens in a new window)” - eine Entwicklung, die (s. Artikel) mit großer Wahrscheinlichkeit auf rechte Umtriebe zurückzuführen ist. Schön fand ich auch eine Meldung aus Wetzlar (Hessen – immer wieder mein Ursprungsbundesland, fucking Hessen... wir haben dem Land schon Gauland, Steinbach und den NSU beschert. You're welcome), "wo fünf mutmaßlich rechtsextreme Jugendliche im Alter zwischen 15 & 19 Jahren festgenommen (wurden), die einen brutalen Angriff auf einen schwulen Mann geplant haben sollen."

…

Deepfakes und eine Zukunft jenseits der Wahrheit

Ich war gerade kurz davor, mich wieder in einem meiner Buzzfeed-Style “Tableaus” zu verlieren, so “15 Beispiele, wo Nazis gewalttätig waren, oder Gewalt androhten”, aber mir fällt gerade ein, dass ich diesen Punkt schon sehr oft gemacht habe: “beim Faschismus handelt es sich um eine politische Bewegung, die Gewalt als notwendig mitdenkt, diese organisiert, sich auf Ihr alltägliches und massenhaftes Ausüben aktiv vorbereitet. (Opens in a new window)”

Dann endlich mal zum eigentlichen Kern dieses Texts: das “Ende der Kompromisse”, von dem ich letzte Woche sprach, hat neben den o.g. Verschiebungen noch einen viel tiefer liegenden Grund, an den ich durch die zunehmende Diskussion über KI-Deepfakes im Kontext der vielen wichtigen Wahlen, die dieses Jahr in den (more or less) Demokratien der Welt stattfinden werden, erinnert wurde: das Ende der Wahrheit. Oder genauer: das Ende von Wahrheiten, auf die wir uns gesellschaftsweit einigen können, die den Rahmen politischer Diskussionen und Meinungsverschiedenheiten konstituieren, und dafür sorgen, dass überhaupt Dialog möglich ist.

Ich fang mal bei dem Bild oben an: es ist natürlich ein Fake, denn leider wurde Donald J Trump bisher nicht von einem Haufen von Cops umzingelt und dann, trotzt Widerstand gegen Vollstreckungsbeamte, verhaftet und idealiter später verurteilt. Das wisst Ihr, und doch habe ich mit der Wahl des Fotos (das übrigens reine Clickbait ist ;)) gehadert. Wollte ich wirklich, wie das Zentrum Politische Schönheit mit seinem “Scholz ruft zum AfD-Verbot auf”-Deepfake, im Dienste meiner politischen Kommunikation zur Erosion des Vertrauens in Wahrheit beitragen? Im obigen Fall ist es, wie gesagt, halbwegs offensichtlich, dass es ein Fake ist, aber Vorsicht: wenn wir etwas sehen wollen, ignorieren wir gerne die Dinge, die uns davon überzeugen müssten, es nicht ernst zu nehmen. Wir leben in einer Zeit voller Unsicherheiten, was es umso attraktiver macht, die eigenen Annahmen und Wahrheiten bestätigt zu sehen.

Das, also, der Wunsch, die eigenen Wahrheiten bestätigt zu hören machte wohl auch den Deepfake so erfolgreich, der vergangenen November auf einer Querdenker-Demo in Dresden (der Hauptstadt der alternativen Wahrheiten?) genutzt wurde. Dort wurde ein KI-generierter Audio-Deepfake abgespielt, in dem die bundesweit bekannte Stimme von Tagesschausprecher Jens Riewa folgendes sagte (Opens in a new window): “Guten Abend, meine Damen und Herren. Ich begrüße Sie zur Tagesschau. Heute möchten wir uns bei Ihnen entschuldigen. Seit über drei Jahren lügen wir Ihnen dreist ins Gesicht”.

Nicht nur Rechte hören gerne, was wir hören wollen

To be sure, das ist ein ziemlich schlechter Deepfake, denn der letzte Satz ist so gar nicht Tagesschau-Sound. Trotzdem machte die Audiodatei gut die Runde, weil sie (KI-Riewa) eben genau das sagte, was die Schwurbelnden hören wollten. Was daraus folgt, sollte ziemlich offensichtlich sein, wurde auch schon in Tausenden Feuilleton-Texten besprochen: aus diesen Entwicklungen könnte ganz schnell “das Ende der Wahrheit” folgen, wenn nämlich weder Foto- noch Video- noch Audiobeweise noch wirklich Beweiskraft haben, noch schlimmer aber, weil sich natürlich Informationen (“Wahrheiten”), die existierende “biases” bestätigen, immer schneller verbreiten werden, als solche, die wir ungern hören wollen. Ohne Wahrheit kein Gespräch, ohne Gespräch kein Konsens, ohne Konsens oder zumindest Einigung keine Möglichkeit für gesellschaftlichen (oder auch internationalen) Frieden. Eine “Wahrheit” beinhaltet immer einen Machtanspruch, und wenn “gleiche” (weil nicht mehr widerlegbare) Wahrheiten gegeneinanderstehen, stehen dann einfach nur noch nackte Machtansprüche gegeneinander. In diesem Sinne ist das Auftauchen von Deepfakes der Übergang (I shudder to reference Sascha Lobo) von einer Welt, in der es “alternative facts” gibt, hin zu einer Zukunft, in der es alternative Welten gibt. Welten, die sich (im Sinne von Wittgensteins “Sprachspielen”) auf nichts einigen können, weil in ihnen völlig andere Regeln gelten. Eine Welt ohne Wahrheit wäre also der 4. Grund, warum Ihr, liebe Mitte, Euch auf immer mehr Konflikte einstellen müsst.

Eins noch zum Abschluss: ich weiß, dass unter Linken und Zentrist*innen die einfache “Wahrheit” geglaubt wird, Rechte seien dieser Art von Desinformation mehr ausgesetzt, leichter von ihr zu ködern, als wir das sind, weil wir als Kinder der Aufklärung natürlich einen starken Wahrheitsanspruch in unserer Politik haben – und es stimmt sicherlich, dass linke Politik üblicherweise weniger Unwahrheiten beinhält, als Rechte. Aber glaubt bitte nicht, dass wir gegen Deepfakes und “alternativen Wahrheiten” immun sind. Denn die Welt wird immer schneller immer weniger so aussehen, wie wir sie gerne hätten. Vor allem für die weiterhin kollapsverdrängenden Klimas, oder noch-nicht-vom-Parteiglauben-abgefallene Parteigrüne drohen da wirkliche Gefahren, denn, wie ich schon hier (Opens in a new window) schrieb, je weiter sich die materielle Realität von Eurem gemütlichen “wir können das noch hinkriegen”-Glauben entfernt, desto anfälliger werdet Ihr für Deepfakes und Desinformation sein, die Euch vermittelt, dass alles doch irgendwie noch gut werden kann, so zum Beispiel, wenn Ihr eurem “Klimaminister” glaubt, dass LNG die Energiewende vorantreibt, und CCS eine gute Idee ist.

Vom “Ende der Wahrheit” wird also nicht nur der links-rechts-Konflikt in der Gesellschaft geprägt werden – ich kann mir gut vorstellen, dass der auch das linksgrüne Feld zerfetzen kann. Denn, wem soll man noch glauben? Immer den Nächsten in der Bubble.

Das kann noch heiter werden.

Euer Tadzio. Wirklich. Ich bin's. Don't worry ;)