Die Respektlosigkeit von KI-Unternehmen

Vom Aneignen der Bildsprache von “Studio Ghibli” bis zum Verwenden von potenziell Millionen von Büchern ohne urheberrechtliche Erlaubnis. Zwei aktuelle Fälle zeigen, wie sehr KI-Unternehmen nach dem Motto “Move fast and break things” vorgehen.

Auf den ersten Blick sieht es ja niedlich aus: ChatGPT bietet jetzt an, Bilder in eine Studio-Ghibli-Optik umzuwandeln (ich bin selbst ein Studio-Ghibli-Fan). Prompt haben viele Menschen berühmte Szenen oder berühmte Memes in dieser Optik umgewandelt. Hier zum Beispiel das “Distracted Boyfriend (Opens in a new window)”-Meme, gepostet von einem User namens “Zeneca” auf X:

(Opens in a new window)

Solche Bilder wirken im ersten Moment witzig. Aber mittlerweile gibt es enorm viel Kritik (Opens in a new window) an dieser Studio-Ghibli-inspirierten Bilder-Funktion. Mich selbst irritiert dieser Vorfall aus drei Gründen:

1.) Ausgerechnet Studio Ghibli! In den letzten Tagen haben viele Medien und Social-Media-Accounts ein altes Zitat vom Studio-Ghibli-Gründer Hayao Miyazaki ausgegraben. 2016 hat er einmal über KI-Technologie gesagt (Opens in a new window): “Ich hätte niemals das Interesse, diese Technologie, diese Technologie in meine Arbeit einzubeziehen. Ich empfinde das stark als als Beleidigung des Lebens selbst.” Und in einem Gespräch mit der “New York Times” (Opens in a new window) hat Miyazaki 2021 einmal gesagt: “Ich glaube, dass das Werkzeug eines Animators der Bleistift ist.” In dem Text wird deutlich, wie zurückhaltend Miyazaki beim Einsatz modernerer Technik ist. Es erscheint mir deshalb eine besonders große Respektlosigkeit, ausgerechnet den Stil von Studio Ghibli nachzuahmen.

2.) KI-Unternehmen eignen sich das kreative Schaffen anderer Menschen an – ohne zu fragen – und steigern damit ihren eigenen Wert. Derzeit stellt sich hier die Frage: Wurde der Bild-Generator mit den Filmen von Studio Ghibli trainiert? Und wenn ja, passierte das mit Erlaubnis? Die Nachrichtenagentur AP (Opens in a new window) hat bei OpenAI (dem Unternehmen hinter ChatGPT) nachgefragt, ob es eine Lizenz für die Auswertung von Studio-Ghibli-Filmen hat – sie erhielt vergangene Woche aber keine Antwort. Als Hintergrund-Info ist wichtig: Derzeit werfen Gerichtsverfahren ein Licht darauf, wie sich KI-Unternehmen ungebremst der kreativenArbeit anderer Menschen bedienen, um ihre KI zu trainieren. So hat Meta (also der Konzern hinter Facebook, WhatsApp, Instagram) eine große Datenbank heruntergeladen, die Millionen von urheberrechtlich geschützten Bücher enthält. Auch von mir sind zum Beispiel 3 Bücher in dieser Datenbank. Die Gerichtsunterlagen zeigen: Zuerst haben die Mitarbeiter:innen von Meta noch überlegt, bei Verlagen Lizenzen für Bücher zu kaufen. Sie kamen aber zum Schluss, dass ihnen das zu teuer ist und zu lange dauert – und dann luden sie kurzerhand diese riesige Datenbank herunter. Genau beschrieben hat dies The Atlantic (Opens in a new window). Als Autorin denke ich: Es ist ein riesiger Unterschied, ob eine Privatperson beispielsweise eines meine Bücher downloadet (ohne dafür zu zahlen) oder ob ein börsennotierter Konzern wie Meta Millionen von Büchern herunterlädt, um seine kommerziellen Produkte zu verbessern und damit Geld zu verdienen.

Zurück zu Studio Ghibli. Die Künstlerin Karla Ortiz (Opens in a new window) meint über dieses neue Tool von ChatGPT: "Das ist die Verwendung des Markenzeichens von Ghibli, ihres Namens, ihrer Arbeit, ihres Rufs, um eigene Produkte zu bewerben." Und weiters: "Es ist eine Beleidigung. Es ist Ausbeutung."

Ich möchte an dieser Stelle sagen: Ich persönlich kann viele Menschen verstehen, die aus Neugier oder Freude am Studio-Ghibli-Stil ihre Fotos von der KI ghiblifizieren haben lassen - meine Grundsatzkritik betrifft hier das Unternehmen OpenAI, dessen Wert im Jahr 2024 auf 157 Milliarden US-Dollar geschätzt (Opens in a new window) wurde und das von der Bekanntheit seiner Features profitiert. Wobei ich eine Ausnahme machen möchte: Sehr kritisch sehe ich auch, was das Weiße Haus mit dieser Funktion macht. Es nahm das Foto einer verhafteten Frau aus der Dominikanischen Republik, die im Foto weint, ließ es in Studio-Ghibli-Optik umwandeln und postete es auf Social Media. Der Social-Media-Account des Weißen Hauses fällt in der letzten Zeit öfters mit “vergnügter Grausamkeit” (Opens in a new window) auf, wie es der Journalist Charlie Warzel zurecht nennt. Und natürlich sind solche hämischen Postings auch ein krasser Widerspruch zu Studio-Ghibli-Filmen, die humanistische und einfühlsame Geschichten erzählen. Wie KI für Propaganda missbraucht werden kann, sieht man hier.

3.) Ein letzter Punkt: Die Bilder der KI haben Schwachstellen

Viele Bilder, die nun von ChatGPT in Ghibli-Optik generiert werden, sehen niedlich aus – aber mein Eindruck ist, dass sie oft typische KI-Schwachstellen aufweisen. Zum Beispiel werden Details fehlerhaft umgewandelt oder die KI versteht nicht wirklich, was der Gesichtsausdruck von Personen auf den Bildern ausdrückt. Nehmen wir zum Beispiel nochmal dieses Bild:

(Opens in a new window)

Auf den ersten Blick sieht dieses KI-Bild lustig aus – aber es ist mitnichten so gut wie das Original-Foto (Opens in a new window), weil der Gesichtsausdruck des Mannes (der quasi einer fremden Frau nachgafft) nicht passend getroffen ist. Das sind Details: Aber meines Erachtens erkennt man an diesem Beispiel, dass die KI eben nicht wirklich versteht, was der Witz des Original-Fotos ist.

Die Tragische aus Sicht von Kreativen ist: Bei vielen KI-Anwendungen geht es nicht darum, dass die KI das perfekte Ergebnis liefert, sondern oft reicht für User:innen bereits, ein Ergebnis, das “gut genug” ist. Also zum Beispiel, wenn man selbst nicht zeichnen kann, wird die KI in vielen Fällen beeindruckendere Bilder kreieren als man das selbst als unkreative Person könnte (deshalb nutze ich selbst oft auch KI-Bilder, weil ich als freie Journalistin keine Lizenz von professionellen Bild-Datenbank besitze). Nur zeigt derzeit gerade der Vergleich von diesen ChatGPT-Bildern mit tatsächlichen Szenen aus Studio-Ghibli-Filmen, wie viel mehr Tiefgang und Klugkeit ein guter Animator oder eine gute Animatorin in solche Szenen einfließen lassen kann.

Letzter Punkt: Ich fände sehr spannend, zu untersuchen, ob auch Stereotype bei den Bildern auftauchen, die ChatGPT in Studio-Ghibli-ähnlicher Optik auswirft. Denn bisher fallen KI-Bildgeneratoren oft mit einer stereotypen Darstellung der Welt auf. Zum Beispiel haben Forschende (Opens in a new window) von der Software Stable Diffusion “attraktive Menschen” darstellen lassen - die abgebildeten Personen waren dann oft jung und hatten helle Hauttöne. Wer sich solche Bilder konkret ansehen will, kann diesen erstklassigen Artikel der Washington Post (Opens in a new window) lesen.

Ich denke also, es gibt sehr, sehr viele ethische Fragen, die uns in einer Zeit begleiten, in der KI-Bilder zunehmend zum Einsatz kommen.

Haben Sie weitere Anmerkungen, Lese-Tipps, Empfehlungen zu diesem Thema? Schreiben Sie mir!

Danke fürs Lesen des Newsletters - bis in zwei Wochen!

Schönen Gruß

Ingrid Brodnig