Lo-Fi-Girl und Singularität

Die technologische Singularität verspricht Albträume. Keine, die in Science-Fiction-Filmen oder Videospielen vorkommen. Also jene, in denen Menschen im Krieg mit allmächtigen, superintelligenten Robotern stehen, nein. Vielmehr geht es um Albträume, in denen die Intensivierung und Mutation schon heutiger Probleme innewohnt: Sozioökonomische Ungleichheit, Rassismus, Sexismus, Klassismus und andere Formen der Unterdrückung werden durch die Singularität noch verstärkt werden.

(Si apre in una nuova finestra)

Unsere Technologie spiegelt unsere Gesellschaft wider. So sind auch etwa Vorurteile und Machtstrukturen unserer Kultur in jenen Technologien eingebettet:

Eine Google-Software beschriftete das Foto einer Afroamerikanerin mit »Gorilla«. Wenn die Menschen »professionelle Frisur« googelten, tauchten in den ersten Ergebnissen der Bildersuche nur blonde Flechtfrisuren auf. In der Endauswahl eines maschinell entschiedenen Schönheitswettbewerbs landeten nur weiße Kandidatinnen. Eine Software der neuseeländischen Passbehörde verweigerte die Anerkennung asiatischer Pässe, der Algorithmus ging davon aus, dass die Augen der Abgebildeten geschlossen waren. Und ein System, das Richterinnen und Richtern helfen sollte, zu entscheiden, welche Häftlinge vorzeitig entlassen werden sollten, war der Ansicht, dass eine dunkle Hautfarbe das entscheidende Kriterium für eine hohe Rückfallwahrscheinlichkeit für Straftaten sei.¹

Eva Wolfangel

Oder:

Beispiele hierfür sind die Gangs Matrix in Großbritannien oder die Top 600 und Top 400 Listen in den Niederlanden. Im Fall der Niederlande wird versucht vorherzusagen, mit welcher Wahrscheinlichkeit bestimmte Kinder unter 12 Jahren zukünftige Kriminelle werden. Wen wird der Algorithmus mit größerer Wahrscheinlichkeit in diese Datenbanken aufnehmen? Überwiegend Schwarze und Braune Männer und Jungen.²

Sarah Chander

Ohne angemessene Sicherheitsvorkehrungen und eine damit einhergehende radikale Umstrukturierung der Art und Weise, wie wir uns Technologie vorstellen, produzieren und nutzen, wird eine hypothetische Singularität aus den Konsumtechnologien und Marktlogiken des Technologie-Kapitalismus oder aus den invasiven Technologien autoritärer Überwachungsstaaten hervorgehen.

Welche Art der Überwachung würde eine Superintelligenz innerhalb einer Gesellschaft durchsetzen, die mit inhärenten Vorurteilen gegen Minderheiten programmiert ist? Wie steht es um die Zukunft der Arbeiterklasse und ihrer menschlichen Arbeitskraft, wenn die Automatisierung vollends abgeschlossen ist? Und, wer wird von der Singularität profitieren, wer verlieren?

Ungleichheiten und Ungerechtigkeiten von morgen

Der Begriff der technologischen Singularität beschreibt ein hypothetisches zukünftiges Ereignis, bei dem eine künstliche Intelligenz, die kognitive Leistung der Menschen übertrifft und sich von dort an etwa selbst verbessert oder gar neue Erfindungen macht – eine Superintelligenz.

Jede Bestandsaufnahme, die versucht, die technologische Gegenwart zu beschreiben, muss den Plattform-Kapitalismus³ und die Fiktionen des Silicon Valley berücksichtigen, die eine totale Marktbeherrschung anstreben. Sogenannte disruptive Technologien (etwa Digitalkameras, DVDs oder Smartphones) finden immer neue Wege, unsere persönlichen Beziehungen, Interessen und Konsumgewohnheiten auszunutzen, um anschließend ihre Aufmerksamkeitsökonomie zu vergrößern. Anstatt eine befreiende, verrückte Vision eines utopischen Cyberspace zu verwirklichen, wird unser zukünftiges digitales Interieur hauptsächlich aus banalen, nutzergesteuerten Inhalten, süchtig-machenden Unterhaltungsangeboten und endlosen Rabbit Holes voller Fake News bestehen.

Verfolgen wir also weiter unseren Weg, so gehe ich davon aus, dass Profit und Marktanteile auch ferner über allem stehen; dass die Gefahr bestünde, dass unter staatlicher Kontrolle künftige Technologien und Überwachungssysteme zusammenwachsen. Kurz: Die Technologie treibt die Ungleichheiten und Ungerechtigkeiten von morgen voran.

Allein diese beunruhigenden Vermutungen, sollten uns dazu veranlassen, die politischen und moralischen Dimensionen unserer Technologien zu überdenken und die Motive zu hinterfragen, die hinter neuen stehen. Denn die unkritische Annahme jeder innovativen Technologie, bedeutet eine stillschweigende Zustimmung zu eben jenen Marktsystemen und Technokratien, die ungleiche Bedingungen verstärken. Die Annahme des Konzepts der Singularität bedeutet nicht anderes als eine Kapitulation gegenüber unterdrückerischen Systemen.

Tja, alles doof.

Mir geht es in diesem Text aber vielmehr um eine Alternative; um den Vorschlag einer alternativen Singularität, die die Vorstellung eines singulären, universellen Ereignisses unterläuft. Eine Alternative, die unvollkommener, anfälliger, insgesamt offener ist. Eine Alternative, die ein wenig nach Lo-Fi-Musik klingt.

(Si apre in una nuova finestra)

Lo-Fi (Low Fidelity) bezieht sich innerhalb der Musik auf Klangästhetik, die willentlich nicht dem Stand der aktuellen technischen Entwicklung entspricht. Zu den klanglichen Merkmalen gehören beispielsweise Noise, Glitch, oder Distortion. Lo-Fi ist anfällig für Fehler und Verluste von Informationen, von Klarheit, aber offen für Interpretationen und zufrieden mit jener Unvollkommenheit. Attribute, die dabei helfen könnten die Allmachtsfantasie einer hypothetischen Intelligenzexplosion zu bremsen oder gar abzuwehren. Und wer nun eine kleine Lo-Fi-Musik-Pause braucht, findet hinter dem Bild den Link zum YouTube-Kanal.

Perspektive mit Scheuklappen

Bevor etwa Science-Fiction-Autor Raymond Kurzweil (Si apre in una nuova finestra) in Menschheit 2.0: Die Singularität naht (original: The Singularity Is Near: When Humans Transcend Biology) der technischen Singularität ihren Namen gab, beschrieb schon Marie Jean Antoine Nicolas Caritat (Si apre in una nuova finestra), ein Mathematiker des 18. Jahrhunderts, eine Explosion der Intelligenz, die durch den Fortschritt der Industrialisierung ausgelöst wird.⁴ Hegel (Si apre in una nuova finestra) schrieb über die teleologische Natur der Geschichte und darüber, wie der menschliche Geist einem aufsteigenden Bogen zur Selbstverwirklichung und zum Ideal des absoluten Wissens folgen wird – einer Art nicht-maschineller Singularität. Hegels Teleologie ist ein Vorläufer des Singularitätsmythos, der ebenfalls auf der menschlichen Tendenz beruht, in historischen Ereignissen einen kontinuierlichen Fortschritt zu sehen, der als Beweis für die Vorhersage der Zukunft herangezogen wird.

In den 1930er Jahren erwähnt der Paläontologe und Philosoph Pierre Teilhard de Chardin (Si apre in una nuova finestra) die Noosphäre, die die letzte Phase der Kosmogenese darstellt. Hierbei geht es vereinfacht um das Entstehen von Komplexität und Bewusstsein, sodass daraus ein vereinheitlichtes menschliches Denken und Handeln hervorgeht und den Planeten verändert. Die Noosphäre führt zu einem transzendenten Selbstbewusstsein oder der Singularität als Entrückung.⁵

Zu Beginn des digitalen Computerzeitalters stellte Alan Turing (Si apre in una nuova finestra) die Frage, ob Maschinen denken können, und kam zu dem Schluss, dass die künstliche Intelligenz schließlich die menschliche in den Schatten stellen würde:

[…] it seems probable that once the machine thinking method had started, it would not take long to outstrip our feeble powers.⁶

Alan Turing

Sein berühmter Maßstab zur Bestimmung der Wirksamkeit künstlicher Intelligenz, der Turing-Test bzw. das Imitationsspiel, basiert auf folgender Versuchsanordnung: Ein Mensch kommuniziert per Fernschreiber parallel mit zwei Beteiligten. Er weiß nur, dass der eine ein Mensch und der andere ein Computer ist und versucht dann mit Fragen zu ermitteln, welches Gegenüber aus Fleisch und Blut und welches aus Röhren und Transistoren besteht. Die Ununterscheidbarkeit von menschlicher und künstlicher Intelligenz ist eine Voraussetzung für die Singularität. Irving John Good (Si apre in una nuova finestra), ein Kollege Turings, entwickelte später das Konzept der Intelligenzexplosion, das der maschinellen Superintelligenz vorausgeht.⁷

Was aber haben meinetwegen Turing, Teilhard de Chardin und Kurzweil gemein? Die Geschichte der Singularität geht auf eine Reihe weißer, westlich gebildeter männlicher Theoretiker und Technologen zurück, also wohl aus mehr oder weniger derselben Perspektive, auf die Welt zu blicken. Auch wenn diese Tatsache das Konzept der Singularität nicht vom Tisch wischt, müssen natürlich die darin enthaltenen Annahmen hinterfragt werden. Eine historisch-kritische Analyse en detail würde den Rahmen dieses Textes sprengen. Eine zentrale Annahme muss aber kritisch bewertet werden: die fehlerhafte Struktur der technologischen Universalität, die der Mechanik der verschiedenen Singularitätserzählungen zugrunde liegt.

Dekolonisierte Technologie und alternative Narrative

Anita Say Chan (Si apre in una nuova finestra) hat dies den „Myth of Digital Universalism“ genannt. Ihr Buch Networking Peripheries dekonstruiert die Vorstellung von Technologie als einer von oben nach unten gerichteten Ideologie, die aus dem Silicon Valley in Randgebiete und den globalen Süden strömt.

Chan untersucht die technologischen Kulturen in Südamerika und findet Belege für regionale Innovationen, zum Beispiel FLOSS-Initiativen⁸, die eigene, nationale Plattformen bereitstellen und gleichzeitig die Marktdominanz von etwa Microsoft umgehen. Sie weist auf die Hybris hin, die in der Annahme steckt, dass die digitale Kultur monolithisch ist und nur von vermeintlichen Technologiezentren ausgeht, während der Rest der Welt deren Produkte passiv konsumiert.

Der Technologietransfer, der Prozess der Verbreitung von Technologieprodukten aus den Forschungs- und Entwicklungszentren in die Provinz, führt allzu oft zu einer anhaltenden Abhängigkeit von proprietären Technologien, anstatt zu Anpassung, Modifikation und einheimischer Innovation. Wie Chan und andere Forschende zeigen, widerspricht das Klischee des am Rande der Gesellschaft stehenden Hackers, der angeblich das geistige Eigentum der Technologiegiganten kopiert und stiehlt, der tatsächlichen Innovation. Dieses falsche Narrativ ist zum Teil das Ergebnis des Marketings; der Wahrnehmung, dass wenige, elitäre Technologieunternehmen aufgrund überlegener Innovationen ein globales Monopol besäßen.

Die unkritische Akzeptanz dieses Top-Down-Modells von Innovation und Fortschritt entspringt einer europäisch-westlich-hegemonialen Weltanschauung der aufklärerischen Vernunft, die heute mit dem globalen Siegeszug des neoliberalen Kapitalismus ihren Höhepunkt erreicht bzw. erschüttert hat. Ähnlich wie die kritischen Stimmen des Humanismus, die das ideale menschliche Subjekt mit dem modernen europäischen Menschen gleichsetzen, sehen viele Technologen den idealen User als kosmopolitischen Konsumenten der Mittelklasse. Der moralische Objektivismus von Technologieunternehmen schließt die Ansichten und Werte marginalisierter, minorisierter und anderer Bevölkerungsgruppen aus.

Technologen, die sich für das Gedeihen regionaler Innovationen einsetzen, müssen nach Mitteln und Wegen suchen, um die Technologie zu dekolonisieren und alternative Narrative zu schaffen, in denen die Technologie durch menschliches Handeln angetrieben wird. Zu den Gegenmaßnahmen gehören unzählige lokale Realitäten, anpassungsfähige Praktiken und unverwechselbare digitale Kulturen. Innovation gibt es wirklich überall auf der Welt. Es ist erwähnenswert, dass viele der heutigen Technologiezentren einst selbst im Nichts begannen. In den Anfängen war das Gebiet des Silicon Valley ein einfacher Büropark mit billigen Mietpreisen.

Das Gegenteil der von oben verordneten Silicon-Valley-Aufklärung ist die Technodiversität oder die Verbreitung von Innovationen und die Existenz von digitalen Basiskulturen. Der Philosoph Yuk Hui (Si apre in una nuova finestra) stellt fest, dass es nie ein universelles Konzept der Technologie und ihrer Repräsentationen gegeben hat.⁹ Da die Weltanschauungen zwischen und innerhalb von Kulturen variieren, kann jede universelle Definition von Technologie nur ein kolonisierender Vorschlag sein. Obwohl es oberflächliche Ähnlichkeiten zwischen den Kulturen gibt, sind die tatsächlichen Auswirkungen der Technologie vom jeweiligen Kontext abhängig. Westliche Länder und asiatische Regionen können sich folglich in eine radikal unterschiedliche digitale Zukunft entwickeln.¹⁰

Anstatt Technik und Tradition zu negieren, schreibt Hui, muss sich ein solches Programm für einen Pluralismus und eine Vielfalt von Rhythmen öffnen, indem es das Vorhandene transformiert. Die einzige Möglichkeit, dies zu tun, besteht darin, die Kategorien, die wir weitgehend als Technik und Technologie akzeptiert haben, zu entwerfen und neu zu gestalten. Huis Ziel ist die Erneuerung der Kultur(en) durch regional unterschiedliche technologische Weltanschauungen, die jeweils eng mit der Tradition und den beheimateten digitalen Kulturen verbunden sind.

Die Hindernisse, die dem entgegenstehen, sind Synchronisation und Homogenität. Das weltweite Internet und die allgegenwärtigen Mobiltechnologien haben den Planeten praktisch kolonisiert und uns denselben Diensten, Marken, Gadgets und Trends unterworfen. Hui stellt fest, dass die Menschen überall von denselben digitalen Rhythmen geprägt sind: Nachrichtenzyklen, beliebte YouTube-Kanäle, Trends auf Tik-Tok, täglich gepostete Rätselergebnisse für Wordle und Candy-Crush-Highscores.¹¹ Die Lösung? Die Koevolution von Technologie und lokalen Traditionen zu ermöglichen und gleichzeitig den kolonisierenden Tendenzen von Unternehmens- und Staatstechnologien zu widerstehen.

Westliche Stereotypen über chinesische Technologien tendieren dazu, ausschließlich den Big-Brother-Überwachungsstaat und eine Industrie zu sehen, die auf aus dem Westen gestohlenem geistigen Eigentum aufbaut. Die Realität – oder unzählige parallele Realitäten – umfasst ein breites Spektrum an technologischer Innovation und Anpassung. Die chinesische Überwachung und die soziale Einstufung der Bürger*innen nach Beziehungen, Einkaufsgewohnheiten, Reisen und undurchsichtigen bürokratischen Kriterien sind beängstigend, gleichwohl dies auch für die alltäglichen Eingriffe der Unternehmensüberwachung gilt, die die Menschen hier, im Westen, scheinbar mit Leichtigkeit hinnehmen. Wenngleich sich diese beiden Praktiken hinsichtlich ihrer Qualität deutlich unterscheiden.

Von der Kopie zum Original

Der chinesische Begriff Shanzhai, der eigentlich Gebirgsdorf bedeutet, bezieht sich heute abwertend auf nachgeahmte Konsumgüter wie Smartphones oder Luxuskleidung, die zu niedrigeren Kosten als die Originalware vermarktet werden. Shanzhai werden oft als qualitativ minderwertig wahrgenommen, doch manche Produkte besitzen einen gewissen Kitschwert, der technische Mängel entschuldigt. Das Konzept hat sich mit positiveren Konnotationen weiterentwickelt. Autorinnen wie Xiaowei Wang (Si apre in una nuova finestra) haben das Shanzhai-Konzept durch Assoziationen mit kreativem Hacking, technischem Einfallsreichtum und innovativer Risikobereitschaft in China aufgewertet. Dabei sind daraus resultierende Produkte oft besser als die „Originale“.

Im Falle von Mobiltelefonen, dem Inbegriff des Shanzhai-Produkts, werden Technologien durch die Adaption lokal nützlicher Funktionen wie einer Kamera-App, die gefälschte Yuan erkennen kann, oder einem Modus, der die Verfolgung der VPN-Nutzung verhindert, überlegen. Viele Shanzhai verfügen über Open-Source-Betriebssysteme oder frei zugängliche Hardware-Spezifikationen. Smartphones sind bekannt für ihre Reparaturfreundlichkeit und die Möglichkeit, sie kostengünstig zu modifizieren und aufzurüsten. Wang erklärt in ihrem Buch Blockchain Chicken Farm, wie Designer*innen und Ingenieur*innen neuer Shanzhai-Produkte auf der Arbeit der anderen aufbauen, indem sie diese dezentral kopieren, wiederverwenden und neu aufbauen.

Wang beschreibt den Huaqiangbei-Markt in Shanghai, auf dem alle erdenklichen technologischen Produkte zum Verkauf angeboten werden: Hologramm-Generatoren, 3D-Drucker und modulare Mobiltelefone. Du möchtest einen besseren Arm, neue Augen, längere Beine? Schau am Cyborg-Stand vorbei! Zumindest soll es in Zukunft so sein. ¹²

The new emerges from surprising variations and combinations. The shanzhai illustrates a particularly type of creativity. Gradually its products depart from the original, until they mutate into originals themselves.¹³

Byung-Chul Han

Kopien vermehren sich, um sich dann in etwas Neues zu verwandeln. Sie werden selten unter Verwendung proprietärer Hard- und Software hergestellt, auf die sich die Verbrauchertechnologien im Westen verlassen, um den Profit aus geplanter Veralterung und kostspieligen Upgrades/Reparaturen zu maximieren. Shanzhai dekolonisieren die Technologie mit Methoden, die dem Technokapitalismus entgegengesetzt sind. Sie zeigen, wie lokale digitale Kulturen sich anpassen und gedeihen können, indem sie mit dem technologischen Universalismus brechen.

Die Bindung an Kultur, Gemeinschaft, Menschen und Ort ist stärker als jede importierte Technologie. Bis jetzt. Dennoch kolonisiert die Technologie weiterhin den Planeten und berührt alles. Wir sind uns des erschreckenden Ausmaßes, in dem unsere privaten Vorstellungen und öffentlichen Bestrebungen von Geräten und digitalen Medien geprägt werden, nur schemenhaft bewusst. Wenn Gesellschaften einen Anschein von Tradition und lokaler Verbundenheit aufrechterhalten können, dann bleiben Werkzeuge verfügbar, um die universelle Rhythmik herauszufordern und ihr zu widerstehen. Die technologische Vielfalt wird Wege zu einer optimistischeren Zukunft schaffen, zu Besonderheiten, die den menschlichen Fortschritt vervielfachen werden. An diesem kritischen Punkt könnten uns unsere Technologien zerstören. Oder sie könnten uns befähigen, die Zukunft, die wir bewohnen wollen, zu antizipieren und zu gestalten.

Für eine entferntere Zukunft zu planen bedeutet nicht, sich an dogmatische Programme zu binden. Pläne können provisorisch, elastisch und ständiger Revision unterworfen sein. Flexibilität heißt aber nicht Kurzsichtigkeit. Damit wir die Technokratie hinter uns lassen, müssen unsere gesellschaftsbezogenen Zeithorizonte sich Jahrzehnte, ja Generationen in die Zukunft erstrecken. Das verlangt mehr als eine Verlängerung der formellen Planung. Es bedeutet, daß der gesamten Bevölkerung ein neues, der gesellschaftlichen Dimension aufgeschlossenes Zukunftsbewußtsein vermittelt werden muss.¹⁴

Alvin Toffler

¹ Eva Wolfangel, „Programmierter Rassismus“, https://www.zeit.de/digital/internet/2018-05/algorithmen-rassismus-diskriminierung-daten-vorurteile-alltagsrassismus (Si apre in una nuova finestra)

² Sarah Chander, „Eine neue Ära“, https://netzpolitik.org/2020/eine-neue-aera/ (Si apre in una nuova finestra)

³ Vgl. FES, „Mapping der Plattformökonomie“, https://www.fes.de/politik-fuer-europa/detailseite-startseite/mapping-der-plattformoekonomie (Si apre in una nuova finestra)

⁴ Vgl. Mahendra Prasad, „Nicolas de Condorcet and the First Intelligence Explosion Hypothesis“ https://ojs.aaai.org/index.php/aimagazine/article/download/2855/2746 (Si apre in una nuova finestra)

⁵ Vgl. Oliver Krüger, „Virtualität und Unsterblichkeit. Gott, Evolution und die Singularität im Post- und Transhumanismus.“, Freiburg i.Br./Berlin/Wien 2019, S. 249.

⁶ Alan Turing/B. Jack Copeland, „The Essential Turing: Seminal Writings in Computing, Logic, Philosophy, Artificial Intelligence, and Artificial Life, plus the Secrets of Enigma“, Oxford 2004, S. 475.

⁷ Vgl. Irving John Good, „Speculations Concerning the First Ultraintelligent Machine“, in: Franz L. Alt, Morris Rubinoff (Hrsg.), Advances in Computers, New York/London 1965, S. 31 – 88.

⁸ Vgl. Richard Stallman, „FLOSS und FOSS“, https://www.gnu.org/philosophy/floss-and-foss.de.html (Si apre in una nuova finestra)

⁹ Vgl. Yuk Hui, „Cosmotechnics as Cosmopolitics“, https://www.e-flux.com/journal/86/161887/cosmotechnics-as-cosmopolitics/ (Si apre in una nuova finestra)

¹⁰ Vgl. Alexander van Wijnen, „Chinese philosopher Yuk Hui: Technology has multiple futures“, https://www.freedomlab.com/posts/chinese-philosopher-yuk-hui-technology-has-multiple-futures (Si apre in una nuova finestra)

¹¹ Vgl. Yuk Hui, „The Question Concerning Technology In China. An Essay in Cosmotechnics“, Falmouth 2016, S. 281.

¹² Vgl. Xiaowei Wang, „Blockchain Chicken Farm: And Other Stories of Tech in China's Countryside“, New York 2020, S. 132.

¹³ Byung-Chul Han, „Shanzhai: Deconstruction in Chinese“, Berlin 2011, S. 56.

¹⁴ Alvin Toffler, „Der Zukunftsschock“, Bern/München/Wien 1970, S. 361f.