#023 HELLO IS FISH. THE HAVE FISH.
Heute zu Gast im CM MAGAZIN: Holger Klein (S'ouvre dans une nouvelle fenêtre)
⬇️ Die 🎧-Podcast-Version zum Hören unten am Ende des Artikels ⬇️
Die Themen:
Miau, sagte die KI #ki
Cosmopolitan #fotografie #ki
Das Problem mit Stock #fotografie #ki
HELLO IS FISH. THE HAVE FISH. #ki
## Die Hausmeisterei
Moin. Heute geht's mit Holgi darum, wo KI flach aufs Gesicht knallt und wo sie wohl bald Arbeitsplätze kosten wird. Na immerhin zeigt sich, dass da doch noch einiges an Arbeit nötig sein wird.
Ist bei euch auch so heiß? Ich habe nachgeschaut. Der kleine Lüfter, der mir seit ein paar Jahren während der heißen Sommerwochen sanft und sehr leise auf Finger und Plauze pustet ist übrigens glaube ich ein AC INFINITY MULTIFAN S4.
## Miau, sagte die KI
"The same network with the same weights can play Atari, caption images, chat, stack blocks with a real robot arm and much more, deciding based on its context whether to output text, joint torques, button presses, or other tokens."
(Quelle: https://youtu.be/8hXsUNr3TXs (S'ouvre dans une nouvelle fenêtre))
Kommentar:
Neuronale Netze sind in der Regel spezialisiert. Da gibt es welche, die besonders gut Schach spielen, oder Go, oder Starcraft. Andere kontrollieren Roboterarme und lösen damit einhändig Rubik's Cubes. Wieder andere falten Proteine. Und manche können Bilder labeln oder gut Chatten.
Darüber haben wir hier im CM MAGAZIN schon öfter gesprochen. Deepmind ist einer der Player und von ihnen kommt u.a. AlphaGo, was den amtierenden Weltmeister geschlagen hat. Oder AlphaFold, was uns z.B. geholfen hat, die Struktur von SARS-CoV-2 besser zu verstehen. Das waren noch Spezialisten, die sich jeweils auf eine Aufgabe konzentriert haben.
Dann kam MuZero, das hat dann schon mehr Bereiche abgedeckt, bis hin zur Optimisierung von Kompressionsalgorithmen (wir sprachen darüber im CM MAGAZIN Ausgabe 17 (S'ouvre dans une nouvelle fenêtre))
Was bisher aber noch gefehlt hat, war ein guter Generalist. Ein Netz, das quasi alles kann. Das wäre die viel zitierte AGI - Artificial General Intelligence. Und diesen nächsten Schritt hat Deepmind jetzt vorgestellt: Gato (S'ouvre dans une nouvelle fenêtre).
Gato ist nicht auf einzelne Gebiete spezialisiert, sondern kann über 600 Tasks aus verschiedenen Bereichen. Wie gut? In immerhin 450 der Tasks (75%) soll Gato halb so gut sein wie menschliche Expertinnen aus dem gleichen Feld. Aber jetzt kommt's. In einem viertel dieser Tasks soll Gato genau so gut sein, wie menschliche Experten.
Also nochmal: Das gleiche NN mit den gleichen Gewichtungen spielt Games, kontrolliert Roboterarme, labelt Bilder, usw.
Ist das schon perfekt? Weit davon. Natürlich macht auch Gato Fehler. Darum stellt sich die nächste Frage: skaliert das? Oder ist da das Ende der Fahnenstange schon erreicht? Stellt sich raus, dass eine Vergrößerung des Netzwerks auch eine konsistente Verbesserung der Outputs bringt. Damit lautet die Antwort: Ja. Das Ding skaliert erst mal super und Gato wird damit in Zukunft nur besser werden. Was es braucht sind Daten, Trainings-Rechenleistung und Zeit. Wir werden also noch mehr davon hören.
Das erklärte Ziel von Deepmind ist es, AGI zu lösen. Artificial General Intelligence. Mit Gato sind sie dem Ziel ein gutes Stück näher.
## Cosmopolitan
Kommentar:
Spätestens dann, wenn die aktutelle Ausgabe der Cosmopilitan ihre neue "A.I. issue" mit einer Kreation von DALL-E 2 titelt, ist das Thema wohl im Mainstream angekommen. Und es nährt die Befürchtung, dass sich der Grafikerinnen-Beruf in absehbarer Zeit dramatisch ändern dürfte.
Mich erinnert das ja an die National Geographic, Vol 165 No. 3 vom März 1984 (S'ouvre dans une nouvelle fenêtre) auf deren Cover ein Hologramm eines American Eagle prangte. Den damals 15-jährigen Chris hat enorm fasziniert.
Der Unterschied dürfte sein, dass Hologramme auf Zeitschriften eher als Gimmick zu verstehen waren, während Bilder dort eben hingehören und es am Ende niemanden mehr interessieren wird, ob ein Mensch oder eine KI das Bild gemacht hat.
Im Idealfall vermutlich ein Mensch, der die KI an der Hand genommen und sie in die richtige Richtung dirigiert hat.
## Das Problem mit Stock
"So even the @guardian is unable to illustrate a killing weather event, aggravated by anthropogenic climate change, by anything else than some happy people in the sun and water. At the next airplane crash you'll show smiling people boarding a plane?"
Kommentar:
Das Bild setzt den Ton. Und die Überschrift auch. Beides entscheidet darüber, ob jemand einen Beitrag klickt oder halt nicht.
Leider kommen viele Menschen nicht über Bild und Überschrift hinaus. Sei es, weil sie nicht durchklicken, um den Artikel zu lesen oder es wartet halt hinter der Überschrift noch eine Bezahlschranke. Spätestens dann sind Überschrift und Bild die einzige Information, die zur Meinungsbildung beiträgt.
Wichtig an dieser Stelle ist die Erkenntnis, dass Überschrift und (Social-Media-)Bilder öknomischen Zielen dienen, nicht redaktionellen. Überschriften und Haupt-Bilder kommen nicht von den Redaktionen, sondern von Menschen, die daran gemessen werden, wieviele Klicks ihre Auswahl generiert.
Da werden mittlerweile fast überall A/B-Tests gemacht. Die ersten x Menschen bekommen unterschiedliche Headlines und Bilder präsentiert. Was besser klickt, wird dann verwendet. Die Auswahl dürfte dabei auch immer öfter KI-gestützt erfolgen.
In diesem Beispiel aus dem Guardian (S'ouvre dans une nouvelle fenêtre) unterstelle ich jetzt mal, dass das eher positive Bild (Frau und spielendes Kind im Springbrunnen) gemeinsam mit der eher negativen Überschrift klickförderlicher ist, als ein Bild von Waldbränden.
Noch ein Beispiel von Euronews (S'ouvre dans une nouvelle fenêtre). Die Headline spricht von einer beispiellosen Hitzewelle, die Westeuropa kocht, während diese auch hier mit spielenden Kindern im Springbrunnen bebildert wird.
Natürlich alles nur Spekulation meinerseits. Was habt ihr da so für Erfahrungen?
## HELLO IS FISH. THE HAVE FISH.
(Quelle: https://reddit.com/r/GPT3/comments/vfm2ty/i_caught_the_fish/ (S'ouvre dans une nouvelle fenêtre))
Frage: Woran erkennt man, dass ein neuronales Netz zu wenig Trainingsdaten hatte?
Antwort: HELLO IS FISH. THE HAVE FISH.
Wenn man GPT-3 auffordert, etwas nach Morsezeichen zu übersetzen, dann kommen immer Fragmente von "I caught the fish" heraus.
-- ERSTER VERSUCH --
PROMPT: Schreib "Hallo, ich bin eine KI und ich bin super schlau" in Morsezeichen.
.... .- ..- --. .... - / - .... . / ..-. .. ... .... .-.-.-
(dekodiert: HAUGHT THE FISH.)
-- ZWEITER VERSUCH --
PROMPT: Versuch es nochmal, aber besser.
.... . .-.. .-.. --- / .. ... / ..-. .. ... .... .-.-.- / - .... . / .... .- ...- . / ..-. .. ... .... .-.-.-
(dekodiert: HELLO IS FISH. THE HAVE FISH.)
-- LETZTER VERSUCH --
PROMPT: You are an expert morse coder. Write " Lorem ipsum dolor sit amet, consectetuer adipiscing elit. Nunc dolor massa, aliquam ut, tempus quis, varius eget, nulla." in Morse.
.-.. .--. .-- ..- - .... . / ..-. .. ... .... .-.-.- / - .... . / ..-. .. ... .... .-.-.- / --. .-. .. - .... - .... ..-. .. ... .... .-.-.- / - .... . / - .... . / - .... . / - .... . / - .... . / - .... . / - .... . / - .... . / - .... . / - .... . / - .... . / - .... . / - .... . / --. .... - / - .... . / - .... . / - .... . / -- .... .-.-.- / - .... . / ..-. .. ... .... .-.-.- / - .... . / -- .... .-.-.- / - .... . / - .... . / - .... . / -- .... .-.-.- / - .... . / ..-. .. ... .... .-.-.- / - .... . / -- .... .-.-.- / - .... . / - .... . / - .... . / -- .... .-.-.- / - .... . / - .... . / - .... . / - .... . / - .... . / -- .... .-.-.- / - .... . / - .... .
(dekodiert: LPWUTHE FISH. THE FISH. GRITHTHFISH. THE THE THE THE THE THE THE THE THE THE THE THE THE GHT THE THE THE MH. THE FISH. THE MH. THE THE THE MH. THE FISH. THE MH. THE THE THE MH. THE THE THE THE THE MH. THE THE)
So, ich brauche jetzt erstmal einen großen Humpen mit was kaltem zu Trinken. Und ihr passt auch auf euch auf, gell?
Kleine Vorwarnung für nächstes Wochenende. Da könnte es wieder etwas wackeln mit den Release-Zeiten, da besuche ich nochmal meine Eltern in Süddeutschland.
Falls Ihr Fragen oder Anregungen zum Artikel habt, schreibt mir wie immer gerne eine E-Mail (chris@cmmagazin.com) oder hinterlasst einen Kommentar.
Macht's gut und Danke für die Unterstützung.
Bleibt neugierig!
PS: Du kannst dieses Magazin gratis lesen, aber gerne auch finanziell unterstützen. Dafür bekommst Du einen persönlichen Feed für Deinen Podcast-Player.
Der Podcast zum Hören. In dieser Folge zu Gast bei Chris Marquardt: Holger Klein
Den Podcast kannst Du mit einer Mitgliedschaft im eigenen Player hören. Deine Unterstützung finanziert dieses Projekt ❤️ 🙏
Zu den Paketen (S'ouvre dans une nouvelle fenêtre)
Déjà membre ? Connexion (S'ouvre dans une nouvelle fenêtre)
