Autor Matthias Hornschuh über KI

Beim German Creative Economy Summit in Hamburg diskutiert die Kreativbranche auch über KI und ihre Folgen für Kunst. Wir haben mit Matthias Hornschuh, einem der Speaker auf dem Treffen, vorab über schöpferische Arbeit, enteignete Urheber und knallharte Machtinteressen hinter dem KI-Hype gesprochen

Herr Hornschuh, Ihr Buch soll kein klassisches KI-Buch sein, sondern eines über Menschen und Gesellschaft. Ist die aktuelle Debatte eher technologisch oder ideologisch?

Es bringt wenig, über KI zu sprechen, wenn man glaubt, man könne die Diskussion auf Technologie beschränken. Wer etwas über Large-Language-Modelle weiß, weiß noch lange nichts über sich selbst. Und genau da liegt das Problem. Wir haben es mit Systemen zu tun, die uns auf eine Weise ansprechen, die unsere sozialen Reflexe aktiviert. Das kennen wir seit den 1960er-Jahren, seit Joseph Weizenbaums ELIZA-Experiment. Wir neigen dazu, solchen Systemen Vertrauen entgegenzubringen, weil wir Kommunikations- und Kooperationstiere sind. Diese Systeme sind freundlich, verbindlich, bedanken sich für jede Nachfrage und wirken dabei immer sehr überzeugt von dem, was sie uns gegenüber ausdrücken, obwohl sie gar keine Überzeugungen haben können. Das ist für viele Menschen eine Überforderung, zumal für solche, die nicht darin geschult sind, ihre eigenen Reaktionen zu beobachten.

Nennen Sie doch bitte ein Beispiel.

Ich habe kürzlich mit einem KI-System zweieinhalb Stunden an einem Excel-Problem gearbeitet. Am Ende hatte ich nichts außer Zeitverlust. Aber ich bin in diesen Modus geraten: "Noch ein Versuch, noch zehn Minuten." Das ist empirisch beschrieben: Wir werden in der Interaktion gehalten, während die Effizienzgewinne oft ausbleiben.

Dabei ist das doch das größte Versprechen der KI: Effizienz und Produktivität …

Doch die Effizienzzugewinne sind nicht so groß, wie sie uns versprochen werden. Man verbringt viel Zeit mit der Generierung und danach noch einmal viel Zeit damit, die Ergebnisse zu korrigieren und zu überprüfen. Daraus ergibt sich eine ganz grundlegende Rationalitätsfrage. Wir haben es mit bedeutungsagnostischen Systemen zu tun, die rein wahrscheinlichkeitsbasiert arbeiten und nicht auf der Basis von Verstehen oder von Weltbezug. Wenn man das nicht begreift, ist man umso anfälliger dafür, sich von ihnen einnehmen zu lassen.

Sie sprechen von KI als "wahrscheinlichkeitsbasierter Imitation". Was fehlt ihr zur Kreativität?

Intentionalität. Absicht. Man kann das mit "Malen nach Zahlen" vergleichen: Das kann ein sinnvoller Lernschritt sein, aber es ist nicht kreativ. Wir lügen uns in die Tasche, wenn wir wirklich glauben, Claude oder ChatGPT seien kreativ. Sie haben keine Absicht, sondern eine Programmierung, die vorsieht, dass sie immer antworten.

Kann KI im künstlerischen Prozess trotzdem sinnvoll als Werkzeug eingesetzt werden?

Mit dem Begriff "Werkzeug" oder "tool" bin ich vorsichtig, er lädt dazu ein, ihn misszuverstehen im Sinne einer Freigabe. Welches Problem soll denn eine KI für mich lösen, wenn es darum geht, mich auszudrücken? Das ist für mich eine wirklich absurde Vorstellung. In mein Buch habe ich viel Arbeit gesteckt, um das Thema so konkret zu verdichten. Ich musste für mich erst einen Weg finden, und das war dann die Entscheidung, dass es ein Ich in diesem Buch geben wird. Der Knoten hat sich gelöst, als diese konzeptionelle Entscheidung gefallen ist. Für sowas gibt es keinen Short Cut. Doch wenn ich weiß, was ich will, kann ich mit einem Chatbot Pingpong spielen.

Wie geht das?

Ich kenne eine Autorin, die sich in einem fortgeschrittenen Schreibprozess die Muster in ihren Texten anzeigen lässt. Dann erkennt sie plötzlich rote Fäden, die sie selbst unbewusst gelegt hat. Das ist sinnvoll, weil es mit dem arbeitet, was diese Systeme tatsächlich können: Mustererkennung. Aber das ersetzt keine Autorschaft. Ich kann nicht verstehen, wie man auf die Idee kommt, Autorschaft abzugeben. In unserer Kultur geht es darum, dass ich mich ausdrücke, und ich kann mich doch nicht ausdrücken lassen.

Ist es denn absolut ausgeschlossen, dass KI jemals selbst etwas wie Autorenschaft entwickelt?

Nicht die generative KI. Die steckt zudem unter einer gläsernen Decke. In dem Tempo, das wir zuletzt erlebt haben, geht es jedenfalls nicht weiter. Diese Geschwindigkeit hat den Eindruck erzeugt, es handle sich um eine unaufhaltsame Naturgewalt. Das ist Unfug. Der vermeintliche Fortschritt ist kein technologischer, sondern ein Wachstum von Ressourcen wie Server, Wasser und Strom. Tatsächlich handelt es sich um einen disruptiven Markteintritt, erkauft mit enormem Kapitaleinsatz. Technologie lässt sich dabei nicht von ihren Vertriebs- und Entwicklungsstrukturen trennen, also nicht von den Kapitalinteressen, die sie antreiben. Vor diesem Hintergrund gibt es keinen Anlass anzunehmen, dass auf diesem Niveau eine Form von Bewusstsein entsteht. Ohne Bewusstsein aber keine Kreativität, keine Kunst. Was soll ausgedrückt werden, wenn es kein Subjekt gibt, das etwas ausdrückt?

Kurz zusammengefasst: Ihrer Meinung nach ist entscheidend, dass für künstlerischen Ausdruck ein eigener Rahmen formuliert wird, in dem KI dann durchaus eingesetzt werden kann, ohne dass allzu viel an Ausdruckskraft verloren geht?

Mir geht es weniger darum, ob man KI einsetzen kann, sondern ob man selbst die Fähigkeiten mitbringt, den Steuerhebel in der Hand zu behalten. Wenn sich viele Leute inzwischen Beats oder Gesangslinien generieren lassen, dann sollte man genau hinschauen, was da eigentlich passiert. Erstens haben wir es mit Systemen zu tun, die auf Diebstahl beruhen. Das heißt, ich habe von Anfang an ein ethisches Problem gegenüber Kolleginnen und Kollegen, aber auch gegenüber Clickworkern im globalen Süden. Die Verschlagwortung der Datenkorpora, mit denen diese Modelle trainiert wurden, fällt ja nicht vom Himmel, sondern ist das Ergebnis oft prekärer, teils kolonial geprägter Arbeitsverhältnisse. Zweitens sollte man sich bewusst machen, dass alles, was ich einspeise, ins Training dieser Systeme einfließt. Ich verschenke damit meine zentrale Ressource, das, was eigentlich meine künftige Lebensgrundlage sein könnte. Und ich bekomme es nicht zurück. Eine der Grundtatsachen dieser Technologie ist: Sie kann nicht "entlernen". Was einmal drin ist, bleibt drin. Das ist auch der Kern der Urheberrechtsdebatte.

Wo stehen wir da?

Als die "New York Times" Ende 2023 gegen OpenAI geklagt hat, war das in vieler Hinsicht wegweisend, nicht nur wegen der Klage selbst, sondern wegen ihrer Begründung. Dort wurden seitenweise Originaltexte hinter der Paywall den Ausgaben eines Modells gegenübergestellt, die sich teilweise nur durch ein einziges Wort unterschieden. Das ist ein offensichtliches Plagiat. Sollte die "New York Times" in diesem Verfahren gewinnen, was noch offen ist, müssten entsprechende Modelle eigentlich gelöscht werden, weil es keine andere Möglichkeit gäbe, dem gerecht zu werden. Praktisch wäre das allerdings fast trivial, weil diese Modelle ohnehin schnell veralten. Es würde also ein älteres Modell verschwinden, ohne dass sich grundlegend etwas ändert. Der irreversible Schaden wäre allerdings längst entstanden. Genau mit solchen Fragen beschäftigt sich die Regulierung derzeit: Was steckt tatsächlich in diesen Modellen? Handelt es sich um Vervielfältigungen? Wenn ja, sind sie lizenzpflichtig und wer ist dann zahlungspflichtig?

Sie sprechen von "Entwertung der Wissensarbeit". Was meinen Sie damit?

Die KI ist ein Brandbeschleuniger, nicht die Ursache des Problems. Wir haben es mit einer tiefgreifenden, seit Langem bestehenden Entwicklung zu tun, deren Dynamik durch die Digitalisierung massiv zugenommen hat. Corona hat darauf wie das viel zitierte Brennglas gewirkt. Spätestens da hätte klar sein können, wie dramatisch die Lage ist, wie unverstanden die Welt der Kunst- und Kulturarbeiter bleibt und wie unzureichend sie etwa rechtlich oder sozialpolitisch übersetzt ist. Nun kommt KI hinzu und beschleunigt diese Prozesse weiter. Es geht dabei längst nicht mehr nur um Entwertung, sondern um Enteignung und um die Automatisierung von etwas, das auf menschlichem Ausdruck beruht. Dass so viele Menschen dafür Euphorie entwickeln, etwas, was sie im Kern ausmacht, nicht mehr selbst tun zu müssen, ist bemerkenswert. Mich interessiert wenig, ob Gerhard Richter die einzelnen Glasstücke seines Domfensters im Kölner Dom selbst zusammengesetzt hat. Entscheidend ist, dass er das Werk ermöglicht, geschaffen und mit einer Intention versehen hat. Jeden Tag stehen dort Menschen und lassen sich von den Farbreflexionen berühren, wenn das Licht durch die Fenster fällt. Das ist das Kommunikative an Kunst: die Fähigkeit, jemanden absichtsvoll zu erreichen, mit Menschen in Beziehung zu treten. Eine Berührung kann empirisch betrachtet auch bei KI-generierten Inhalten stattfinden. Aber die Menschen wollen das nicht. Eine Studie von Ipsos für die Streamingplattform Deezer zeigt: 97 Prozent der Nutzer können nicht zuverlässig zwischen KI- und menschengemachter Musik unterscheiden. Gleichzeitig sagen 64 Prozent klar, dass sie keine KI-Musik hören wollen. Sie wollen nicht von einem Staubsaugerroboter berührt werden, sondern von einem Menschen. Was soll ein Staubsaugerroboter von Liebeskummer erzählen? Unternehmen agieren gegen den erklärten Willen ihres Publikums, wenn sie ihm permanent solche Inhalte unterjubeln. 

Was genau meinen Sie eigentlich mit "Wissensarbeit"?

Starre Kategorien wie Kultur- und Kreativwirtschaft, Förderkultur, öffentlich-rechtlicher Rundfunk oder Wissenschaft trennen und verstellen so den Blick aufs Ganze. Wenn wir uns als Wissensgesellschaft begreifen, müssen wir fragen: Wer erarbeitet eigentlich das Wissen, auf dem diese Gesellschaft beruht? Das sind nicht nur Akteurinnen und Akteure im Kulturbetrieb, sondern alle, die schöpferisch tätig sind. Wissenschaft etwa ist ohne Autorschaft gar nicht denkbar. Wenn man das zusammendenkt, sehen wir überall ähnliche Verschiebungen, ob wir auf Open-Access-Modelle in der Wissenschaft blicken, auf die oft marginalisierte Stellung von Künstlerinnen und Künstlern im Fördersystem oder auf die Streamingökonomie der Musik, in der Konzerne enorme Gewinne erzielen, während viele Urheber kaum noch über die Runden kommen. Der Kulturwirtschaftsforscher Michael Söndermann hat kürzlich im Umfeld der Leipziger Buchmesse gezeigt, dass sich dieser Trend inzwischen auch empirisch fassen lässt: Die Zahl der Autorinnen und Autoren geht zurück, das erkennt man anhand der Daten der Künstlersozialkasse. Das deutet darauf hin, dass die Basis zu erodieren beginnt, was eine grundsätzliche Frage aufwirft: Wie wollen wir in globalen Wettbewerben innovationsfähig bleiben, wenn genau diese Basis schwindet? Innovation ist nicht gleich Computertechnologie, sie entsteht in Köpfen. Damit sind wir beim Urheberrecht. Es ist im Kern ein Innovationsschutzrecht: Es soll die Hervorbringung von Neuem ermöglichen und anreizen. Wenn wir dieses Prinzip infrage stellen, müssen wir beantworten können, woher das Neue künftig kommen soll und wovon diejenigen leben, die es professionell hervorbringen. Auf diese Frage gibt es derzeit keine überzeugende Antwort.

Wer profitiert von dieser Entwicklung?

Wir stoßen immer wieder auf die Vorstellung, hier entfalte sich etwas naturgesetzlich und es sei deshalb sinnlos, sich dem entgegenzustellen. Das ist schlicht falsch. Tatsächlich haben wir es mit handfesten Konzern- und Kapitalinteressen zu tun. Wie lässt sich erklären, dass ein Unternehmen wie OpenAI innerhalb kürzester Zeit zu einem globalen Akteur aufsteigt, der sich in politische Prozesse einmischt? Oder dass ein Konzern wie Google täglich enorme Summen in KI-Infrastruktur investiert, Summen, die sich kurzfristig gar nicht amortisieren? Dahinter stehen strategische Absichten. Die Technologie selbst liefert keine Antworten auf die Probleme, die sie hervorbringt. Man muss die Strukturen in den Blick nehmen, in denen sie entsteht, und die Akteure, die sie steuern. Erst daraus ergibt sich überhaupt die Grundlage für so etwas wie Risikoabwägung oder Folgenabschätzung. Und genau hier zeigt sich derzeit eine deutliche Verschiebung: Die Unternehmen, um die es geht, agieren zunehmend als geopolitische Akteure. Spätestens seit der erneuten Amtseinführung von Donald Trump ist das unübersehbar. Es geht längst nicht mehr nur um Märkte, sondern um Macht. Die zugrunde liegende Logik ist dabei oft erstaunlich schlicht: "Might is right". Es gibt zahlreiche Hinweise darauf, dass führende Köpfe und Kapitalgeber diese Haltung teilen, nach dem Motto: Kümmert euch nicht ums Recht, wenn ihr lange genug durchhaltet, habt ihr ohnehin genug Geld, um jeden Anwalt der Welt zu bezahlen. Vor diesem Hintergrund wird eine 230-Millionen-Euro-Strafe für wettbewerbsrechtliche Verstöße in der EU aus der Kaffeekasse bezahlt.

Tech-CEOs werden also vermutlich keine Verantwortung übernehmen. Was muss passieren?

Ich würde mir zunächst von allen schöpferisch Tätigen ein stärkeres kritisches Bewusstsein wünschen. Mir scheint, dass viele stillschweigend in Kauf nehmen, dass andere auf der Strecke bleiben. Man kann das als egoistisch bezeichnen, vielleicht ist es in Teilen auch einfach ein rationales, auf Effizienz ausgerichtetes Verhalten. Aber aus meiner Perspektive hat es häufig etwas von Krisengewinnlertum. Es geht darum, eine bestehende Krisensituation auszunutzen, um für sich selbst einen Vorteil zu generieren. Und genau so wird es uns ja auch ständig verkauft: als Chance im Umbruch.

Wer gewinnt denn außer den Konzernen?

Nehmen wir jemanden mit gutem Marktzugang: Für diese Person kann es äußerst attraktiv sein, den Output weiter zu steigern. Wer viel produziert und auf hohe Nutzungszahlen kommt, hat deutlich bessere Chancen auf ein stabiles Einkommen. Aber damit wird in Kauf genommen, dass andere auf der Strecke bleiben, zumal diese Systeme diebstahlsbasiert und nicht nachhaltig sind. Und es gibt Gründe zu überlegen, ob man nicht tatsächlich das Publikum auch entwöhnt: Wenn das Publikum dauerhaft mit generischen Inhalten gefüttert wird, ist der Schritt zur vollständigen Ersetzung durch generative Systeme nicht mehr weit. Ich würde mir deshalb ein stärkeres Bewusstsein wünschen, mehr Neugier für die Zusammenhänge, auch für die politischen Dimensionen. Unser Konsumverhalten ist politisch. Man kann sich bewusst dafür entscheiden, bestimmte digitale Infrastrukturen nicht zu nutzen. Damit sind wir beim Thema digitale Souveränität. Europa muss hier eigenständig werden, infrastrukturell wie intellektuell. Es kann nicht die Lösung sein, jeden neuen Ausbau durch internationale Großkonzerne zu feiern, wenn die Wertschöpfung zu großen Teilen anderswo entsteht, etwa bei Chip-Herstellern wie Nvidia, während lokal vergleichsweise wenig bleibt. Wenn wir wirklich unabhängig agieren wollen, müssen wir eigene Strukturen aufbauen, und das ist eine Kraftfrage. Abhängigkeit bedeutet am Ende den Verlust von Souveränität. Und Souveränität entsteht nicht auf Servern, sondern in Köpfen. Deshalb gehört auch die Bildung in den Blick: Wir brauchen neben technologischer Kompetenz wieder eine stärkere humanistische Ausrichtung. Die einseitige Fokussierung auf MINT-Fächer hat ihre Grenzen gezeigt. Es geht darum, Menschen zu befähigen, selbst zu denken, zu schreiben, sich auszudrücken, in Kunst, Wissenschaft, Theater, Musik oder Sport. Denn genau dort entsteht das, was wir am Ende verteidigen wollen.

Würden Sie jungen Menschen noch raten, Kunst zu studieren?

Wir befinden uns in einer Situation, in der die Gesellschaft die Arbeitsmärkte, für die sie junge Menschen auf eigene Kosten ausbildet, nicht ausreichend schützt. Das muss man klar benennen. Gleichzeitig gilt: Wer eine künstlerische oder musikalische Ausbildung ernsthaft durchläuft, entwickelt Fähigkeiten, die weit über das Handwerkliche hinausgehen. Man lernt, eine Vorstellung von etwas zu entwickeln, das man realisieren will, Konzepte zu entwerfen und dabei auch ein Publikum mitzudenken. Genau das ist Professionalisierung im künstlerischen Sinn. Ob es in zehn, fünf oder sogar drei Jahren noch dieselbe Musik- oder Filmwelt gibt wie heute, weiß niemand. Die Entwicklungen sind zu schnell geworden. Dazu kommt, dass sich durch geopolitische und ökonomische Verschiebungen auch Märkte selbst verändern. Niemand kann sicher sagen, wie stabil bestimmte kulturelle Ökosysteme bleiben. Mein Rat ist deshalb kein klassischer Rat im Sinne einer Garantie. Wenn jemand wirklich spürt, dass er oder sie das will, dann weiß er oder sie es im Grunde schon selbst. Dann braucht es meinen Rat nicht mehr. Wenn man ihn trotzdem hören will: Ja, mach es.