Schutz und Förderung der Vielfalt kultureller Ausdrucksformen im Kontext von KI – Digitales Werkstattgespräch der Reihe „Auswirkungen Künstlicher Intelligenz auf Kunst, Kultur und Kreativwirtschaft“

Anlässlich des UNESCO-Welttags der kulturellen Vielfalt diskutierten am 16. Mai 2024 über 120 internationale Expertinnen und Experten diese Frage als Teil der digitalen Werkstattgesprächsreihe „KI in Kunst, Kultur und Kreativwirtschaft“. Ausgerichtet wurde die Veranstaltung von den UNESCO-Nationalkommissionen Deutschlands, Luxemburgs, Österreichs und der Schweiz.

Prof. Dr. Hito Steyerl, Medienkünstlerin, Filmemacherin und Professorin an der Universität der Künste Berlin, eröffnete das Werkstattgespräch. Sie thematisierte das „Zeitalter der Mittelmäßigkeit“: Durch KI geschaffene Kulturgüter orientieren sich an dem scheinbar optimalen Mittelmaß. Dies reduziere die Vielfalt und könne die Toleranz für das Ungewöhnliche und Mehrdeutige beeinträchtigen. Steyerl gab zu bedenken, dass der fehlende Raum für Vielfalt die Polarisierung gesellschaftlicher Diskurse und Konflikte verstärken könne. Auch wies sie auf ausbeuterische und zum Teil psychisch sehr belastende Arbeitsbedingungen hin, wie z. B. die Bereinigung von Trainingsdaten von gewalttätigen oder verstörenden Inhalten für KI-Systeme durch schlecht bezahlte Arbeitskräfte in Flüchtlingslagern. Hito Steyerl appellierte: Technologische Entwicklung braucht soziale Organisation und Umverteilung, um zum sozialen Fortschritt beizutragen. Sie forderte daher, den Menschen und seine Arbeitsbedingungen in den Mittelpunkt der KI-Diskussionen zu stellen und nicht die Möglichkeiten und Grenzen der KI-Technologien.

Den zweiten Impulsvortrag hielt Prof. Dr. Peter Knees, Inhaber des UNESCO-Lehrstuhls für Digitalen Humanismus an der Technischen Universität Wien. Er beleuchtete die Funktionsweise von Empfehlungssystemen und deren Auswirkungen am Beispiel großer Musik-Streaming-Plattformen. Die Systeme seien so konzipiert, dass sie Empfehlungen auf der Grundlage des bisherigen Verhaltens und der Präferenzen ähnlicher Nutzerinnen und Nutzer geben. Die Folge sei, dass stets Ergebnisse ausgewählt werden, die sich sehr ähnlich sind, wodurch die Vielfalt kultureller Inhalte abnehme. Hier gelte es einzugreifen, um im Sinne der UNESCO-Konvention über den Schutz und die Förderung der Vielfalt kultureller Ausdrucksformen neben dem wirtschaftlichen auch den kulturellen Wert von kulturellen Gütern und Dienstleistungen zu honorieren. Entsprechende Zielkriterien könnten Fairness und Diversität sein. Für ein vielfältiges und faires digitales Ökosystem seien Anreize für Unternehmen und Mechanismen zur Auffindbarkeit lokaler Inhalte, zur fairen Vergütung von Urheberinnen und Urhebern und zur algorithmischen Transparenz notwendig, wie sie in der UNESCO-Empfehlung zur Ethik der KI gefordert werden. Peter Knees wie jedoch auch darauf hin, dass die Entwicklung von Systemen mit komplexen Filterkriterien schwierig sei. So müssten etwa die Interessen zahlreicher Akteure mit zum Teil widersprüchlichen Anliegen berücksichtigt werden. Zuallererst bräuchte es mathematisch messbare Definitionen von Fairness und Diversität.

Die praxisorientierte Sichtweise von Hito Steyerl und die wissenschaftliche Perspektive von Peter Knees machten deutlich, dass bei der Entwicklung und Nutzung von KI-Technologien der Mensch stärker in den Mittelpunkt gerückt werden muss, um die Vielfalt kultureller Ausdrucksformen zu fördern und zu schützen.

Was dafür notwendig ist, diskutierten die Teilnehmenden anschließend in vier parallel stattfindenden Fokusgruppen mit ausgewählten Expertinnen und Experten. Zum Thema Zugang zu kulturellen Inhalten gaben Isabelle Hamm, Wissenschaftlerin für digitale Kunstvermittlung, und Yasemin Keskintepe, freie Kuratorin mit Expertise zu gesellschaftlichen Auswirkungen digitaler Technologien, Einblicke in ihre Arbeit. Weiterhin wurde die Frage nach dem Schutz künstlerischer Freiheitsrechte diskutiert. Hierfür gaben Prof. Dr. Rostam Neuwirth, Professor für globale Rechtswissenschaften an der Universität Macau, Susanne Barwick vom Börsenverein des Deutschen Buchhandels, Gernot Schödl, Vorstand der Initiative Urheberrecht Österreich und Marco Urban als Verteter der Initative Urheberrecht Deutschland inhaltliche Impulse. Zum Zugang bzw. zu kultureller Vielfalt und Sprachenvielfalt tauschten sich die Teilnehmenden in englischer Sprache mit Dr. Idris Abdulmumin, Forscher für Data Science for Social Impact an der University of Pretoria und Prof. Dr. Heritiana Ranaivoson, Forschungsprofessor am imec – SMIT der Vrije Universiteit Brussel und Mitglied der UNESCO-Reflexionsgruppe zur Vielfalt kultureller Ausdrucksformen im digitalen Umfeld aus. Zu Ungleichheitsstrukturen zwischen Weltregionen und in Gesellschaften im Kontext von KI im Kulturbereich diskutierten die Teilnehmenden mit Michael Michie, Mitbegründer von Everse Technology Africa, und Dr. Tiara Roxanne, Wissenschaftlerin und Künstlerin im Bereich KI-Ethik.

Neben den möglichen Risiken für die Vielfalt kultureller Ausdrucksformen durch KI-Anwendungen wurden gerade auch die vielfältigen Möglichkeiten ihrer positiven Nutzung im Sinne einer Erweiterung kultureller Vielfalt und Ausdrucksformen diskutiert. Letztlich gilt für den Kulturbereich wie für andere gesellschaftliche Bereiche, die durch KI verändert werden: Wir Menschen sind der KI nicht „ausgeliefert“, sondern haben es weiterhin selbst in der Hand, eine menschenzentrierte Entwicklung und Nutzung von KI sicherzustellen. Diese Handlungsmöglichkeiten gilt es zu nutzen und zu fördern.

Ausgangspunkt der Gesprächsreihe bilden die Empfehlungen für den Kulturbereich der  2021 verabschiedeten UNESCO-Empfehlung zur Ethik der KI, dem ersten globalen, völkerrechtlichen Instrument in diesem wichtigen Zukunftsfeld. Sie steht im Einklang mit und ergänzt die Ziele der UNESCO-Konvention über den Schutz und die Förderung der Vielfalt kultureller Ausdrucksformen im Kontext neuer technologischer Entwicklungen. Die Deutsche UNESCO-Kommission arbeitet seit 2021 daran, dass die Empfehlung in den verschiedenen Politikfeldern als regulatorische Richtschnur verstanden und genutzt wird. Mit der digitalen Werkstattgesprächsreihe „Auswirkungen Künstlicher Intelligenz auf Kunst, Kultur und Kreativwirtschaft“ möchte sie einen offenen Austausch über den ethischen Umgang mit KI im Kulturbereich fördern und entsprechende Handlungsansätze identifizieren. Die Reihe begann im Oktober 2023 mit dem Werkstattgespräch "Künstliche Intelligenz in Kunst und Kultur – Potenziale und Risiken". Neben der letzten Veranstaltungen wurde die Diskussion auch im März 2024 zur Frage "Wie verändert (generative) KI die Arbeit im Kulturbereich?" weiter vertieft.