Meldung,
Neuer UNESCO-Bericht warnt vor Falschinformationen über den Holocaust durch KI
Ein neu erschienener UNESCO-Bericht warnt davor, dass KI die historische Darstellung des Holocausts verfälschen und Antisemitismus schüren könnte, wenn nicht entschiedene Maßnahmen zur Anwendung ethischer Grundsätze ergriffen werden.
Der Bericht warnt, dass generative künstliche Intelligenz nicht nur Akteure in die Lage versetzen kann, Desinformationen und hassgetriebene Narrative zu verbreiten, sondern dass sie auch unbeabsichtigt falsche oder irreführende Inhalte über den Holocaust erfinden kann.
Generative KI muss anhand großer Datenmengen trainiert werden. Diese Daten werden häufig aus dem Internet gewonnen und können irreführende oder schädliche Inhalte enthalten. KI-Systeme erben daher menschliche Voreingenommenheit und können Informationen über bestimmte Ereignisse falsch darstellen und Vorurteile verstärken. Dies gilt insbesondere im Zusammenhang mit dem Holocaust, da Desinformationen über dieses Ereignis weit verbreitet sind. Der Bericht stellt fest, dass generative KI-Tools aufgrund mangelnder Überwachung, Anleitung und Moderation durch KI-Entwickler auch auf Daten von Holocaust-Leugner-Websites trainiert werden können.
Außerdem habe sich gezeigt, dass KI Akteure in die Lage versetzt, Inhalte im Zusammenhang mit dem Holocaust zu verfälschen, Zeugenaussagen zu fälschen und sogar historische Aufzeichnungen zu verändern. Mit generativer KI erstellte gefälschte Bilder und Audioinhalte sind besonders für junge Menschen überzeugend, die ihnen auf Social-Media-Plattformen begegnen können.
Generative KI-Modelle neigen dazu, Ereignisse, Persönlichkeiten und sogar historische Phänomene zu erfinden oder zu "halluzinieren", wenn sie keinen Zugang zu ausreichenden Daten haben. Neben dem Risiko von Manipulationen und "Halluzinationen", die etablierte Fakten und das Vertrauen in Experten untergraben, unterstreicht der Bericht auch die Gefahren der KI, die dazu neigt, komplexe Geschichte zu stark zu vereinfachen, indem sie ein enges Spektrum von Quellen und eine kleine Auswahl von Ereignissen bevorzugt. In Suchmaschinen, die von KI angetrieben werden, sind 60-80 % der ersten Bildergebnisse von einem einzigen Ort des Holocaust, nämlich Auschwitz-Birkenau.
"If we allow the horrific facts of the Holocaust to be diluted, distorted or falsified through the irresponsible use of AI, we risk the explosive spread of antisemitism and the gradual diminution of our understanding about the causes and consequences of these atrocities. Implementing UNESCO’s Recommendation on the Ethics of AI is urgent so that younger generations grow up with facts, not fabrications."
"Wenn wir zulassen, dass die schrecklichen Fakten des Holocaust durch den unverantwortlichen Einsatz von KI verwässert, verzerrt oder verfälscht werden, riskieren wir die explosionsartige Ausbreitung von Antisemitismus und die allmähliche Verschlechterung unseres Verständnisses der Ursachen und Folgen dieser Gräueltaten. Die Umsetzung der UNESCO-Empfehlung zur Ethik der künstlichen Intelligenz ist dringend erforderlich, damit die jüngeren Generationen mit Fakten und nicht mit Fälschungen aufwachsen."
Audrey Azoulay
UNESCO-Generaldirektorin