Virtual Anchors – wenn Avatare über News berichten
Von Silja Hallmark, Oktober 20, 2023
Künstliche Intelligenz hat in der Berichterstattung schon lange Einzug gehalten. Jetzt wird sie mit KI-Avataren sichtbar.
Seit Anfang April setzt der Westschweizer Privatsender «M Le Média» für die Präsentation des Wetters einen KI-Avatar ein. Fast drei Wochen lang hat niemand bemerkt, dass es sich bei Jade – so der Name der KI-Moderatorin – um einen Avatar handelt, bis am 20. April «20 minutes» als erste Zeitung darüber berichtete. Den Einsatz des Avatars hatte der Sender von sich aus nicht kommuniziert.
Jade, der KI-Avatar auf «M Le Média»
Einsatzbereit und hochprofessionell
Aus der Sicht von Redaktionen ist der Einsatz von KI-Systemen zur Moderation durchaus nachvollziehbar. Avatare sind rund um die Uhr einsatzbereit, sind unglaublich kostengünstig und machen beim Lesen von Texten erst noch weniger Fehler. Dadurch werden Zeit und Geld gespart und Prozesse können beschleunigt werden. Die KI-Moderation erlaubt es den Redaktionen ausserdem, schnell und einfach zu skalieren, denn neue Moderierende können mit ein paar Klicks geschaffen werden. Gerade der Kostenfaktor kann ausschlaggebend sein, damit auch Redaktionen mit schmalem Budget produzieren und so die Medienvielfalt erweitern können.
Und wir? Wie fühlen wir uns, wenn uns ein Avatar emotionslos von schrecklichen Ereignissen, Krieg und Leid berichtet? Möchten wir nicht genau in diesen Momenten Empathie und Betroffenheit sehen?
Anderson Cooper ist einer der beliebtesten Moderatoren des US-amerikanischen Nachrichtensenders CNN. Dies nicht zuletzt, weil er beim Berichten über Leid seine Betroffenheit auch sichtbar zeigt.
CNN-Reporter Anderson Coopers Stimme bricht, als er den Opfern der Schiesserei in Orlando seinen Respekt zollt.
Sollten in Zukunft alle Nachrichten von Avataren moderiert werden, würden wir Menschen uns wohl daran gewöhnen. Aber wir laufen Gefahr, dass wir immer weniger Betroffenheit erleben und unsere Fähigkeit zur Empathie dadurch allmählich beeinträchtigt wird.
Manipulation war noch nie so einfach
2018 stellte die amtliche chinesische Nachrichtenagentur Xinhua die ersten KI-Nachrichtensprecher vor. Sie wurden realen Sprechern nachgebaut, wirkten jedoch roboterhaft und unecht. In der Zwischenzeit sehen die Avatare um einiges realistischer aus und es wird für Nutzerinnen und Nutzer immer schwieriger zu erkennen, ob es sich um echte Menschen oder Avatare handelt. Dank Fortschritten in der Deep Fake Technologie ist es mit Tools wie Synthesia heute ein Kinderspiel, KI-Avatare zu erstellen und Texte in unzähligen Sprachen vorlesen zu lassen. Und das für nur 30 Dollar im Monat.
Einer der ersten KI-Avatare in China, 2018
KI-Avatar von Synthesia, 2023
Experten warnen schon länger vor den Gefahren der Deep Fake Technologie und davor, dass politische und kriminelle Akteure sich diese zunutze machen können. Dies ist nun Realität geworden: Im März tauchten im Staatsfernsehen in Venezuela Propagandanachrichten auf. Auf Twitter zirkulieren Videos, welche die Bürger und Bürgerinnen von Burkina Faso zur Unterstützung der Juntas aufrufen. Beides präsentiert von Avataren.
Deep Fake, mit Synthesia erstellt (Quelle: Twitter)
Glaubwürdigkeit und Transparenz
In der Schweiz haben wir mit Jade die erste KI-Moderatorin. Doch Künstliche Intelligenz hat in den Schweizer Medien längst Einzug gehalten. Gemäss einer Umfrage von persönlich transkribiert die KI Interviews, übersetzt Texte, moderiert online Kommentare und schlägt Bilder vor. In gewissen Bereichen wird KI sogar schon für das automatisierte Erstellen von Artikeln eingesetzt.
Die ersten Schweizer Medienhäuser haben reagiert und Regelwerke und Leitlinien zur verantwortungsvollen Nutzung von KI-Tools in der Redaktion erstellt. SRF zum Beispiel setzt in der Berichterstattung bewusst keine künstlichen Nachrichtensprecher ein:
Journalismus lebt von der Glaubwürdigkeit seiner Macherinnen und Macher. Journalismus muss authentisch sein. Wir setzen bei SRF darum auch keine Avatare ein.
Tristan Brenn, Chefredaktor CR (Video im Beitrag: Wie setzt SRF künstliche Intelligenz ein?)
Die Berichterstattung ist durch die künstliche Intelligenz mehr gefordert als andere Bereiche. Ein unbedachter Umgang mit KI-Avataren kann das Vertrauen der Öffentlichkeit in die Medien untergraben. Was ist noch wahr und was ist fake?
Umso wichtiger wird Transparenz entlang des Produktionsprozesses von Nachrichten: Welche Teile wurden mit Hilfe von künstlicher Intelligenz erstellt und welche von Menschen?
Wir brauchen Instrumente, um den Wahrheitsgehalt der Nachrichten einschätzen zu können. Nur so können wir uns gut informiert in den gesellschaftlichen und politischen Diskurs einbringen.
Dieser Fachbeitrag wurde im Rahmen eines Leistungsnachweises für das CAS Digital Ethics verfasst und wurde redaktionell aufgearbeitet.