Fehler in der Verwendung der KI – wenn Medieninhalte ungewollt zur Panik führen

Der Disclaimer darf gerne direkt am Anfang stehen: Dieser Artikel wurde von einem Menschen geschrieben. Das sollte eigentlich eine Selbstverständlichkeit sein. In den Zeiten des digitalen Fortschritts, in denen sich immer mehr Medienanstalten beim Erstellen ihrer Meldungen durch die künstliche Intelligenz helfen lassen, ist das aber vielleicht doch eine Erwähnung wert. Zumal sich die Fehler häufen, die von der damit beauftragten Software produziert werden. Doch wie sehen diese eigentlich aus – und wie sollten die Medien und wir als Verbraucher damit umgehen?

Auch seriösen Medien sollte nicht blind vertraut werden

Doch warum entflammt die Debatte um den KI-Einsatz eigentlich gerade jetzt? Einerseits natürlich, weil die künstliche Intelligenz in immer mehr Arbeits- und Lebensbereiche der Menschen vordringt und dort wichtige Aufgaben übernimmt. Andererseits aber, weil sich die Fehler, die vielen Computerprogrammen noch immer unterlaufen, längst nicht mehr ignorieren lassen. Ein gutes Beispiel ist hier ein aktueller Beitrag des „Heute Journals“: Das Fernsehformat des ZDF wollte über die umstrittenen Einsätze der US-amerikanischen Einwanderungsbehörde ICE berichten – und verwendete dabei einen künstlich generierten Videoclip. Aber wenn sogar seriöse Medienanstalten zwischen Wahrheit und Fiktion nicht unterscheiden können, wie sollen dann wir Konsumenten erkennen, was echt und was erfunden ist?

Nicht immer macht es uns die künstliche Intelligenz leicht

Dass beim ZDF mit KI-entwickelten Filmaufnahmen gearbeitet wurde, war mit bloßem Auge übrigens fast nicht zu erkennen. Allerdings unterlief der verwendeten Software ein verräterischer Fehler: Über dem gesamten Clip lag ein Wasserzeichen, das auf das genutzte Programm hinwies. Tausenden von Zuschauern, die die Livesendung verfolgt hatten, blieb das nicht verborgen. Noch einmal gut gegangen, möchte man fast sagen. Trotzdem wäre die Information interessant, warum eine objektiv arbeitende Medienanstalt wie das Zweite Deutsche Fernsehen überhaupt die künstliche Intelligenz um die Erstellung von Videos bittet, die gegenwärtig an fast jedem Tag reihenweise im realen Alltag in den Vereinigten Staaten Amerikas produziert werden.

Ein Reiseziel, das nicht existiert

Das ZDF entschuldigte sich für seinen Fauxpas mittlerweile – Fragen bleiben dennoch offen. Nicht ganz so glimpflich ging leider ein anderer Fall aus: Im Jahre 2025 hatte ein australisches Reisebüro ein Computerprogramm damit beauftragt, ansprechende Beschreibungen für einzelne Reiseziele zu formulieren. Kurz darauf stiegen die Buchungen für eine Tour nach Tansania. Denn hier sollte es plötzlich heiße Wasserquellen geben, die zum Baden einladen. Vor Ort erblickten die Urlauber davon aber wenig. Wie auch, immerhin existierten die Quellen nicht – die künstliche Intelligenz hatte lediglich mit falschen Informationen gearbeitet, die vom Reisebüro nicht überprüft wurden. Ein teures Missverständnis, das jedoch die zunehmende Bedeutung des digitalen Fortschritts erkennen lässt.

Die Wettervorhersage erfindet neue Orte

Deutlich kurzweiliger ist dagegen das, was den Fernseh-Zuschauern des US-amerikanischen Bundesstaates Montana im Januar 2026 passierte: Mehrere regionale Medienhäuser veröffentlichten im Rahmen der üblichen Nachrichten den täglichen Wetterbericht – und stützten sich dabei auf Prognosen, die immerhin vom nationalen Wetterdienst der USA errechnet wurden. Für unterschiedliche Städte wurden offizielle Sturmwarnungen herausgegeben. Schulen sollten geschlossen bleiben und Menschen ihre Häuser nur in dringenden Fällen verlassen. Das Kuriose dabei: Die genannten Orte gibt es nicht. Aufgrund eines nicht näher definierten Fehlers dachte sich die verwendete Software schlichtweg einige Städtenamen aus und formulierte für sie gleich noch einen Wetterbericht. Abermals ließen die Behörden und die Sendeanstalten die Chance ungenutzt, alle Informationen zu überprüfen.

Auch ein Computerprogramm möchte mal etwas Eigenes versuchen

Das vorgenannte Beispiel lässt allerdings nur ansatzweise erahnen, wozu die künstliche Intelligenz mittlerweile fähig ist. Ganz zum Leidwesen zahlreicher Menschen in Neuseeland, die zur Adventszeit des letzten Jahres in einer Zeitung eine Bücherliste abgedruckt fanden. Ihr sollten Weihnachtsbücher entnommen werden können, die vor allem für Kinder und Jugendliche mit pädagogisch wertvollen Geschichten überzeugen. Auch hier zeigte sich aber das bereits erwähnte Problem: Ein Drittel der Bücher existierte nicht. Das Programm hatte die Buchtitel, die Namen der vermeintlichen Autoren sowie eine kurze Inhaltsangabe erfunden. Aufgrund aller ihr vorliegenden Erkenntnisse hat die Software vermutlich versucht, eigene Schlüsse zu ziehen.

Wenn eine Falschinformation zur Panik führt

Dass die Fehler der künstlichen Intelligenz nicht immer nur interessante oder gar lustige Folgen auslösen, erlebten die Bürger der amerikanischen Stadt Bellaire im Bundesstaat Texas im November des letzten Jahres. Als Eilmeldung liefen Bilder einer lichterloh brennenden örtlichen Schule über die Fernsehprogramme. Wer sie sah, musste von einem Inferno ausgehen. Tatsächlich war aber gar nichts passiert. Es gab lediglich einen – später als unbegründet eingestuften – Feueralarm in der Lehranstalt. Ein dort installiertes Warnsystem schickte die Meldung an regionale Medienanstalten, die anschließend weitgehend automatisiert eine Software mit der Aufgabe betrauten, eine entsprechende Meldung und dazugehörige Fotos zu erstellen. So entstand ein Schockmoment, der vermeidbar gewesen wäre – und der nichts mit der Realität zu tun hatte.

Mehr Kontrolle ist dringend nötig

Sicherlich ließe sich die hier genannte Liste der mal kuriosen und mal erschreckenden Meldungen über aktuelle Fehler der künstlichen Intelligenz noch beliebig verlängern. Zugleich stellt sich aber die Frage, wie die Gesellschaft damit umzugehen hat. Die dafür verwendeten Computerprogramme sind erst am Anfang ihrer Entwicklung – es darf unterstellt werden, dass sie in absehbarer Zeit besser und vor allem inhaltlich richtig vorgehen werden. Aber kann uns das genügen? Oder wird nicht auch erkennbar, dass die Medienanstalten stärkere Anstrengungen unternehmen müssten, um derlei Missgeschicke zu vermeiden? Wo die Software weitgehend eigenständig arbeitet, sollte zumindest ein menschliches Auge die Kontrolle übernehmen.

Es lohnt sich, manches zu hinterfragen

Demgegenüber sind aber auch wir Verbraucher gefordert, vorsichtiger bei der Auswahl der Zeitungen sowie der Radio- und Fernsehsender vorzugehen. Mehr noch, nicht allem, was wir hören und sehen, sollten wir ungeprüft unseren Glauben schenken. Natürlich können Fehler passieren, wenn KI-generierte Inhalte zur Anwendung kommen. Im Falle des „Heute Journals“ beim ZDF wurden diese aber gerade durch die Hilfe der Zuschauer erkannt, gemeldet und umgehend richtiggestellt. Das Beispiel zeigt: Medien dürfen nicht unreflektiert konsumiert werden. Vielmehr gilt es, Meldungen zu hinterfragen – auch gegenüber großen und seriösen Sendeanstalten, die sich längst unser Vertrauen erworben haben. Denn vermutlich wird es künftig noch schwieriger werden, Wahrheiten eindeutig von falschen Inhalten zu unterscheiden.