Faktencheck: Was Publisher von der APA lernen können

Die APA – Austria Presse Agentur hat mit CheckBar.at eine kostenlose Plattform für Medienkompetenz gestartet, die mit interaktiven Modulen, Quizzes und Erklärvideos Werkzeuge zur Erkennung von Desinformation vermittelt. Im Interview erklären Christian Kneil und Florian Schmidt vom APA-Faktencheck-Team, warum Verifikation zur Kernkompetenz der gesamten Publishing-Branche werden muss.

Hachette hat kürzlich den Roman „Shy Girl“ zurückgezogen, weil der Text offenbar KI-generiert war. Aufgedeckt wurde das nicht vom Verlag, sondern von BookTok und Reddit-Leser:innen. Was sagt es über den Zustand der Branche, wenn die Community schneller verifiziert als das Lektorat?

Florian Schmidt: Ähnliches ist tatsächlich auch schon in Österreich passiert, zuletzt etwa eine Broschüre der WK-Lebensmittelinnung in Niederösterreich. Es wird immer schwieriger, KI-Inhalte zu erkennen. Deswegen braucht es Expert:innen, die mit modernen Verifizierungsmethoden vertraut sind.

Christian Kneil: Und es braucht klare Regeln. In der APA-Redaktion wird Künstliche Intelligenz generell nicht zur Produktion von Inhalten verwendet, das gilt für Texte, Bilder, Grafiken und Videos gleichermaßen. KI spielt bei uns im journalistischen Produktionsprozess eine ausschließlich modifizierende Rolle. Es werden also von Journalist:innen erstellte Inhalte beispielsweise mit KI-Hilfe lektoriert oder für andere Formate gekürzt und angepasst. Danach erfolgt eine obligatorische Qualitätskontrolle durch den sogenannten Human in the Loop.

Ihr Faktencheck-Team prüft täglich Behauptungen in Nachrichtenmedien und sozialen Netzwerken. Lassen sich diese Methoden auch auf Buchmanuskripte oder andere Verlagsprodukte übertragen – oder ist das ein grundsätzlich anderes Problem?

Schmidt: Wir konzentrieren uns meistens auf kursierendes Bildmaterial, das zum Beispiel aus Krisengebieten stammen soll oder anderweitig aktuelle Relevanz beansprucht. Aber wir haben auch viel mit klassischer Recherche zu tun. Bei Text ist es immer sehr schwierig, den KI-Nachweis zu erbringen, gerade auch bei fiktionalen Inhalten.

Der Fall „Shy Girl“ zeigt, wie schwer KI-generierte Inhalte zu erkennen sind, sogar für professionelle Verlage. Sie setzen mit CheckBar.at auf Medienkompetenz als Gegenmittel. Ist das der wirksamere Hebel als technische Erkennungstools?

Schmidt: Technische Detektionstools sind leider nicht zu hundert Prozent zuverlässig und können daher keine Beweislast erbringen. Sie sind für uns lediglich ein Hinweis in einer längeren Indizienkette und je nach Beispiel können andere Verifizierungsschritte effektiver und aussagekräftiger sein.

Kneil: Wir sind überzeugt davon, dass der Kampf gegen Desinformation auf mehreren Ebenen zu führen ist. Einerseits geht es darum, dass Faktencheck-Profis mit ihren umfangreichen Skills die reichweitenstärksten und einflussreichsten Falschinformationen aufdecken. Auf der anderen Seite wollen wir mit Medienbildungsinitiativen wie CheckBar.at breite Bevölkerungsschichten ermächtigen, Desinformation im Alltag selbst erkennen zu können.

Mit CheckBar.at richtet sich die APA gezielt an Jugendliche und Lehrkräfte. Warum setzen Sie bei der Bekämpfung von Desinformation ausgerechnet dort an – und nicht beispielsweise bei den Plattformen oder Verlagen selbst? Wie nimmt die Zielgruppe das Angebot bisher an?

Schmidt: CheckBar.at ist nur eines von vielen Projekten von APA-Faktencheck. In den letzten Jahren haben wir Hunderte Journalistinnen und Journalisten fortgebildet, einen Uni-Lehrkurs entwickelt, Detektionstools miterforscht und Social-Media-User bei der Erkennung von Falschinfos unterstützt. Doch wir wollten unser Wissen schon immer an die Schulen bringen, wo junge Menschen einer Flut von Fakes ausgesetzt sind und oftmals keine technisch oder fachlich versierten Ansprechpersonen als Begleitung haben.

Kneil: Die Lehrer:innen sind ganz tolle Multiplikator:innen. Wenn wir sie bei ihrer Arbeit mit jungen Menschen unterstützen können – gerade im Hinblick auf die Informationsflut im digitalen Raum – dann hat das auch eine gesellschaftspolitische Wirkung. Das bisherige Feedback zu CheckBar.at aus den Schulen bzw. dem Bildungsbereich ist durchwegs positiv. Unser Ziel ist es jetzt, die Bekanntheit der Unterrichtsplattform in den Schulen konsequent zu steigern.

Der Begriff „Faktencheck“ wird mittlerweile fast inflationär verwendet, auch von Akteuren, die das Format eher zur Meinungsmache nutzen als zur transparenten Verifikation. Wie schützen Sie die Glaubwürdigkeit des Begriffs?

Schmidt: Richtig, Faktencheck ist ein politischer Kampfbegriff geworden und mittlerweile wird er von allen benutzt, die Meinungshoheit einfordern. Aber Faktencheck ist keine Meinung, sondern etwas Prüfbares und Transparentes. Wir sind eines von nur zwei Teams in Österreich, die Mitglied beim IFCN (International Fact-Checking Network) und EFCSN (European Fact-Checking Standards Network) sind. Dafür muss man strenge Kriterien einhalten, die jedes Jahr geprüft werden und ein Einfließen von Meinung oder politischer Schlagseite ausschließen.

Wenn Sie drei Jahre vorausblicken: Wird KI das Fact-Checking eher erleichtern, weil sie Recherche beschleunigt – oder erschweren, weil sie die Menge an Desinformation vervielfacht?

Schmidt: KI wird positive und negative Folgen für die ganze Welt haben. Fact-Checking wird sicher von gewissen Tools profitieren, muss aber im Endeffekt immer von einem Menschen durchgeführt werden, der die Zusammenhänge versteht und auch weiß, welche Fehler die Tools machen könnten. Insofern werden wir weiterhin sehr sorgfältig und achtsam mit KI umgehen, während die Gegenseite sämtliche Register aufziehen wird, um mithilfe von KI Falschinformationen zu verbreiten.

Kneil: KI als Technologie ist ja an sich weder gut noch böse. Es hängt davon ab, was wir Menschen damit machen, wie wir sie nutzen und einsetzen. Deshalb ist es für uns im Journalismus auch so wichtig, intensiv darüber nachzudenken, wie uns KI bei unserem Grundauftrag bestmöglich unterstützen kann. Und der lautet auch in Zukunft: faktenbasierter Qualitätsjournalismus für eine informierte Gesellschaft und als Grundlage für demokratische Entscheidungsprozesse.