Michael: Ja, hallo und herzlich willkommen zu einer neuen Folge von Das Gelbe von AI. Heute haben wir, wie in zwei wöchentlichen Wechseln üblich, wieder eine Gastfolge. Das heißt, wir werden in dem Interview heute sogar zwei Gäste begrüßen. bevor wir an die Gäste gehen, einmal ein herzliches Hallo wieder an Schornück, meinen kongenialen Co-Host in Hallo Schornück.

Damla: Vielen

Jean-Luc: Ja, hei Michael! Und Hamburg ist auch heute das Stichwort, denn Hamburg ist diesmal in der Überzahl. Wir sind diesmal zu Dritt aus Hamburg mit dabei. Ihr habt es an der Coverfolge wahrscheinlich schon erkannt und das Gesicht wird euch bestimmt nicht so ganz... Denn mit dabei sind diesmal Damla Hekimolu und Wolfgang Wichmann. Beide kennt ihr wahrscheinlich eher aus den Nachrichten, beziehungsweise beide sind in dem Bereich unterwegs. ARD, Norddeutscher Rundfunk. Und ich würde sagen, stellt euch doch am besten einmal selber vor. Damla, schön, dass du da bist. Magst du ein bisschen was zu dir erzählen?

Damla: Ja, danke, dass ich dabei sein darf. Ich moderiere bei Tagesschau24 und spreche die Nachrichten der Tagesschau und setze mich eben zusätzlich für Medienkompetenz und gegen Desinformation ein und versuche da so bisschen aufzuklären, vor allem bei jüngeren Zielgruppen. ja, mein lieber Kollege Wolle, der hat Art School entwickelt, was uns auch bei unserer täglichen viel hilft.

Wolfgang Wichmann: Hallo zusammen, ich bin der Wolfgang. Ich komme eigentlich aus dem Allgäu, aber schon seit mehreren Jahren jetzt in Hamburg zu Hause und ich bin Teil der crossmedialen Planung bei der Tagesschau und habe aber im Haus schon über die verschiedenen Jahre fast alle unterschiedlichen Abteilungen schon mal beackert und gebe nebenher noch Seminare bei der ARD und ZDF Medienakademie, alles im Bereich Verifikation, Online-Recherche und natürlich auch Lösungen und Probleme von und mit KI. Und deswegen freue ich mich, dass ich auch hier sein darf.

Michael: und wir freuen uns auch, euch beide hier zu haben. Da wir ja ein KI-Podcast sind, erübrigt sich normalerweise immer das Thema, dass wir sagen, Mensch, das ist ja ein hochaktuelles Thema. Aber in eurem Fall, glaube ich, wir da eine sehr gute Ausnahme machen, weil eben momentan die Verbreitung von gerade auch gefakten Inhalten über KI so exponentiell zunimmt, dass wir, glaube ich, tatsächlich heute ein hochaktuelles Thema da haben. Und von daher freut es uns umso mehr, dass wir heute über das Thema mit euch diskutieren können. Vielleicht starten wir mal ganz kurz mit der Einstiegsfrage, welches KI-Thema euch denn in den letzten Wochen am meisten überrascht hat und ob es einen Moment gab, in dem ihr selbst kurz auf eine Fälschung hereingefallen seid.

Damla: Also bei mir ist es ehrlich gesagt nicht so ein einzelnes KI-Feature, was mich total beschäftigt hat in letzter Zeit, sondern vielmehr wie alltäglich KI eigentlich mittlerweile geworden ist. Also ich hab's gesagt, es gibt so viele Deepfakes und Videos, die Desinformationen einfach pushen im Internet, die dann ja auch ganz schnell geteilt werden, dass mich das sehr beschäftigt. Man muss nämlich auch sagen, die haben auch durch die Plattform, dadurch dass sie meistens emotionalisieren, auch einen Wettbewerbsvorteil wenn ich das so ausdrücken darf, zu unseren Videos, die ja sachlich sind bei der Tagesschau. Und das bringt uns eigentlich vor neue Herausforderungen. auf der einen Seite bleiben wir weiter sachlich mit unseren Videos, sehen aber, dass die Fakes zum Beispiel, die total emotional sind, empören oder für Frust sorgen oder für Wut sorgen, dass die viel mehr ausgespielt und geteilt werden. Und deswegen finde ich das eigentlich total... wirklich interessant zu sehen, wie das so im Alltag der Menschen angekommen ist und finde deswegen diese Verschiebung total wichtig, weil sich dadurch für uns Journalisten auch noch mal bisschen der Beruf und die Verantwortung verändert. nicht nur, dass wir weiterhin Fakten recherchieren und nach bestem Wissen und Gewissen informieren, sondern dass wir eben auch viel mehr entweder Desinformation entlarven müssen mit Werkzeugen wie denen, Wolfgang mit erfunden hat, aber auch viel transparenter über unsere Arbeit berichten müssen, wie man eben Desinformation erkennen kann und wie wir an unsere Informationen herankommen.

Wolfgang Wichmann: Also bei mir ist so, ich bin halt so ein bisschen im Thema Ukrainekrieg so gefangen und auch da taucht halt immer wieder mal Material auf. Ich hatte neulich so ein Video von so einer Panzerkolonne russischer Panzer, die angeblich von ukrainischen Drohnen getroffen worden sind und so. Und erst mal ist man in der Nachricht so und geht dann so mit, guckt sich das an und dann wird es auf mehreren verschiedenen Kanälen geteilt. Und ich sag mal so, wenn man selber dass er gerne hätte, dass er etwas so ist. Wenn das so dem inneren Mindset entspricht, ich verurteile den Krieg, den Russland führt in der Ukraine, deswegen habe ich da ein natürliches Pro-Ukraine-Gefühl. Wenn ich dann aber solche Videos sehe und mir erst mal so, es wäre vielleicht ganz gut, wenn das jetzt wahr wäre, und das lässt sich auf alle Bereiche übertragen, dann fehlt erst mal so ein kurzer Moment der Distanz und des misstrauisch Seins, des professionellen Misstrauens. Ich muss dann sagen, okay, alles klar, jetzt kurz mal innehalten und überlegen, ist das so, kann das so sein? Und mit den üblichen Fragen dann nochmal dem nachgehen. Aber ich habe dann schon festgestellt, bei dem Thema bin ich vielleicht sozusagen empfänglicher als vielleicht bei anderen, weil mich das emotional mitnimmt und bewegt. Und da stelle ich dann immer wieder fest, das ist dann auch nicht nur für uns im privaten Umfeld natürlich eine Herausforderung, wenn dann KI-Videos auftauchen und man das gefühlt hat, ja klar, das muss ja so sein. Endlich hat es mal jemand auf Kamera Und deswegen teile ich das jetzt auch mit meiner ganzen Verwandtschaft und meinen Freunden und meinen Schulkollegen von damals, die ich schon 20 Jahre nicht gesehen habe. Da bin ich halt eben, ist bisschen auch, das ist spannend, sich selber zu ertappen, wenn man merkt, ah, hier baue ich meine Distanz, hier baue ich meinen Schutz, eigenes Misstrauen, meine eigene Wahrnehmungsbarriere so ein bisschen ab und denke mir so, ja klar, könnte ja gut so gewesen sein. ja, da hat es mich dann auch vielleicht mal erwischt oder mich eben noch mal klar werden lassen. Vorsicht, Vorsicht. Einfach noch mal kurz einen Moment innehalten. Das gilt ja dann, so ist ja auch immer mein Tipp in den Schulungen, generell für den flinken Finger bei Social Media, erst mal kurz durchschnaufen, einmal nachdenken, einmal kurz das Hirn noch mal hochhalten und sagen, kannst du das noch mal genau überprüfen, bevor wir da reagieren.

Damla: Ja, das ist wirklich eine der Kernregeln, sag ich jetzt mal, die goldene Regel vielleicht überhaupt, die Wolle da nennt, weil es ist tatsächlich so, das zeigt auch, dass wir letztendlich auch als Journalistinnen und Journalisten trotzdem eben keine Roboter sind, sondern Menschen und diesen Impuls mindestens haben. Das Gute ist nur, dass wir, wenn wir diesen Impuls haben, dass wir dann trotzdem meistens recherchieren. Und was heißt meistens, dass wir dann einfach recherchieren und eben auch wissen, wie wir das Ganze überprüfen können. Aber weil das eben in der Allgemeinheit nicht so angekommen ist, ist es eben sehr wichtig, auch darüber aufzuklären, weshalb eben Wolfgang und ich auch dazu Seminare geben.

Michael: Ja, das auf jeden Fall ein Thema, das Scholleck und ich persönlich auch in der täglichen Arbeit immer wieder sehen. Irgendwann ist KI so normal geworden, dass man Fakes auch natürlich sehr, schwer erkennen kann. Und ich glaube, uns geht es allen so. glaube, sowohl im Privaten wie beruflich werden wir alle permanent Opfer von Fakes. Und ihr habt natürlich in euren Rollen eine ganz andere Verantwortung für das Thema und als natürlich doppelt so. Entscheidend, zumindest nicht auf die alleroffensichtlichsten Themen reinzufallen. Ich glaube, es ist sehr, schwierig, es komplett auszuschließen, aber zumindest, dass man alles Mögliche an Vorkehrungen trifft, zumindest nicht auf die offensichtlichsten reinzufallen.

Wolfgang Wichmann: dass 2026 tatsächlich auch so eine Wegscheide ist. Ich würde wirklich sagen, 2025 hatte man noch das Gefühl, guckst du dir das Bild ordentlich an, mit ein paar Aspekten, auf die man als geschultes Auge ganz besonders gucken kann, insbesondere bei Bewegtbild. Und 2026 hat da wirklich viel schon verändert. sind jetzt mitten im Jahr, es ist Juli und ich habe so das Gefühl, wenn da jemand ein bisschen mehr Energie reinsetzt oder mittlerweile, es ist ja auch keine Frage mehr der Ressource, hast du den Rechner und bittest die KI dir drei, vier Varianten zu erstellen und du nimmst dann die, die am besten, am echtesten geworden ist. Und deswegen glaube ich, die Herausforderung einfach noch viel größer, am Ende zwar das Bild zu beurteilen, aber eben natürlich auch drumrum Kontext und solche Sachen zu beachten.

Damla: Ja, und das alles ist ja wirklich auch so gut geworden. Also ich muss auch daran denken, in welchen sensiblen Bereichen das ja auch angekommen ist. es gibt ja dieses russische Comedy-Duo, die ja bewusst gerne Leute mit Deepfakes pranken und dazu gehören eben auch Politikerinnen und Politiker, sei es ein Emmanuel Macron oder als die Bürgermeisterin von Belgien war, Franziska Giffey, dass die dachten, die hätten halt mit Klitschko oder mit Zelensky zum Beispiel Video-Calls gemacht. Und da kann es ja auch sein, dass man total sensible Informationen preisgibt. Und deswegen zeigt das halt wirklich, wie sehr das ein Teil unseres Alltags geworden ist und wie gefährlich es auch ist und wie verantwortungsvoll damit eigentlich auch man umgehen muss.

Michael: Also gibt es da ein bestimmtes AI-generiertes Bild oder Video, jetzt habt ihr gerade schon ein paar Beispiele genannt, die euch wirklich nicht mal aus dem Kopf rausgehen?

Damla: Der Papst in weißer Daunenjacke.

Wolfgang Wichmann: Ja, auf jeden Fall. Der Klassiker oder Obama damals, also von Buzzfeed. Ich meine, das sind so Ikonen der frühen mit KI erstellten Videos und so. Ich habe noch Apps, die nen Tel Aviv halt vor Augen, er halt, weil er so alles noch beinhaltet. Also sowohl Rechtschreibfehler im Hintergrund, damit man, aber natürlich muss man dafür hebräisch können und so. Aber da hilft einem ja auch KI inzwischen. Die erkennt ja dann auch, wenn da was irgendwie nicht geschrieben ist. Aber trotzdem das Gesicht in der Menschengruppe, in der Straßenszenerie, Palmen und so. Es gibt ein paar Dinge, die hängen geblieben sind inzwischen. Aber die zeigen, es ist mittlerweile einfach super schwierig geworden. Wir können davon ausgehen, dass im Alltag, insbesondere bei bildarmen Themen oder bei großen Katastrophen, wo alle darauf warten, dass endlich was kommt, man davon ausgehen, dass im ersten Schwung die Hälfte falsch ist. Aber reines Bauchgefühl, keine Statistik.

Damla: Aber das ist tatsächlich so, das kriegen wir sehr oft mit, dass da vermeintliche Handyvideos sind von irgendwelchen Demonstrationen oder Naturkatastrophen. Und diese Inhalte verbreiten sich ja vor allem in Breaking-News-Situationen sehr, schnell. Und da müssen wir in der Redaktion eben immer doppelt und dreifach darauf achten, dass wir erst mal das Ganze prüfen lassen, bevor wir damit rausgehen.

Wolfgang Wichmann: Flugzeugabstürze, Naturkatastrophen, Wetterphänomene, Verkehrsprobleme. Es gibt einfach so viele Varianten.

Jean-Luc: Ja, gerade so ein Handyvideo, das muss ja nicht pixelperfect aussehen, sondern das wird ja deutlich authentischer, wenn es dann vielleicht doch etwas verpixelter oder unscharf ist und dadurch dann nicht mehr ganz so leicht zu erkennen. Lasst uns doch gerne, bevor wir auf den eigentlichen Hauptteil zu den Deepfakes zu sprechen kommen, einen ganz kurzen Abstecher machen zum Bereich KI im Journalismus. Und da würde mich auch mal eure neutralere Meinung sehr interessieren. Michael und ich haben natürlich einen sehr starken Fokus auf die ganzen Chancen, die wir mit der KI nutzen können. Deswegen würde ich mal behaupten, dass unser Podcast KI gegenüber immer sehr positiv berichtet, obwohl wir zugleich auch auf der anderen Seite mit unserer Software Private AI uns mit den ganzen Risiken auseinandersetzen, Datenschutzthemen und Co. Wenn ihr jetzt bei euch mal reinschaut, so in die letzten Monate, wie würdet ihr sagen, hat sich die Berichterstattung über KI dort verändert? Also ist es mehr euphorisch, ist es eher skeptisch oder geht es mehr die Regulierungsthemen? Damla, wie würdest du es einschätzen?

Damla: Also erstmal kurz zur privaten Dummler. Ich bin auch nicht ein Technik-Fan, sage ich jetzt mal, und bin da auch nicht ganz neutral dem Gegenüber eingestellt. Aber wenn ich jetzt wirklich journalistisch schaue, wie haben wir darüber berichtet, dann kann man eigentlich sagen, dass KI anfangs eher so bisschen als Innovationsgeschichte erzählt wurde, also auch sehr positiv. Dann gab es die Phase der Warnungen vor Jobverlust, vor Kontrollverlust, da war die Frage der Macht im Raum. Und jetzt ist es eher so ein klassisches Gesellschafts- politisches Thema geworden, wo es viel Regulierung geht, Urheberrecht, auch z.B. Kreativität und Authentizität. Wenn wir daran denken, dass es Skandalberichterstattung fast gab, weil der Digitalminister oder andere Journalistinnen und Journalisten KI genutzt haben, dann merkt man schon, dass es sich in den letzten Jahren wie man da draufschaut.

Wolfgang Wichmann: Stimmt, wir haben aber auch natürlich noch den Klimaschutzaspekt jetzt immer mal wieder im Fokus gehabt. Also die Frage, wie viel Energie verbrauchen eigentlich simple Rechenaufgaben? Und wenn ich halt sehe, auch im privaten Umfeld, wie oft Leute hier mal eben ein Bild generieren, hier mal eben Anfragen platzieren und so und man dann überlegt, okay, wie weit könnte ich da nicht Elektroroller fahren oder dann Aufzug fahren oder so? Also das sind ja tatsächlich auch Dinge und dann brauchen Rechenzentren, die auf der Welt aufgestellt werden, halt auch unglaublich viel Wasser und auch dann Platz und andere Dinge. Also das hat sicherlich auch einen Gang gefunden in die Berichterstattung und die wirtschaftliche Komponente ist, glaube ich, auch immer noch eine Rolle. Also ich glaube, wir sind da querbeet. Natürlich sehen wir unser Programm, sage ich mal, vielleicht auch positiver als andere, möchten andere dann beurteilen, ob wir da umfassend in allen Bereichen aufgestellt sind. Aber der Versuch ist natürlich schon da. Und generell habe ich den Eindruck, es ist schon noch ein Also eher positiv besetzteres Thema als ein mit skeptischem Blick und irgendwie Zukunftsangst oder so behaftetem Thema. Also ich habe den Eindruck, weil wir natürlich auf Innovation gucken und Innovation ist ja generell mal was, was wir glaube ich schon auch in der Gesellschaft angesichts jetzt auch irgendwie stark näher in der Wirtschaftszahl irgendwie gerne sehen. ich glaube, würden es oder ich glaube schon eher positiv besetzt als.

Damla: Ja. Wie gesagt, von meinem Gefühl her wandelt sich das gerade so ein bisschen und trotzdem ist es tatsächlich nicht so, dass man da total den Teufel an die Wand malt. mein, dazu muss man ja auch sagen, KI kann ja positiv und negativ sein, aber das beantwortet jetzt eure Frage nicht. Das würde jetzt nochmal ein neues Fass aufmachen, aber ich würde auch sagen, es ist im Moment immer noch trotzdem positiv besitzt.

Jean-Luc: Könnt ihr uns ein paar kleine Beispiele nennen, wie ihr bei euch im Journalismus bereits KI einsetzt?

Damla: Magst du starten, Wolfgang?

Wolfgang Wichmann: Ja, also was ich spannend finde, also spannend finde bei ARD aktuell, dass ja die Redaktion, die Zentralredaktion, in der wir hier tätig sind, die gehört aber in Teilen, ist halt ansässig beim Norddeutschen Rundfunk. Und als jetzt klar war, dass mehr und mehr KI-gestützte Tools auch zur Verfügung stehen, hat der NDR sich entschieden, einen KI-Führerschein einzuführen. Das heißt, dass wir eine kleine Online-Schulung durchlaufen müssen. Das ist vorgeschrieben für jeden Mitarbeitenden, dass wir einen diese Schulung durchlaufen müssen, die einen eben darauf hinweist und vergegenwärtigt und nochmal abfragt, was KI eigentlich tut und wo da auch die Chancen und die Risiken sind, wie die auch funktioniert, sodass man dann danach auch KI-Tools im Zusammenhang auch mit Fragen des Pressekodex und der KI-Richtlinien, der Regulierung, die wir auch beim NDR uns selber auferlegt haben, dass wir das sozusagen alles parat haben, damit eben am Ende sich irgendwie niemand in dem Feld bewegen muss mit den Chancen und Risiken dieser Möglichkeit, dieser Tools, ohne zu wissen, was er da in der Hand hat. Das fand ich ganz spannend. Und wir arbeiten natürlich an vielen Dingen. Aber es gibt auch schon einige, die eben längst im Alltag angekommen sind. Es gibt so eine Webplattform im NDR, die heißt AI for NDR. So, da kann dann jeder NDR mitarbeiten. sich da einloggen mit seinem normalen Login und hat dann bestimmte Features zur Verfügung, die glaube ich jeder mittlerweile auch privat nutzt, aber eben halt in mitbestimmten datenschutzkonformen Raum sozusagen, wo alles das, was man da rein gibt, auch da bleibt und nirgendswo anders hingeht, dass bestimmte Daten da sozusagen datengeschützt sind, wenn man damit arbeitet. Und da geht es halt so Sachen wie Chatprotokolle oder Protokolle genereller Stellen, Mail-Vorschläge machen, Texte zusammenfassen. Audio-Transkript machen, keine Ahnung, solche ganz alltäglichen Dinge, Bilder generieren ist auch da möglich und so. Das ist halt für jeden verfügbar, der diese Schulung gemacht hat. Und sowas ist halt schon längst im Haus angekommen und darüber hinaus versuchen wir natürlich jetzt sowohl in der technischen Komponente als auch in der redaktionellen Komponente zu gucken, wo sind noch Möglichkeiten, wo könnten wir noch Entlastung, Unterstützung oder so holen. Prozesse, die langsam oder nervig sind für Einfachen, dafür sind wir jetzt quasi. arbeiten wir dran.

Jean-Luc: Das klingt nach vielen administrativen Themen, aber jetzt die brennste Frage. Der Text für die Tagesschau. Wird der noch per Hand geschrieben oder ist das KI?

Damla: Ja, und bei ... Auf jeden Fall, das wollte ich gerade sagen. Da kann ich aus der Praxis berichten, alles, was die redaktionellen Entscheidungen betrifft, ist immer noch menschengemacht. Und das würden wir, ich, auch, ich lehne mich mal ganz weit aus dem Fenster, nie der KI überlassen. Es kann sein, dass die KI uns Vorschläge macht, was jetzt gerade gar nicht der Fall ist. Weil ich jetzt ja auch nicht als Redakteurin arbeite, weiß ich nicht, ob die das nicht doch ab und zu mal nutzen. Aber was ich zum Beispiel sagen kann, wie es in meine Arbeit eingesetzt wird, dann ist es schon mal für Übersetzungen, weil wir auch schon mal Interviews in anderen Sprachen führen. Und auch da ist es immer so, dass das eigentlich so das Menschliche auch noch mal drüber schaut. Also ich führe ja keine Interviews in einer Sprache, die ich nicht kann, sondern das sind Sprachen, denen ich selbst mächtig bin. Und wenn die KI mir die ... Arbeit erleichtert, indem da etwas transkribiert und übersetzt wird, dann kann ich das ja selbst nochmal überprüfen, ob wirklich der Kontext und auch die Nuancen richtig wiedergegeben wurden. Und da hilft die KI zum Beispiel. Oder wenn man jetzt große Informationsmengen hätte, da kann die KI vielleicht dabei helfen, das zu strukturieren. Und trotzdem bin ich die Journalistin, die dann die Recherche macht, natürlich. Also ich finde... KI kann als Tool genutzt werden, kann aber nie im Leben das, was uns als Journalistinnen und Journalisten ausmacht, ethischen und handwerklichen Kriterien zu arbeiten, ersetzen.

Wolfgang Wichmann: Ich glaube, wo halt natürlich ein Scham ist, wenn ich jetzt schon mal mit einem Content-Management-System gearbeitet habe, der weiß, manchmal muss man da bestimmte Regeln einhalten, die wahnsinnig anstrengend sind, bestimmte Längen oder bestimmte stilistische Merkmale und so. Natürlich hilft da auch, glaube ich, KI. Also wenn ich mir vorstelle, Überschriften zu erstellen und ich brauche dann drei unterschiedlich lange Überschriften für unterschiedliche Ausspielwege zum selben Thema, da ist natürlich schon hilfreich, wenn ich vielleicht jetzt eine KI bitte. Kannst du mir mal Vorschläge machen für unterschiedliche Formen, wie lang das sein darf, welche stilistischen Merkmale so eine Überschrift brauchen. Aber das, Damla gesagt hat, das steht natürlich.

Michael: Ja, wir wollten heute unter anderem als Schwerpunktthema neben dem Thema Deepfake auch über das Thema Bekämpfung und mit Software sprechen, Wolfgang. Da sind wir auf dich zugekommen, weil wir einfach gehört haben, dass du da eine sehr ausgereifte Software im Einsatz hast. Vielleicht kannst du immer unseren Hörern und Hörerinnen ganz kurz erklären, was denn deine Software macht und wie sie letztendlich dann auch Fälschungen erkennt.

Wolfgang Wichmann: Also ich finde es ja total spannend. Danke nochmal, dass ich dafür eingeladen werde. Ich bin ja selber so bisschen wie die Jungfrau zum Kind gekommen, was das Thema Software dann anbelangt. Das klingt nach so wahnsinnig viel und ich werde immer noch so bisschen leicht rot, aber dabei ist es quasi etwas, ich habe nie Programmieren gelernt und da liegt halt für mich der Charme in dieser ganzen Geschichte. Wer das Thema Vibe Coding schon kennengelernt hat, der weiß jetzt wovon ich rede, wer es schon mal selber probiert hat, der weiß es noch viel mehr. Ich persönlich habe quasi ein Programm gevibecoded. Was ist das? Das ist für jemanden, eben noch nicht so viele Ahnung hat vom Programmieren. Der kann mit Sprachprompt entweder getippt, also in so ein Chatfenster reingeschrieben oder tatsächlich mittels Sprachaufnahme eine Software programmieren lassen mit Hilfe von KI. Da gibt es verschiedene Anbieter, die das machen. Wir haben einen davon, hier hauptsächlich in Skandinavien, glaube ich, beheimatet ist. Lovable heißt der und den haben wir halt in der Tagesscheuze auch zu Testzwecken. Und ich habe dann einfach

Damla: Es ist.

Wolfgang Wichmann: Ich habe mir das Themenfeld Verifikation vorgenommen, weil es halt generell mein Thema ist und ich ja auch Schulungen dazu gebe und ich halt festgestellt habe, wenn wir etwas verifizieren wollen, sei es Bewegtbild oder Fotos oder Bilder eben aus sozialen Medien hauptsächlich oder auch Audios und so, dann habe ich immer wieder das Problem, dass ich in der Schulung schon zeigen muss. Für bestimmte Aspekte gehst du auf diese Webseite, für andere Aspekte gehst du auf diese Webseite und dann gibt es dieses Programm, das könnte aber nächstes Jahr veraltet oder aufgekauft worden sein und hier brauchst du ein Login und das musst du noch machen und das musst du noch machen. So und wer das alles schon mal gemacht hat, klassische Verifikationsaufgaben, der weiß, dass das eben A, eine Sache von Routine ist. Man muss das ganz oft machen, damit man da so eine Art fachliche Expertise entwickeln kann.

Damla: Okay.

Wolfgang Wichmann: Und man muss das eben auch regelmäßig machen, weil manche Tools einfach veralten oder dann irgendwann nicht mehr so funktionieren, wie ich es beim letzten Mal genutzt habe. Da wusste ich noch, wie das ging. Jetzt ist es irgendwie anders. Die Knöpfe sind woanders und so. Und deswegen habe ich im Ergebnis den CheckBuddy konzipiert über die Lovable-Plattform, also Vibe-gecoded. Ich habe dem Computer quasi erzählt, was ich mir wünsche. Und im Ergebnis ist das eine Plattform, die diese generellen Verifikationsschritte der Reihe nach mit mir durchläuft. Da gibt es so einen mehrere Schritte Ablauf. Der fängt links auf dem Bildschirm an und endet am Ende rechts. Und da sind so Sachen drin wie eine KI-Bildanalyse, die mir erst mal vorlegt, was ist denn in einem Foto oder einem hochgeladenen Bild zu erkennen. Das geht auch für Videos. Da gibt es dann Screenshots, die automatisch angefertigt werden. Und dann mache ich damit so Dinge, die wir schon immer gemacht haben in der Verifikation, Rückwärtsbildersuche, Geolokalisierung. Wo war das? Was gibt es für Hinweise im Bild?

Damla: .

Wolfgang Wichmann: damit ich das irgendeinem Ort auf dieser Erde zuordnen kann? Oder zeitliche Analyse? Was gibt es für Hinweise? Ist das früh am Tag oder spät am Tag? Ist das früh im Jahr oder spät im Jahr? Ist das im Sommer oder im Winter? Solche Sachen. Und dann wollte ich halt am Ende auch noch die Chance haben, dass das alles in einem Bericht, in einem für mich jetzt DIN A4-Zettel irgendwie dann zusammengefasst wird, sodass ich, wenn ich das verifiziert habe, entweder es ablegen kann, falls mich morgens am nächsten Tag oder eine Woche später jemand danach fragt.

Damla: . Ich Ich

Wolfgang Wichmann: Oder dass ich das einfach meinem Chef oder meinem Kollegen rüberreichen kann, kann sagen, guck mal, ich hab das hier durchgeguckt, das Material, das und das hab ich da als Infos rausbekommen. Und was halt das Programm noch bisschen besonders macht, ist, ich hab dann auch noch eine KI-gestützte Chat-Komponente dazu eingebaut. Wenn ich jetzt selber nicht so genau weiß, was ich als Nächstes machen soll, obwohl man ja diese groben Schritte schon vorgegeben hat, dann kann ich da sag ich mal, menschlich einfache Fragen, naheliegende Fragen reintippen. und dann antwortet mir ein Chatbot mit Möglichkeiten, unterstützt so, sagt mir, hier ist noch eine Plattform, die könnte dafür geeignet sein. Oder hast du es damit schon probiert? Oder hast du diesen oder jenen Aspekt schon mal angeschaut? Und unterstützt mich mit im Netz verfügbarem Wissen zu dem Thema, das mich gerade befasst. Also wenn ich jetzt ein Video habe von einem Raketenabschuss in der Ukraine, gibt es natürlich andere Tipps, als wenn ich einen Wirbelsturm in den USA habe. Das fand ich halt spannend. Fazit ist bei diesem Tool nicht die Maschine sagt mir am Ende ja, dass es mutmaßlich wahr oder mutmaßlich falsch, sondern ich als Mensch werde durch diesen Prozess geleitet und ich als Mensch, ich als Redakteur muss am Ende eine fundierte Entscheidung treffen. Die wird nicht aller Wahrscheinlichkeit nach 100 Prozent sicher die eine oder die andere Seite sein, aber sehr wahrscheinlich sprechen diese oder jene Argumente dafür, dass das so ist und dass das benutzt werden kann und andere vielleicht dagegen.

Damla: .

Wolfgang Wichmann: Da das sonst immer so relativ kompliziert und an vielen Orten und technisch ist, fand ich die Idee gut und das Ergebnis ist jetzt im Test, also verschiedene Leute bei der Tagesschau oder eben auch in der ARD haben sich das Tool schon angeschaut, empfinden bei der Verifikation sogar so was wie Spaß. Man möchte es nicht glauben, weil es irgendwie lustig ist, weil man dann bestimmte Dinge auf einmal erfährt. Weiß ich nicht, wenn mir die KI erzählt.

Damla: Michael. Ich es sehr gefällt. Ich gefällt. Ich gefällt. gefällt. gefällt. gefällt.

Wolfgang Wichmann: dass die Rauchschwaden dieser oder jener Rakete nicht so aussehen würden wie vielleicht echte, weil das hätte ja physikalisch diesen und jenen Grund. Dann muss ich auch schmunzeln, weil ich mir denke, da wäre ich im Leben selber nicht drauf gekommen und wenn ich dann noch Vergleichsseiten angeboten bekomme. Also ich will das jetzt nicht irgendwie über den grünen Klee loben. Das bleibt ein Werkzeug. wie es halt so ist, das Werkzeug ist manchmal gut und manchmal passt es dann doch nicht ganz und so. Aber es ist auf jeden Fall eine Variante, wie wir versuchen, den Leuten was an die Hand zu geben, damit jeder, mal wenn er vielleicht alleine am Wochenende oder in der Nachtschicht in irgendeinem Dienst ist, etwas zur Hand hat und sich nicht davor fürchten muss und sagen muss, Gott, meine letzte Schulung bei Wolfgang ist jetzt schon irgendwie fünf Jahre her. Was war denn da nochmal? Sonnenstand, Schattenwurf, das weiß ich jetzt nicht. So, und dann hat man die Chance, sich da zu bewegen und das im besten Fall zu einem Abschluss zu bringen.

Damla: Aber daran sieht man eben, wie nützlich KI auch sein kann als Handwerkzeug, weil, was Wolfgang auch gerade sagt, so zum Beispiel mit dem Sonnenstand und so, das sind Sachen, die man zum Beispiel auch als im investigativen Journalismus und eben als Reporter und Autor eigentlich weiß. Und trotzdem gibt es ja bei uns auch viele, die in der Redaktion dann mittlerweile eben eher Meldungen schreiben und mit Texten befasst sind. Für die kann das auch eine richtig große Hilfe sein, sich damit nochmal zu befassen. Wir sehen ja auch so, auch wenn man sagt, KI wird von manchen auch verteufelt, die faken es ganz schlimm, in Anführungsstrichen. Da kann man eben auch sehen, KI, genauso wie auch Internet und Social Media, kann Brandbeschleuniger sein, aber auch Feuerlöscher.

Michael: ich es richtig verstanden habe, so, dass eure KI dann ihren Assistenz zum Menschen darstellt. Das ist schon der Prozess, der von Menschen getrieben wird und auch die Entscheidung letztendlich immer noch bei euren Redakteuren einlegt, oder Wolfgang?

Wolfgang Wichmann: Das ist zentral, ich. Ich gehöre ja auch einem ARD-weiten KI-Cluster an. So nennen sie sich in dem Fall für Verifikation und Desinformation. Wir treffen uns da alle paar Wochen und haben uns eben auch professionelle Angebote auf dem Markt angeschaut. Maschinen-gestützte Programme, die dafür da sind, sozusagen für große Versicherungskonzerne, für Ermittlungsbehörden und so Bilder auf ihre Echtheit zu prüfen. Und es ist halt so, dass es kein Tool gibt. Jedenfalls haben wir noch keins gefunden, das einen so überzeugenden Eindruck hinterlassen hat, dass man sagen kann, ja, das ist auch für den Journalismus nutzbar. Das Problem ist halt, klar, wenn ich ein Versicherungskonzern bin und es geht die Frage, ist diese Schramme an meinem Auto irgendwie, ist das eine echte Schramme oder ist das eine Schramme auf dem Bild, dann ist die KI generiert oder nachträglich eingefügt worden oder so, dann dann kann es schon sein, dass mir das reicht, wenn zum Beispiel so eine Maschine aus einer Million Einsendungen, ich da pro Monat oder was auch immer habe, dann sagt in neun von zehn Fällen, in acht von zehn Fällen, finde ich die falschen Eier sozusagen. Aber bei uns im Mediengeschäft ist es halt total schwierig, weil wir brauchen halt eine noch höhere Verlässlichkeit. Ich kann nicht sagen, wenn ich zehn Bilder in der Tagesschau-Redaktion habe, die

Damla: Ich sehr Wir die die die in der Zeit Zeit der Das sehr wichtiges Wir haben die der Zeit der Zeit

Wolfgang Wichmann: Test sozusagen vorliegen und ich habe zwei die die rauschen durch und das sind vielleicht sogar die billigsten also

Damla: Das ein wichtiges Möglichkeit, Zeit

Wolfgang Wichmann: die am deutlichsten erkennbaren gefälschten KI generierten Teil KI generierten Bilder dann bringt mir das nichts dann hilft das für den Nachrichtenalltag nichts. So lange Rede kurzer Sinn in diesem Cluster haben wir Tools gesucht keins gefunden und deswegen bleibt halt für mich am Ende schon wichtig wir brauchen den Mensch der die Entscheidung trifft aber KI ist halt top und stark darin mich bei der Stange zu halten. mich, wenn ich nervös werde, wenn der Chef hinter mir steht und Feuer unterm Dach macht und sagt, kann ich jetzt endlich mit diesem Bild arbeiten? Ich möchte das unbedingt auf die Webseite stellen, bei Social Media, YouTube stellen, in die 20 Uhr, was weiß ich, in die Tagesschau packen. Dann hilft es mir, wenn ich etwas habe, das mir ein Arbeitsgerüst vorgibt. Wenn es sagt, hast du das bedacht? Hast du dir das angeschaut und hast du dir das angeschaut? Weil wir neigen halt in aller Menschlichkeit manchmal dazu zu sagen, ach komm. Es wird schon alles passen irgendwie. Das sieht ja auch alles echt aus. Und ich hab's jetzt auch schon woanders in der Konkurrenz laufen sehen. Jetzt schieben wir es halt irgendwie über den Tisch. Und das geht dann eben nicht, glaub ich. Weil dann müssen wir die Regeln, dann müssen wir ein paar Schritte durcharbeiten. Dann dauert es vielleicht mal fünf Minuten länger oder zehn. Aber dafür ist es dann gut und der Mensch trifft am Ende die Entscheidung. ist es halt. Solange, da bin ich der Überzeugung, das dauert noch auf jeden Fall eine Weile, wenn es überhaupt so weit kommt, solange die Maschinen das nicht sicher beurteilen können.

Damla: Aber.

Jean-Luc: Jetzt hast du ja auch schon erwähnt, dass dein Tool noch verhältnismäßig jung ist. Lässt dich das trotzdem in irgendeiner Form beziffern, wie viel Mehrwert das auch schon gebracht hat, dass man sagen kann, dadurch haben wir die Fakes erkannt, die wir so vielleicht gar nicht erkannt hätten, bzw. da wäre eine Meldung anders rausgegangen, weil wir das anders interpretiert hätten.

Wolfgang Wichmann: Nee, kann man, glaube ich, überhaupt nicht quantifizieren. Was man aber halt merkt oder was ich aus den Kollegen-Gesprächen halt mitnehme, ist, dass es ja auch gar nicht immer nur darum geht, dass wir da Deepfakes oder KI-generierte Bilder enttagen, sondern es wird ja auch für die normale Verifikation genutzt. Und da ist schon eben ein Effekt, dass ich auf einmal über bestimmte Bilder etwas erfahre, was ich im Leben nicht erfahren hätte. Weil zum Beispiel ist die KI-Bilderkennung mittlerweile so gut, dass sie halt Schriften auf dem Bild

Damla: Ich mit den Menschen mit den den der der den Ich

Wolfgang Wichmann: erkennt, auch in anderen Sprachen, die sie mir dann automatisch übersetzt. Ein Beispiel, wir hatten ein Foto von einer Agentur, das kam aus Terran von einer Frau ohne Kopftuch. Und dann dachten wir erst mal so, ist das in dieser Lage, in der wir uns befinden, ist das denn sozusagen logisch denkbar, dass die Frau da ohne Kopftuch rumläuft? Und dann haben wir aber halt noch bestimmte andere Aufkleber an den Geschäftstüren da erkannt. da konnte man dann eben besondere Rückschlüsse darauf ziehen, wo wir sind, was das für ein Zusammenhang ist und ob das dass das vielleicht auch Sinne von einer Aktion vielleicht auch so gemacht war oder auch tatsächlich so war. Also die Wahrscheinlichkeit war dann deutlich größer, wenn man das auch zuordnen kann, weil dann Sachen erkannt werden, die selbst, also selbst wenn wir jemanden hätten, der Farsi in dem Fall gesprochen hätte, der hätte das wahrscheinlich gar nicht so erkannt. Weil es tauchen dann Dinge auf im Bild, in dieser Erkennung oft auch, die uns zumindest zu Fragen führen, die wir ohne das Tool nicht beantworten würden. Aber wie gesagt, es ist in der Testphase und es muss durch die Mitbestimmung, überhaupt dauerhaft in so eine Toolfähigkeit jetzt überführt werden zu können. Aber im Moment spricht alles dafür. Viele Bereiche signalisieren mehr wollen wir unbedingt haben. Das soll jetzt genauso passieren und den Prozess schieben wir jetzt an.

Jean-Luc: Das heißt, ihr könnt dann nicht nur auf der einen Seite die Deepfakes erkennen, sondern auf der anderen Seite auch eine Verifikation vornehmen oder zumindest analysieren lassen, wie echt ein Information oder ein Bild ist. Es gibt ja dieses Phänomen der Liars' Dividend, also wo sich Leute das zu Nutze machen, dass wir jetzt immer von Deepfake sprechen. Und wenn mir was nicht gefällt, dann behaupte ich einfach, dass es ein Deepfake ist. Und am Ende des Tages können alle darüber diskutieren. Und im besten Fall läuft das Ganze dann im Sande. Also ist es auch für euch eine Möglichkeit im Grunde genommen rauszufinden, wie realistisch es eigentlich ist, dass diese Information echt ist, beziehungsweise das Bild echt ist.

Wolfgang Wichmann: Genau. Also dafür ist es generell sozusagen da, weil wir ja verifizieren. Es geht ja insgesamt für uns darum, Glaubwürdigkeit als eines unserer wichtigsten Steckenpferde sozusagen hochzuhalten und die auch zu schützen. Und alles, was wir an Material aus dem Netz auch ins Programm übernehmen wollen, muss geprüft werden. Und dafür leistet dieses Tool, das eben halt lustigerweise durch oder mit Hilfe von KI erstellt wurde und das auch KI-Komponenten hat. leistet dann aber einen Beitrag dazu, auch anderes Material aus den Social-Media so abzuklären, ob es das zeigt, was es vorgibt zu zeigen, oder ob das zu sehen ist, was wir uns dann sozusagen, was wir darauf erzählen wollen, dass, ob das auch frisches Material ist, weil Rückwärtsbildersuche zum Beispiel gehört ja dann auch dazu und die gab es ja schon deutlich vor KI-Zeiten. Aber dass man eben mal prüfen kann, ist das wirklich frisches Material?

Jean-Luc: Hm. Ja. Jetzt gebt ihr beiden ja auch viele Workshops rund das Thema Medienkompetenz. Das Themenfeld ändert sich ja gefühlt täglich. Da kommt irgendwas Neues dazu und es gibt neue Hinweise, auf die man achten muss, im Grunde genommen zu erkennen, ob etwas mit KI generiert wurde oder nicht. Könnt ihr uns da bisschen Einblicke geben, wie das bei euch intern läuft, so interne Schulungen oder vielleicht auch Schulungen bei anderen Unternehmen? Wie kann man sich da auf dem Laufenden halten, immer zu... erkennen zu können, was durch KI generiert wurde oder vielleicht dann auch doch noch ein echtes Bild ist, wenn man so möchte.

Damla: Also wir haben ja auf jeden Fall auch interne Netzwerke, die hat ja auch Wolfgang erwähnt, sowohl KI beim NDR als auch in der ARD, wo es dann auch Newsletter gibt, Treffen gibt, wo man sich dann austauschen kann. Und dann hat ja auch jeder von uns eben selbst seine eigenen Quellen, ich sag mal, sei es jetzt Podcasts oder bei YouTube, dass man sich dann immer wieder informieren kann. Bei mir ist es zum Beispiel so, dass mein Bruder ein absoluter Technik-Nerd ist und auch in diesem Bereich beruflich unterwegs ist und dass ich von ihm auch ganz viele Neuerungen mitbekomme. Ich habe auch JetGPT und Co. genutzt, bevor das überhaupt im Alltag bei den Leuten angekommen war. So hat man die eigenen Quellen, menschlich wie auch durch Netzwerke, wo man dann etwas mitbekommt und sich immer auf dem aktuellen Stand hält.

Wolfgang Wichmann: Ja, und also bei uns ist es so, dass wir ja, wir haben ja bei ARDI aktuell gibt es ein festes Team von Kolleginnen und Kollegen, die arbeiten sonst bei, Archiv und in der Dokumentation und die sind aber eben halt geschult, fachlich geschult für den Bereich Verifikation. Die kommen dann zu uns und machen dann hier bei uns diese Verifikationsschichten und wir reden dann mit denen und tauschen uns mit denen aus und haben immer wieder so Schulungsupdates. Wir hatten erst vor ein paar Wochen wieder einen Termin, da kommen wir dann zusammen und dann tauscht man sich aus. Und wir haben auch auf Teams eine Plattform, wo wir dann bestimmte Beispiele, die wir verifiziert haben in der Arbeit, auch teilen mit den anderen Kollegen, sodass die sich das auch angucken können. So best practice cases und dann eben, was Damla gerade gesagt hat, dass wir natürlich innerhalb des NDRs noch einen Austausch haben mit anderen Kollegen, die dasselbe Thema haben, Verifikation und dann innerhalb der ARD und mit dem ZDF zusammen. Also so kommt dann immer relativ viel Austausch zusammen und natürlich Jeder von uns ist ja gewisserweise auch ein Junkie was Nachrichten und das Thema Online Konsum und Verifikation und so anbelangt jetzt insbesondere bei uns wahrscheinlich hier. Und dann gucke ich natürlich einfach auch nach dem Schlagwort Open Source und nach anderen Stichworten und Worten, die mir dann helfen, dass ich im Kosmos sozusagen halt Dinge dann konsumiere, die werden mir dann natürlich auch vorgestellt und dann helfen klassische Newsletter noch und füllen den Rest auf. Und dann bereitet man sich so auf die nächste Schulung vor und es ist doch immer wieder spannend, selbst wenn man denkt, das sind doch Sachen, die müsste jeder wissen, stellt man immer wieder im Austausch mit anderen fest. Jeder hat etwas, von dem er denkt, dass der andere es schon längst wissen müsste. Und so lohnt sich der Austausch halt immer wieder aufs Neue. Und das finde ich schon echt immer sehr, sehr gewinnbringend, egal auf welcher Ebene wir uns da eigentlich treffen.

Damla: .

Michael: Apropos, was jeder wissen sollte, könnt ihr uns vielleicht konkrete Hinweise geben, wie man Fakes als Laie, als normaler Mensch, besten erkennen?

Damla: Also eins davon hat ja Wolfgang schon zu Beginn genannt, wenn etwas total gut ins Weltbild passt, dann sollte man eigentlich auf jeden Fall einen Schritt zurückgehen und dann mal wirklich überlegen, so kann das denn jetzt auch wirklich sein? Oder gibt es vielleicht jemanden, der davon profitieren würde, dass ich das glaube? Das können halt politische Parteien sein, das vermeintliche Informationsdienste sein. Das ist auf jeden Fall total wichtig. Dann eben, dass man auf jeden Fall auch schaut, wer ist die Quelle? Oder kann ich die Quelle überprüfen? Oder gibt es mehrere Quellen, die genau darüber berichten, denen ich vertraue? Also nicht nur irgendwelche Seiten, von denen man noch nie etwas gehört hat. Das kann man ja auch recherchieren. und natürlich halt eben das, was ihr auch gesagt habt. Man kann auch natürlich nochmal schauen, sind die, ich sag mal bei einem Deep Fake, sind die Umrisse so, dass man denkt, okay, das stimmt was nicht oder hat die Person mehrere Finger, fehlt ein Arm, sag ich jetzt mal, ist die Haarsträhne verrutscht. Das sind so Sachen, mit denen man aber eben vor ein paar Monaten besser arbeiten konnte als jetzt, weil mittlerweile eben auch diese Sachen einfach viel besser geworden sind. Meistens hilft auch noch mal der gesunde Menschenverstand, wenn man zum Beispiel sieht, dass Putin und Zelensky sich umarmen, dann liegt das vielleicht auch nahe, dass man das mal hinterfragen kann, ob das denn überhaupt sein kann in diesen Zeiten. Und das sind eben alles so ein Mix aus verschiedenen Sachen, die man nutzen kann, die Fakes und falsche Informationen zu erkennen.

Wolfgang Wichmann: Ja, ich kann vielleicht noch ergänzen, ich habe immer so einen Dreiklang. Natürlich würde ich immer den Nutzenden empfehlen, einmal zu gucken, ist irgendwas im Bild komisch? es ist ja ganz oft ist es auch eine rein logische Frage, wir jetzt wagen. Klar, wenn Putin uns die Lenzkäsig umarmen, das haben wir dann verstanden, so weit sind wir noch nicht. Das wird mutmaßlich nicht dazu kommen. Aber es gibt natürlich auch Dinge. keine Ahnung, dass das etwas im Bewegtbild einfach nicht logisch ist. Hinten wie Explosion, vorne fahren die Autos, als wäre nichts gewesen, als gibt es keinen Morgen. Da sind Dinge oft einfach, weil halt was eingefügt wird oder weil eine Situation beschrieben wurde, da passen Sachen einfach nicht zueinander. Also natürlich einmal ins Bild gucken. Der zweite Punkt würde ich immer sagen, das was Damla auch schon gesagt hat, der Wo kommt das her? Gibt es da nur eins davon? Gibt es da zwei, drei davon? Kann ich noch mal gucken, welcher Account hat das irgendwie gepostet? Was postet denn der sonst so für Sachen? Wie wahrscheinlich ist es, dass ich da von dem Account jetzt zu der Zeit aus dem Ort diesen oder jenen Inhalt bekomme? Das sind das Zweite. Und dann generell sozusagen für mich immer die Herzensmaßgabe misstrauisch bleiben. Das ist meine Empfehlung an alle. Das hilft. glaube ich immer und das geht dann in alle Richtungen. Das muss ich mir selber sozusagen auch zu Herzen nehmen und das empfehle ich den anderen auch, weil wir haben ja vorhin darüber gesprochen, wenn einmal sozusagen der psychologische, wenn die psychologische Pforte offen steht, dann baue ich als Mensch so gerne alles ab, was mich automatisch sensibel sein lässt für Falsches und für Unpassendes. Aber wenn ich so einen Misstrauen in mir drin habe,

Damla: Ich bin sehr

Wolfgang Wichmann: Dann habe ich quasi auch eine gute Chance, insbesondere halt im Social Media Bereich, wo jeder alles posten kann, auch Dinge zu erkennen. Wir hoffen natürlich, dass die Leute bei uns, in den öffentlich-rechtlichen, bei der Tagesschau insbesondere natürlich auch ein Vertrauen mitbringen. Aber so gehen wir halt vor und es hat sich oft gezeigt, dass da auch was Gutes dran ist, wenn man dem Material, insbesondere aus dem Netz, aus den verschiedenen Kanälen, auf dunklen Ecken, möchte ich mal sagen, eben mit ein bisschen Vorsicht. trauen begegnen.

Michael: Ja, ich glaube, das hilft momentan sehr. Frage, die mir noch unter den Nägeln brennt, und das ist schon mal eine letzte Frage für heute, ich wirklich den Abschluss mache, wäre dann, wie seht ihr es in der Zukunft, also in den nächsten drei Jahren? Wo stehen wir da beim Thema Diebfähigerkennung?

Damla: Also Deepfake-Experiment. Ich hoffe natürlich, dass bis dahin ganz viele, auch was Medienkompetenz betrifft, einfach sich besser aufgerüstet haben werden. Aber ich könnte mir auch vorstellen, dass dann eben auch Herkunftsnachweise mehr ein Thema sein werden. Also ich sag mal digitale Signaturen oder C2PAs, also ich sag mal so, was Metadaten auch bei Dateien sind, dass man wirklich nachverfolgen kann. wie der Ursprung einer Datei ist und wie die Bearbeitungshistorie ist, sodass man eben auch erkennen kann, wenn etwas dann manipuliert wurde und eben auch, dass man vielleicht hoffentlich auch ein besseres Gespür für Quellen hat. bei meinen Workshops vor allem mit jungen Menschen sehe ich sehr oft, dass sie erzählen, ja das habe ich da und da gesehen. Und wenn man fragt, woher hast du das, dann wird oft erst mal die Plattform genannt oder das Medium. Also mit Medium meine ich, dass man sagt, das habe ich auf dem Handy gesehen, aber dass man nicht unterscheiden kann zwischen Quelle A und Quelle B. Und das würde ich mir ehrlich gesagt wünschen. Und ob es wirklich so sein wird, weiß man nicht. Aber dafür setzen Wolfgang und ich uns eben ein mit unseren Workshops.

Wolfgang Wichmann: Ja, das finde ich das total wichtiger Punkt. Also wenn die, wenn jemand zu mir sagt, das habe ich bei Instagram gesehen und es aber völlig unklar ist, wer welcher Kanal wo das oder TikTok oder egal welches Social Media. Also da ist Medienkompetenz auf jeden Fall noch ein Feld, das noch beackert gehört. Da sind wir unterwegs und da gibt es ja auch ganz viele andere tolle Projekte, die lie Detectors, die in die Schulen gehen und die Klassen. den Klassen mal zeigen, was sind die grundlegenden Verifikationsmöglichkeiten und dass das sozusagen besser wird. Und natürlich habe ich auch die Hoffnung, dass dieses Hase-Igel-Rennen, das es ja gibt, einerseits zwischen den LLMs, also den KI, die das produzieren lassen, die das möglich machen, dass ich auf meinem Handy mit irgendwie Textprompt entweder einfach ein Bild oder ein Video erstellen kann, dass das die einerseits sozusagen im Wettlauf mit den Firmen, die für die Verifikation sich einsetzen, die den Leuten Tools an die Hand geben wollen, dass man solche Sachen auch automatisiert erkennen kann, als KI generiert oder KI manipuliert, dass es da eben ein gleich ein Kopf auf, wie sagt man da, Kopf an Kopf gibt wieder. Das würde ich mir natürlich wünschen. Ich weiß, dass das schwierig ist, aber ich weiß, dass es Forschung gibt. In Italien eine tolle Professorin, die da ganz viel dran arbeitet. Es ist ein großes Geschäftsfeld in den USA, das immer auch ein gutes Zeichen ist, wenn da jemand mal mit Geld verdienen kann, dann wird es da auch sicherlich noch Entwicklung geben. ja, der dritte Schritt, glaube ich, Damna hast du auch gesagt, wenn wir als öffentlich-rechtliche Medien zum Beispiel schaffen zu sagen, das ist safe von uns gedreht, das haben wir mit unseren Teams, unseren Lieferketten, die wir ja haben. Wir haben Auslandskorrespondenten, wir haben Inlandstudios, wir haben Menschen.

Damla: Ich glücklich, Arbeit Menschen mit den Menschen Menschen Menschen den

Wolfgang Wichmann: die mit unseren Kameras rausgehen, die Events sehen und drehen und davon Material anfertigen. Und das kommt dann und landet bei uns, wenn wir das auch sichtbar machen können, noch mehr, dann damit auch einzustehen und zu sagen, das ist Material, das haben wir gedreht, das kommt aus unseren Quellen, da könnt ihr euch darauf verlassen. Dann haben wir, glaube ich, verschiedene Herangehensweisen zu einem Problem der Verunsicherung, dem wir da schon auch werden erfolgreich hoffentlich begegnen.

Damla: Genau.

Wolfgang Wichmann: Aber die Herausforderung ist gegeben.

Damla: Transparenz schafft nicht auch Vertrauen. Genau deswegen haben wir auch bei uns in der Tagesschau zum Beispiel auch immer wieder Aktionen, wo wir auch versuchen zu zeigen, wie wir arbeiten. Also nicht nur eben in Workshops, sondern wo wir auch wirklich dann Gruppen zu uns einladen und zeigen, wie überhaupt die Nachrichten in der Sendung landen, woher die Informationen kommen, wenn wir über Gaza und Israel berichten, woher unsere Korrespondentinnen und Korrespondenten die Information haben, wie wir selbst aber auch Informationen prüfen und dass wir eben selbst wenn wir eine Information vielleicht vor Medium A hatten, dass wir damit nicht rausgehen, bevor wir nicht eine zweite verlässliche Quelle haben, also dass auch eben unsere Grundsätze und die ethischen Regeln nochmal erklärt werden, weil für uns sind die selbstverständlich, aber auch da gibt es eben ganz viele Menschen da draußen, die das nicht wissen. Und deswegen ist es uns auch total wichtig, eben auch zu zeigen, wie wir denn überhaupt arbeiten in der Tagesschau-Redaktion.

Jean-Luc: Spannend, da sei doch hier nochmal der Hinweis gegeben, dass wenn ihr auch diesen Blick hinter die Kulissen mal machen wollt, dann folgt am besten Damla und Wolfgang auf den klassischen Social Media Kanälen, denn da gibt es diesen Blick hinter die Kulissen. Gerade Damla bei dir auf Instagram, wenn man mal wissen möchte, wie es auf der anderen Seite vom Tagesschau-Tresen aussieht, dann kann man das da sehr gut nachvollziehen. Und ansonsten klar, wenn ihr mal einen Workshop mit den beiden machen wollt, euch auch in diesem Bereich der Medienkompetenz etwas weiterzubilden, da das die beiden sicherlich offenführt. Und natürlich auch, ihr mal ein Event, eine große Bühne, Podiumsdiskussionen oder ähnliches moderiert haben wollt und das in guten Händen wissen wollt, dann geht gerne auf Damla zu. Die ist über LinkedIn und Co. sehr gut dafür erreichbar. Aber eine Frage hat Michael noch angeteasert, die mir nämlich auf dem Herzen liegt und die ich euch gerne stellen möchte. Und wer unserem Podcast schon etwas länger folgt, der weiß, dass ich ganz gerne den Blick in die Glaskugel... Versuche, von meinen Gästen abzuverlangen. Und in eure Richtung wäre es spannend zu wissen, wie seht ihr das Thema KI im Journalismus in den nächsten Jahren? Mag ich schon gar nicht mehr sagen. Das sind wahrscheinlich eher die nächsten Monate, weil sich das ganze Themenfeld so schnell entwickelt. Vielleicht auch bisschen Wunschdenken. Wo würdet ihr euch KI wünschen in den nächsten Monaten, eure Arbeit zu erleichtern oder zu verbessern? Aber vielleicht auch, weil wir heute bisschen negativen Themen angesprochen haben. Wo fürchtet ihr euch vor, was so im journalistischen Bereich vielleicht auch mit KI? auf uns zukommen könnte.

Wolfgang Wichmann: Ich fände es total schön, wenn wir eine Unterstützung bekommen, bei der alles, an Bewegtbild verfügbar ist, sofort mit rechte Lage gekennzeichnet ist und mit Quellenlage und mit wo und auf welchem Ausspielweg und wann es wo gesendet werden kann und wo es gesendet wurde. So ein Managementsystem, so umfassend ist, weil ganz oft ist das Problem, dass wir Sachen irgendwo im Haus haben. Jemand hat das aus einem anderen Beitrag und dann will er es in den nächsten und in die Sendung noch rein. Und am Schluss überlegt man die ganze Zeit, wo kam das eigentlich her? Also natürlich im Haus, aber bei bestimmten Sport- Trittbilder anbietern hat man zum Beispiel ein Sport-Event. Das darf man aber nur mit bestimmter Reichweite ausstrahlen. Das ist für jeden, im Journalismus arbeitet, der kennt das Problem. Also hinter den Kulissen im organisatorischen sehe ich einen totalen Schwerpunkt. Würde mir total wünschen, dass da

Damla: Ich.

Wolfgang Wichmann: verlässlich Infos hinterlegt sind. Ich glaube, dass da auch ganz viele Leute dran arbeiten, weil das naheliegendes Problem ist. Aber offensichtlich ist es nicht ganz so einfach zu lösen. Aber wer weiß, wenn ich mir was wünschen könnte, dann wäre es da, glaube ich. Weil dann hätten wir ganz viele Fragen untertags weniger, wo auch immer wieder Menschen befasst sind, die dann zeitweise bessere und andere Fragen vielleicht hätten.

Damla: Ja, und mit diesem Tool würde ich super gerne arbeiten in der Live-Situation. Man muss ja auch sagen, wenn wir halt live auf Sendung gehen, wenn gerade etwas passiert ist, das haben wir eben auch schon besprochen, da sind die Desinformation auf jeden Fall auf dem Höchststand kann man schon fast sagen oder auf jeden Fall muss man da extrem vorsichtig sein, womit man rausgeht und wenn wir wirklich diese Möglichkeit hätten, dass die Bilder, die bei uns eintrudeln, direkt schon ihre Kennzeichnungen haben, die Quellenverweise haben, das wäre ein Segen für uns natürlich. Und ich habe so etwas Ähnliches auch mal für Thuri2 aufgeschrieben, dass ich mir so eine Art Faktencheck-Buddy, wir sind jetzt wieder beim Namen Buddy, wünschen würde, der auch Live-Faktenchecks macht. Weil es ist ja auch in Studien herausgekommen, dass diese Faktenchecks im Nachhinein eigentlich gar nicht so viel bringen. Weil es einfach so ist, wenn die Information einmal draußen ist, dann verfängt sie. Dann kann man die Information im Nachhinein nochmal richtigstellen, also debunken. Und trotzdem bleibt die falsche Info in den Köpfen der Leute, was sich eben auch Menschen, die auf Desinformationen sich konzentrieren, auch zu Nutze machen können. Und deswegen ist ja auch eben Pre-Bunking wichtig. Also dass man vorher schon so ein bisschen dafür immunisiert, wie man eben falsche Informationen erkennen kann. Und wenn es die Möglichkeit gäbe, so eine Art Lügen-Detektor live zu haben, der dann direkt das Ganze checkt, das wäre einfach genial für unsere Arbeit, dass ich dann wirklich direkt so bald, vielleicht sogar... Wie?

Wolfgang Wichmann: und dann von unten ins Bild und sagt dann Warnung, Achtung, Warnung, dein Gesprächsgast hat hier gerade dünnes Eis. Frag doch noch mal nach. Ja.

Damla: Genau! Genau! Genau, das fände ich super. Ich gar nicht mal sogar nachfragen, sondern vielleicht sogar ganz transparent für die Zuschauerinnen und Zuschauer, die dann in dem Moment sehen, okay, Politiker, Politikerin XY spricht gerade und dann kommt so eine Alert und sagt so, frag mal nach oder die Information müsste noch mal gecheckt werden und die ist so nicht wahr. Das wäre natürlich eine große Hilfe für uns.

Wolfgang Wichmann: Ich hätte noch was unter der Rubrik, wünscht ihr was? Hab ich noch einen oder sind wir schon am Ende? Also, weil tatsächlich habe ich, genau, der Dreiklang ist ja immer eine gute redaktionelle Wahl, aber mir ist gerade noch eingefallen, wie oft ich mir denke, wenn ein Politiker etwas zu einem Thema sagt, wie was weiß ich, BAföG Reform oder Krankenversicherung oder Gesundheit oder Rente oder was auch immer, dann würde ich immer so gern mir so eine Plattform wünschen, wo ich eintippe.

Jean-Luc: Gerne, hau raus!

Damla: Man hat da immer drei.

Jean-Luc: Haha.

Wolfgang Wichmann: Was hat der, nennen wir ihn Ministerpräsident Söder oder Bundeskanzler Merz, was hat der in der Vergangenheit zum Thema Rente oder Krankenversicherung gesagt? Weil ja die Zeit, der zeitliche Kontext, jemand, was er vor zehn Jahren gesagt hat, vor fünf Jahren, vor vier Jahren, natürlich hat jeder das Recht, seine Meinung zu ändern, haben wir ja alle auch gelernt. Aber ganz oft gibt es keine... Plattform, wo ich das auf die Schnelle mal eben nachprüfen könnte. Also mit guter Recherche kriegt man viel über Google hin, aber so eine, was hat der zu dem Thema schon mal gesagt, Plattform? Vielleicht mache ich da noch was drin.

Damla: Nehme ich auch Wolfgang. Oder ihr könnt das ja vielleicht für uns entwickeln, vielleicht auch keine schlechten Ideen.

Michael: Gut, das machen wir ganz fest.

Wolfgang Wichmann: Genau.

Jean-Luc: Ja, es ist tatsächlich ein Thema, was wir auch häufiger haben. sind diese zwei Komponenten. Zum einen die Priorisierung der ganzen Themen, reinkommen. bei unseren News-Folgen dann kommen super viele Infos immer rein. es ist immer die Frage, was davon ist wie wichtig und was davon ist eigentlich wie aktuell zum einen. Und zum anderen dann auch immer diese Querverweise rauszufinden. Genauso wie du sagst, Wolfgang, was haben wir dazu vielleicht schon mal berichtet und wie hat sich das in der Zeit verändert? Wir haben ja häufig auch diese ganzen Themen rund Investment in KI-Firmen. Die Zahl Standalone nur zu nennen, das hilft mittlerweile schon gar nicht mehr weiter, weil die Zahlen meistens so weit weg sind, dass man sich das kaum noch vorstellen kann, wie viel Geld da investiert wird. Aber wenn man da so den Vergleich hat oder die Historie und das nochmal wieder berücksichtigen kann, dann wird aus dieser absoluten Zahl dann schnell ein relatives Verhältnis zu dem, was dann davor schon passiert ist. Also von daher Eine Herausforderung, die wir sehr gut nachvollziehen können und sicherlich was, wo es sich lohnt, was dazu zu machen. wenn ihr da draußen zuhört und noch eine Startup-IT braucht und dafür jetzt schon die ersten zwei Kunden habt, dann legt los und pitcht uns das gerne.

Damla: Aber es muss öffentlich rechtlich bezahlbar sein dann.

Jean-Luc: Was bedeutet das, Tumblr? Sehr gut, sehr gut.

Michael: Das war's für heute.

Damla: Ja. Lass das mal unkommentiert.

Michael: Wunderbar. Ich glaube, sind wir leider jetzt auch schon am Ende angekommen. Vielen, Dank für eure Einblicke. Ein sehr, sehr spannendes Thema. Und ich denke, dazu werden wir uns nicht zum letzten Mal gehört haben. Ich glaube, wird sehr, viel in nächsten Jahren noch passieren. Ihr habt es angedeutet. dem her würden wir uns sehr freuen, euch mal wieder als Gast zu haben. Und wie gesagt, noch mal herzlichen Dank für heute.

Damla: Danke für euer Interesse.

Wolfgang Wichmann: Danke für die Einladung. Tschüss.

Damla: Tschüss!

Jean-Luc: Danke, ihr dabei gewesen seid und nächste Woche hört ihr uns wieder regulär mit einer News-Folge, bei der wir dann sicherlich auch ein bisschen noch mal mehr drauf achten, ob wir Deepfakes dabei haben, was uns bisher so noch nicht untergekommen ist, aber da freuen wir uns schon drauf. auch nochmal von meiner Seite vielen lieben Dank und bis nächste Woche.

Michael: Bis dann, ciao!