Spätestens mit dem Aufkommen leistungsfähiger KI-Systeme ist es so einfach wie nie zuvor, Inhalte zu manipulieren, zu verfälschen oder gänzlich neu zu erzeugen. Fake News, Deepfakes und automatisierte Desinformationen nehmen zu und stellen eine reale Gefahr für demokratische Diskurse dar.
Als Institut für Intelligente Interaktion und Immersive Erfahrung (IIIX), das sich mit Künstlicher Intelligenz und Mensch-Computer-Interaktion beschäftigt, sehen wir uns in der Verantwortung, uns diesen Entwicklungen aktiv zu stellen. Wir möchten nicht nur forschen und verstehen, sondern auch aufklären, einordnen und den gesellschaftlichen Dialog fördern.
Und genau deshalb haben wir, in Kooperation mit dem ZKM | Zentrum für Kunst und Medien Karlsruhe und gefördert durch die Carl-Zeiss-Stiftung, das Symposium “Die Fabrikation der Wahrheit” auf die Beine gestellt. Ziel der Veranstaltung war es, Perspektiven aus Wissenschaft, Praxis und Gesellschaft zusammenzubringen und dabei insbesondere junge Menschen für die Mechanismen und Gefahren digitaler Manipulation zu sensibilisieren.
Am 24. Oktober 2025 fand das Symposium statt und widmete sich einen ganzen Tag lang den Fragen, wie Desinformation entsteht, wie sie wirkt, und wie wir als Gesellschaft, Medien und Wissenschaft damit umgehen können.
Rund 250 Teilnehmende beim Symposium
Um 9 Uhr morgens trafen die ersten Gäste des Symposiums im Foyer des ZKM | Zentrum für Kunst und Medien Karlsruhe ein. Rund 250 Menschen waren unserer Einladung gefolgt: Akteure aus der Bildung, wie Lehrkräfte, Schüler*innen, Studierende, Auszubildende, aber auch Wissenschaftler*innen, Medienschaffende, Politiker*innen und interessierte Bürger*innen.
Nach der Begrüßung durch den Bürgermeister Dr. Albert Käuflein, einer Videobotschaft von Staatssekretärin Sandra Boser, sowie Grußworten von Alistair Hudson, dem wissenschaftlich-künstlerischen Vorstand des ZKM | Zentrum für Kunst und Medien Karlsruhe, eröffnete Institutsleiter Prof. Dr. Matthias Wölfel das Symposium.
Vorträge, Panels und Workshops zu vier Themenschwerpunkten
Den Auftakt bildeten zwei Keynotes, die den Tag inhaltlich rahmten:
Dr. Murat Karaboga vom Fraunhofer ISI sprach über die gesellschaftlichen Auswirkungen von generativer KI und Deepfakes und zeigte, wie schwierig, aber notwendig eine angemessene Regulierung dieser Technologien ist.
Franziska Roth, Chefredakteurin des SWR, betonte in ihrem Vortrag die Bedeutung von Qualitätsjournalismus und Transparenz in Zeiten von Desinformation und KI-generierten Inhalten, und warum die Wahrheit als gemeinsamer Bezugspunkt der Gesellschaft unverzichtbar bleibt.
Nach den Keynotes folgten über ein Dutzend Impulsvorträge in vier thematischen Blöcken. Durch die Vorträge zu Gesellschaftlichen Aspekten sowie Umgang mit Desinformation führte IIIX-Mitarbeiter Daniel Hepperle. Durch die Vorträge Künstliche Intelligenz und Desinformation sowie Wahrheit, Medien und gesellschaftliche Kommunikation führte IIIX-Mitarbeiterin Fiona Schmidbauer.
Parallel zu den Vorträgen fanden mehrere Workshops statt, in denen die Teilnehmenden selbst aktiv werden konnten. Sie reichten von einem Einblick in einen Breaking-News-Tag beim SWR über psychologische und rechtliche Perspektiven auf Prebunking bis hin zu Themen wie Fehlinformationen im Bildungsbereich und Medienkompetenz vulnerabler Gruppen.
Die Paneldiskussion unter Leitung von Prof. Dr. Matthias Wölfel am Nachmittag brachte sehr unterschiedliche Perspektiven zusammen: Von der Gymnasiastin Emilia Sommer und dem Auszubildenden Hadi Hodroj über Dr. Murat Karaboga und Prof. Dr. Luzian Weisel, Vizepräsident der Deutschen Gesellschaft für Information und Wissen e. V., bis hin zu Sarah Lumpp, Schulleiterin des Helmholtz-Gymnasiums Karlsruhe. Die Diskussion zeigte eindrucksvoll, wie wichtig der offene Dialog zwischen Bildung, Wissenschaft und Gesellschaft ist und Wahrheit kein fester Zustand ist, sondern erst entsteht im gemeinsamen Ringen um Verständnis, Verantwortung und Vertrauen.
Neben den Vorträgen konnten die Besucher*innen im Foyer interaktive Installationen erleben, die den Einfluss von KI und Medien auf unsere Wahrnehmung erfahrbar machten. Viele dieser Arbeiten wurden von Studierenden und Mitarbeitenden des IIIX entwickelt.
Danksagung
Ermöglicht wurde das Symposium durch die Förderung der Carl-Zeiss-Stiftung, die es uns erlaubt hat, die Teilnahme für alle Interessierten kostenlos anzubieten.
Ein großer Dank gilt außerdem dem ZKM | Zentrum für Kunst und Medien Karlsruhe für die großartige Kooperation, die inspirierenden Räume und die Unterstützung bei der Durchführung.
Der größte Dank gilt jedoch den Referierenden und Gästen, die diesen Tag durch ihre Beiträge, Diskussionen und Ideen gestaltet haben. Das große Interesse, die Qualität der Beiträge und die Offenheit der Teilnehmenden haben gezeigt, wie wichtig der Dialog über Wahrheit, Vertrauen und digitale Öffentlichkeit ist, und dass er am besten gelingt, wenn Wissenschaft, Bildung und Gesellschaft gemeinsam darüber sprechen.
Liste aller Beiträge und Beteiligten
| Beitragstitel | Beitragende |
|---|---|
| Generative KI und Deepfakes – Gesellschaftliche Auswirkungen und ihre Regulierung | Murat Karaboga |
| Fakten gegen Fakes – Warum es die Wahrheit noch braucht | Franziska Roth |
| Mit der Wahrheit lügen!? | Alex Wiegmann, Louisa Reins |
| Nichts ist, wie es scheint? Zum Zusammenhang von Verschwörungsglauben, Esoterik und Religion | Verena Schneider |
| Vom Fake zur Wahrheit: Wie Journalisten im KI-Zeitalter Nachrichten verifizieren | Julius Sandmann |
| Einblick in einen Breaking-News-Tag bei SWR | Boris Bauer |
| Mis(sing) Information im Bildungsbereich erkennen und verstehen | Amelie Labusch, Michaela Vog |
| LLMs im Kontext von Fake News | Jannik Strötgen |
| Pattern-Based Detection of Linguistic Threats | Matteo Große-Kampmann |
| Zwischen den Zeilen: Eine linguistische Perspektive auf Fake News und KI | Judith Sieker |
| Wie Algorithmen unser Denken lenken und warum das demokratiegefährdend ist | Ada Rhode |
| Die Impfung gegen Gehirnwäsche? Psychologische und rechtswissenschaftliche Perspektiven auf Prebunking | Tahireh Panahi, Amancay Ancina |
| Paneldiskussion – Mit Gästen aus der Wissenschaft, Bildung und dem Schulwesen | Emilia Sommer, Hadi Hodroj, Murat Karaboga, Luzian Weisel, Sarah Lumpp, Matthias Wölfel |
| Zwischen Täuschung und Erkenntnis: Immersive Ansätze zur Sensibilisierung gegen Fake News | Benjamin Schnitzer, Stefano Gampe, Niklas Oesterle |
| BITTE WAS?! – Hass, Hetze und Desinformationen im Unterricht und außerschulisch begegnen | Carl Postelmann, Thomas Kiefer |
| Der SchoolCrime Podcast | Saskia Nakari |
| Fake News und Debunking im Zeitalter Generativer KI | Stefanie Miketta |
| KonCheck: Stärkung der Medienkompetenz von vulnerablen Gruppen | Henry Hosseini, Omed Abed, Aaron Zilt, Tobias Urban, Jens Gerken |
| Zwielichte Typen und kämpferische Wahrheitssucher: Wie Filme das Bild des Journalismus in der Öffentlichkeit prägen | Oliver Langewitz |
| Wissenschaft im Netz der Desinformation. Rolle von digitalen Medien und KI | Ennio Brandt |
| Trügerische Realität – Bildmanipulation von 1838 bis heute | Ronja Kasper, Nico Batschauer |
| Desinformation erkennen mit dem DesinfoNavigator: Ein KI-Tool zur Stärkung der Medienkompetenz | Jan Höllmer, Lena Beck, Clara Christner |
| InfoGuard | Audrey Cornelia Komninos, Luca Breisinger, Ronny Friedmann, Tim Spode, Fabian Schmidt |
| Fake it 'till you make it | Sara Tettmann, Lieselotte Winter, Jan Ueberacker, Fabian Baege |
| Embodied Conversational Agent (ECA) | Vitali Reinhardt, Wladimir Hettmann, Thorsten Zylowski, Matthias Wölfel |
| Tea-nder | Niklas Römer, Juri Völker, Maja Magschok, Gajana Kartasova, Miro Gall, Jana Kästel |
| TWONy-macro: Eine Simulation der Meinungsdynamik in sozialen Netzwerken | Simon Münker, Achim Rettinger |
| Spiel “Bomba Viral” | Dennis Reineck, Stephanie Pierzchala |
| MIL Heroes & Villains (Media and Information Literacy Guidebook) | Dennis Reineck, Stephanie Pierzchala |
| VR-Film: Im Labyrinth der Demokratie – Finde deinen Weg! | Oliver Langewitz, Filmboard Karlsruhe e. V., Lions Club Karlsruhe-Mitte, Stadtjugendausschuss Karlsruhe, Institut für Intelligente Interaktion und Immersive Erfahrung der Hochschule Karlsruhe |