„Check First. Vote Smart“: DFKI-Projekt macht Wähler zu Deepfake-Detektiven

Kaiserslautern. Täuschend echte Fake-Videos von Politikerinnen und Politikern können heute in wenigen Minuten entstehen – und sich in sozialen Netzwerken rasant verbreiten. Ein neues Projekt des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) soll deshalb Wählerinnen und Wähler in Rheinland-Pfalz zu Deepfake-Detektiven machen – noch vor der Landtagswahl.

KI-Projekt gegen Desinformation vor Wahlen

Ein Politiker am Rednerpult, ein harmloser Scherz, der nie gefallen ist, und ein Wahlkampfvideo, das es so nie gab – mehr braucht es heute nicht, um Millionen Menschen in die Irre zu führen. Mithilfe von frei verfügbaren Apps entstehen aus wenigen Klicks täuschend echt wirkende Inhalte, die sich in den sozialen Medien rasant verbreiten lassen. Genau an diesem Punkt setzt ein neues DFKI-Projekt in Zusammenarbeit mit dem DFKI-Spin-off Gretchen AI und der Landeszentrale für politische Bildung Rheinland-Pfalz (LpB) an: Es will Wählerinnen und Wähler zu Deepfake-Detektiven machen, bevor am Ende ein Algorithmus statt der Bürgerschaft über Stimmungen im Land entscheidet.

Deepfake-Check direkt auf Instagram

Das Projekt „Check First. Vote Smart“ dockt direkt dort an, wo sich politische Meinungsbildung in Rheinland-Pfalz zunehmend abspielt: in den Social-Media-Feeds auf dem Smartphone. Statt Nutzerinnen und Nutzer auf externe Plattformen umzuleiten, fügt sich der Deepfake-Check als niedrigschwellige Zusatzfunktion in ihren Alltag ein: 

• Verdächtige Bilder können mit zwei Klicks aus Instagram an einen speziellen Detektor-Bot weitergeleitet werden.
• Im Hintergrund analysiert der KI-Detektor, ob das Material KI-generiert oder manipuliert ist – und wenn ja, auf welche Weise.
• Die Nutzerinnen und Nutzer erhalten eine Einordnung: Wie wahrscheinlich ist ein Fake und welche Spuren deuten darauf hin?

Mehr als 80 Manipulationsarten erkennen

Hinter „Check First. Vote Smart“ verbirgt sich ein ganzes Arsenal an Detektionsverfahren: In der Beta-Phase sollen mehr als 80 verschiedene Manipulationsarten erkannt werden – von klassischen Deepfake-Videos bis hin zu scheinbar harmlosen Screenshots: 

• Visuelle Eingriffe: Face-Swap, Lip-Sync-Manipulationen oder Image Splicing, bei dem echte Fotos zu einer irreführenden Szene zusammengesetzt werden.
• Akustische Fakes: Voice Cloning, das aus wenigen Minuten Audio eine täuschend echte Stimmkopie erzeugt, und Audio Splicing, bei dem echte Zitate neu montiert werden.
• Text- und Kontextfälschungen: gefälschte Screenshots mit erfundenen Zitaten, echte Aussagen, die in einen falschen Kontext gestellt werden, oder das „Liar’s Dividend“, wenn echte, unangenehme Aussagen im Nachhinein als angebliche KI-Fakes abgetan werden.
• Hybride Angriffe: Doppelgänger-Websites, die seriöse Medien täuschend echt kopieren, oder KI-gesteuerte „AstroTurfing“-Kampagnen, bei denen unzählige leicht variierte Bot-Posts eine künstliche Stimmung simulieren.

Der Einsatz für Bürger ist bewusst niedrigschwellig: keine zusätzliche App, keine komplizierte Anmeldung, sondern ein Direktkanal in der bestehenden Instagram-Oberfläche. „Wir nutzen ausschließlich Funktionen, die Instagram ohnehin bereitstellt – Direct Message, Teilen, Weiterleiten“, betont das Team, das die Umsetzung DSGVO-konform gestaltet.

Den KI-Detektor für Bildanalyse hat das Team bereits im Sozialen Netzwerk Instagram verfügbar gemacht, Videoanalyse und die Analyse nach früheren Kontexten und Originalmaterial gibt es auf der Dashboard-Lösung von Gretchen AI.

Aus dem Labor in den Wahlkampf

Das Projekt startet als Beta-Phase mit bis zu 10.000 Wählerinnen und Wählern in Rheinland-Pfalz, die verdächtige Inhalte melden und eine Einschätzung dazu erhalten – und zugleich Teil eines Forschungsprojekts werden. Die Forschenden wollen unter anderem verstehen, welche Fälschungen bei welchen Gruppen besonders überzeugend wirken, wie nützlich KI-Detektoren sind und ob Wähler*innen ihnen vertrauen – und wie mit Fehleinschätzungen umgegangen wird. Dazu stellt das Team ein KI-Quiz auf Instagram bereit.

Werkzeuge für Medien, Bildung und Behörden

Für das DFKI ist das Projekt mehr als ein Einzelbeitrag zur Landtagswahl, sondern ein Testfeld für eine neue Generation von Werkzeugen gegen hybride Bedrohungen aus generativer KI. Schon heute kommen Deepfake-Erkennung und Kontextanalyse von Gretchen AI in professionellen Umgebungen zum Einsatz – von Newsrooms über Behörden bis hin zu Unternehmen, die ihre Marke gegen manipulierte Videos schützen müssen.

Langfristig sehen die Projektpartner mehrere mögliche Ausbaustufen: die Übertragbarkeit auf andere Wahlen, die Integration weiterer Plattformen wie TikTok sowie Werkzeuge, mit denen Schulen, Volkshochschulen oder Initiativen der politischen Bildung eigenständig Deepfake-Workshops durchführen können. „Wir müssen nicht nur Fakes entlarven, sondern Medienkompetenz auf dem Stand von 2026 vermitteln“, betont das Team – inklusive verständlicher Erklärungen, welche Spuren ein System gefunden hat und wie es zu seiner Einschätzung gelangt.

So funktioniert der 2-Klick-Check:

• Verdächtigen Post auf Instagram auswählen.
• Über die Teilen-Funktion an den Checker-Account „gretchen_ai_berlin“ senden, es meldet sich der KI-Detektor.
• Nutzerinnen und Nutzer erhalten eine Einschätzung zur Wahrscheinlichkeit eines Fakes und eine kurze Einschätzung zu Einflussfaktoren.
• KI und Faktencheck Expert*innen prüfen ausgewählte oder uneindeutige Bilder, auch Metadaten und Kontext – inklusive Abgleich mit geprüften Quellen.
• Alle Schritte sind datenschutzkonform, es werden nur die für die Analyse notwendigen Inhalte verarbeitet. red