Neue Realitäten, gefälschte Identitäten: Wie Deepfake-Kriminalität das Internet erobert

Ratgeber. Deepfake-Kriminalität ist ein wachsendes Problem, das durch die rasante Entwicklung der Künstlichen Intelligenz (KI) und maschinellen Lernens möglich geworden ist. Neue Technologien - wie face swap Apps, die man auf jedes Handy laden kann - ermöglichen es, absolut echt wirkende, realistische, aber gefälschte Bilder, Videos und Audiodateien zu erzeugen, in denen Personen scheinbar Dinge tun oder sagen, die sie in Wirklichkeit nie getan haben. Die Manipulation von Medieninhalten und das Erschaffen neuer "Realitäten"  hat das Potenzial, nicht nur in der Unterhaltungsindustrie für kreative Zwecke genutzt zu werden, sondern auch für böswillige und kriminelle Absichten.

Die Anwendungsgebiete von deep fake-Kriminalität sind vielfältig und reichen von Betrug über Erpressung bis hin zu Rufmord. Eine der bedenklichsten Formen ist der Missbrauch von Deepfakes, um Personen in kompromittierende Situationen zu bringen. Beispielsweise können Deepfake-Videos verwendet werden, um eine Person in einer unethischen oder illegalen Handlung darzustellen, was zu erheblichen persönlichen und beruflichen Schäden führen kann. In anderen Fällen werden Deepfakes genutzt, um gefakte Audioaufnahmen von Führungskräften zu erstellen, die dann für finanziellen Betrug oder Manipulation verwendet werden. Die Technologie wird zunehmend auch für politische Zwecke missbraucht, indem Deepfake-Videos erstellt werden, um falsche Informationen zu verbreiten und Wahlen zu beeinflussen.

Ein weiteres Beispiel ist die Verwendung von Deep fake-Technologie in der Identitätsdiebstahlkriminalität, bei der gefälschte Videos oder Bilder dazu verwendet werden, das Vertrauen von Unternehmen oder Privatpersonen zu erschleichen. Kriminelle können Deepfakes nutzen, um sich als jemand anderes auszugeben, etwa um über Social Engineering Zugang zu sensiblen Informationen oder finanziellen Mitteln zu erhalten.

Die Bekämpfung von Deepfake-Kriminalität stellt eine enorme Herausforderung für die Justiz und die Gesellschaft dar. Einerseits sind die Technologien, die Deepfakes erschaffen, relativ einfach zugänglich, was es auch Kriminellen ermöglicht, diese zu missbrauchen. Andererseits ist es oft schwierig, die Echtheit von digitalen Inhalten eindeutig zu überprüfen, da Deepfake-Videos und -Bilder mit zunehmender Perfektion erstellt werden. In vielen Ländern gibt es bereits Gesetze, die die Erstellung und Verbreitung von Deepfakes unter Strafe stellen, doch die schnelle Entwicklung dieser Technologien erschwert eine effektive Regulierung. Insgesamt stellt die deep fake-Kriminalität eine ernsthafte Bedrohung für die digitale Welt dar. Sie erfordert neue gesetzliche Rahmenbedingungen, technologische Lösungen und eine erhöhte Sensibilisierung, um die negativen Auswirkungen auf Gesellschaft und Individuen zu minimieren.

Deepfake-Pornographie - ein perfides Spiel mit der künstlichen Intelligenz

Ein weiteres Problem stellt die Verbreitung von Deepfake-Pornografie dar, die besonders die Rechte und die Privatsphäre von Individuen verletzt. Deepfake-Pornografie bezeichnet die Verwendung von Deepfake-Technologie, um realistisch aussehende, aber gefälschte pornografische Inhalte zu erzeugen. Dies geschieht in der Regel, indem Gesichter von nichtsahnenden Personen auf pornografische Szenen übertragen werden, ohne dass deren Zustimmung vorliegt. Die Technologie verwendet Künstliche Intelligenz (KI), so genannte face swap-Apps und maschinelles Lernen, um Videos und Bilder zu erstellen, die sehr realistisch wirken, jedoch in Wirklichkeit nicht authentisch sind.

Schon mit einiges wenigen Klicks ist es möglich, jedes beliebige Gesicht in Videoaufnahmen und Bilder zu montieren. Gefakte Porno-Videos überschwemmen daher einschlägige Seiten und Internetportale. Täglich werden Frauen so zu sexualisierten Opfern im Netz – auch viele Prominente. Sei es aus Rache, um die Opfer zu erpressen,  um zu mobben oder einfach nur gedankenlose Spielerei mit einer face swap-App - deepfake Pornos sind zu einem echten gesellschaftlichen Problem geworden.

Die Problematik von Deepfake-Pornografie ist sowohl ethisch als auch rechtlich sehr komplex. Es gibt Bedenken hinsichtlich der Privatsphäre, des Missbrauchs von Bildern und des Potenzials, Menschen in kompromittierende oder schädliche Situationen zu bringen. In vielen Ländern gibt es inzwischen Gesetze, die den Missbrauch von Deepfake-Technologie, insbesondere in Bezug auf Pornografie und die unerlaubte Verwendung von Personenbildern, kriminalisieren. Das Erstellen und Verbreiten solcher Inhalte ohne Zustimmung kann zu strafrechtlichen Konsequenzen führen, da es gegen das Recht auf Privatsphäre und gegen Persönlichkeitsrechte verstößt. Richtig schlimm wird es, wenn Deepfake-Porn dazu verwendet wird, Menschen unter Druck zu setzen oder zu erpressen. Zusätzlich zu den rechtlichen und ethischen Implikationen stellt Deepfake-Pornografie auch eine Herausforderung für die Gesellschaft dar, da sie das Vertrauen in digitale Medien untergräbt, Misstrauen erzeugt und zu einer Verzerrung der Wahrnehmung von Menschen führen kann. 

Wie man gefälschte Bilder und Videos entlarven kann

Das Identifizieren von Deepfakes stellt eine erhebliche Herausforderung dar, da die Technologie immer weiter fortschreitet und die gefälschten Inhalte zunehmend realistischer werden. Es gibt jedoch mehrere Methoden, die helfen können, Deepfakes zu identifizieren:

1. Unregelmäßigkeiten im Gesicht
Deepfakes, insbesondere solche, die Gesichter in Videos oder Bildern ersetzen, weisen oft subtile Unregelmäßigkeiten auf. Diese beinhalten unter anderem
Unnatürliche Augenbewegungen: Deepfake-Modelle haben oft Schwierigkeiten, die Augenbewegungen und den natürlichen Blick eines Menschen genau zu reproduzieren, was zu unnatürlichen oder starren Augen führen kann.
Unstimmigkeiten bei den Gesichtszügen: Falten, Augenbrauenbewegungen oder kleine Muskelbewegungen sind oft fehlerhaft oder nicht perfekt, was den Eindruck eines gefälschten Bildes oder Videos verstärken kann.
Licht- und Schattenspiel: Deepfakes neigen dazu, Probleme mit der korrekten Darstellung von Licht und Schatten im Gesicht zu haben, insbesondere in Bereichen, die von der künstlichen Intelligenz schwerer zu berechnen sind.
Asymmetrie: Künstliche Gesichter weisen manchmal eine auffällige Asymmetrie auf, etwa bei der Platzierung der Augen oder Lippen.

2. Fehler im Hintergrund
Oft können Deepfake-Videos durch Fehler im Hintergrund identifiziert werden. Das können verzerrte Objekte, bewegte oder statische Elemente sein, die in einem realen Video nicht so aussehen würden. Diese Unregelmäßigkeiten sind in der Regel schwerer zu erkennen, erfordern ein gutes Auge.

3. Verzögerte oder unnatürliche Lippenbewegungen
In vielen Deepfakes, bei denen Gesichter ersetzt oder bearbeitet werden, stimmen die Lippenbewegungen oft nicht mit dem gesprochenen Text überein. Auch wenn die Stimme und das Bild gut zusammenpassen, kann es zu Verzögerungen oder fehlerhaften Bewegungen kommen.

4. Deepfake-Erkennungssoftware
Es gibt mittlerweile spezialisierte Software und Tools, die Deepfakes erkennen können. Diese Tools analysieren Videos und Bilder auf Muster, die typisch für manipulierte Inhalte sind. Zu den bekanntesten gehören:
Microsoft Video Authenticator: Ein Tool, das Deepfake-Videos anhand von „digitalen Wasserzeichen“ und anderen Erkennungsmerkmalen analysiert.
Deepware Scanner: Eine App zur Erkennung von Deepfake-Videos, die auf mobilen Geräten verwendet werden kann.
FakeCatcher: Ein Tool, das mithilfe von KI versucht, Deepfakes zu erkennen, indem es die natürlichen biologischen Muster im Gesicht analysiert.

5. Untersuchung der Metadaten
Digitale Bilder und Videos enthalten oft Metadaten, die Informationen zur Quelle und zu den Bearbeitungsschritten enthalten. Wenn Metadaten fehlen oder manipuliert wurden, könnte dies ein Hinweis auf eine gefälschte Datei sein. Allerdings ist diese Methode nicht immer zuverlässig, da Metadaten leicht verändert oder entfernt werden können.

6. Fehlende oder unnatürliche Geräusche
Deepfakes, besonders bei Audioaufnahmen, können auch durch unnatürliche Klänge in der Stimme erkannt werden. Dies zeigt sich oft in der Modulation der Stimme, wie z. B. einer merkwürdigen Betonung oder einer Verzerrung bei der Aussprache bestimmter Wörter.

7. Untersuchung der Quelle und des Kontextes
Bei der Bewertung eines verdächtigen Videos oder Bildes hilft es, die Quelle des Inhalts zu überprüfen. Wenn der Ursprung der Datei fragwürdig oder unbekannt ist oder sie von unzuverlässigen Plattformen stammt, könnte es sich um ein Deepfake handeln. Auch der Kontext, in dem das Bild oder Video geteilt wurde, kann helfen, die Echtheit zu bewerten.

Wie Künstliche Intelligenz die täuschend echten Fälschungen im Netz entlarvt

So wie man Künstliche Intelligenz dazu verwenden kann, Bilder und Videos zu manipulieren, kann man ihre Fähigkeit, ihr Wissen mittels deep learning rasend schnell zu erweitern, auch nutzen, um manipulierten Content im Internet aufzusüpüren. Das Aufspüren von deep fakes durch Künstliche Intelligenz (KI) erfolgt auf Basis spezialisierter Algorithmen und Modelle, die darauf trainiert sind, Anomalien oder typische Merkmale in Fake-Inhalten zu identifizieren. 

Die Erkennung von Deepfakes durch KI hat in den letzten Jahren große Fortschritte gemacht. Trotzdem ist es ein ständiger Wettlauf, da Deepfake-Technologien sich ebenfalls schnell weiterentwickeln. Während KI-gestützte Erkennungssysteme immer leistungsfähiger werden, bleibt es wichtig, digitale Sicherheitspraktiken zu fördern und kontinuierlich neue Methoden zur Bekämpfung von Deepfake-Inhalten zu entwickeln.

Aufklärung und Sensibilisierung

Der Schlüssel zur Bekämpfung von Deepfakes ist die Sensibilisierung der Öffentlichkeit und das Erlernen von Techniken zur eigenen Identifikation. Wer sich der Risiken und Anzeichen bewusst ist, kann besser einschätzen, ob Medieninhalte vertrauenswürdig sind.

Die Technologie zur Erstellung von Deepfakes entwickelt sich schnell, ebenso wie die Methoden zu ihrer Erkennung. Doch solange die Technik nicht perfekt ist, bleibt die Kombination aus technologischem Fortschritt und wachsender öffentlicher Aufklärung der beste Schutz.

Fazit

Die politischen Reaktionen in Deutschland und Europa auf Deepfakes sind vielfältig und beinhalten eine Kombination aus gesetzgeberischen Maßnahmen, technologischen Innovationen und internationalen Kooperationen. Während rechtliche Rahmenbedingungen wie das Netzwerkdurchsetzungsgesetz und der Digitale Services Act bereits wichtige Schritte darstellen, erfordert die Geschwindigkeit der technologischen Entwicklungen weiterhin eine fortlaufende Anpassung der Regulierung. Die Bekämpfung von Deepfakes wird auch 2024 und in den kommenden Jahren eine enge Zusammenarbeit zwischen Politik, Technik und der Gesellschaft erfordern, um die Rechte der Bürger zu schützen und Manipulationen zu verhindern. Vielen Opfern der Deepfake-Kriminalität gehen die Gesetze und die internationale Zusammenarbeit aber lange noch nicht weit genug. Denn: Deepfakes sind ein globales Problem, und daher ist eine internationale Zusammenarbeit entscheidend. Die EU und ihre Mitgliedsstaaten arbeiten zusammen, um Standards und Richtlinien zu entwickeln, die auch in anderen Ländern Anwendung finden könnten. Es gibt zunehmend Bestrebungen, mit internationalen Organisationen wie den Vereinten Nationen (UN) und der OECD zusammenzuarbeiten, um globale Lösungen gegen den Missbrauch von Deepfakes zu finden

Tipp

Das ZDF hat gemeinsam mit gemeinsam mit der Schauspielerin Collien Ulmen-Fernandes, die selbst ein Opfer vpn deep fake Pornografie war, eine Dokumentation zum Thema gemacht. Die zweiteilige Dokumentation trägt den Titel "Die Spur: Deepfake-Pornos" und wird am Mittwoch, 11. Dezember, um 22.15 und 1 Uhr ausgestrahlt. AB Mittwoch, 11. Dezember (10 Uhr) ist sie zudem auch kostenlos in der ZDF-Mediathek abrufbar.

^{Anmerkung: Die  Bilder in diesem Beitrag wurden bewusst mit Hilfe der KI erstellt, bewusst mit auffälligen Fehler, um pointiert zu zeigen, woran man Fakes im Internet erkennen kann.}