KI-Bildgeneratoren: So sinkt das Risiko illegaler Minderjährigenbilder

KI-Bildgeneratoren sicher nutzen. Wer mit Text-zu-Bild-KI erotische Bilder erstellt, kann trotz „nur Erwachsene“ im Prompt unabsichtlich Darstellungen erzeugen, die rechtlich als Kindesmissbrauchsmaterial gelten können. Das Fraunhofer-Institut für Sichere Informationstechnologie SIT weist in einer neuen Analyse darauf hin, dass dieses Risiko je nach Modell messbar ist und sich vor allem durch saubere Prompts und konsequentes Löschen kritischer Ausgaben praktisch reduzieren lässt.

Im Alltag kann das etwa bei kreativen Projekten, Rollenspiel-Illustrationen oder „Boudoir“-Bildideen passieren, wenn ein Generator Gesichter oder Proportionen jünger darstellt als beabsichtigt. Problematisch wird es nicht erst beim Teilen. In Deutschland kann bereits der Besitz sexueller Darstellungen von Kindern strafbar sein, auch wenn die Inhalte synthetisch erzeugt wurden oder „nur“ wirklichkeitsnah wirken.

Die Forschenden haben laut Studie sechzehnfach abgesicherte Altersvorgaben in den Texteingaben genutzt, zum Beispiel mit konkreten Formulierungen wie „18-jährig“ oder „20-jährig“ sowie allgemeineren Begriffen wie „junge Erwachsene“. Trotzdem wurden in der Auswertung Bilder gefunden, die von automatisierten Altersschätzungswerkzeugen als minderjährig eingestuft wurden.

Was die Studie konkret gefunden hat und warum das im Alltag zählt

In der Untersuchung des Fraunhofer SIT wurden vierhunderttausend synthetische Erotik-Bilder mit sechs verbreiteten Text-zu-Bild-Generatoren erstellt, darunter Systeme, die auch lokal auf dem eigenen Rechner laufen können. Anschließend wurden die Ergebnisse automatisiert auf das geschätzte Alter der dargestellten Personen geprüft.

Die Kernergebnisse in Zahlen und Beobachtungen:

• Alle sechs getesteten Modelle lieferten Bildausgaben, bei denen die dargestellten Personen als minderjährig eingestuft wurden.
• Je nach Modell lag die Quote an kritischem Material bei bis zu 36 Prozent.
• Die Analyse deutet darauf hin, dass Personen mit hellem Hautton von den Modellen tendenziell jünger dargestellt werden als Personen anderer Ethnien.
• Häufig wirkten Gesichter deutlich jünger als der übrige Körper, was in erotischen Kontexten besonders schnell eine rechtliche Grauzone oder ein strafrechtliches Risiko erzeugen kann.

Die Studie wurde am Mittwoch, 11. Juni, im Umfeld der Fachkonferenz für Computer Vision WACV 2026 vorgestellt. Die vollständige Veröffentlichung ist online abrufbar unter https://openaccess.thecvf.com/content/WACV2026/papers/Goller_Systematic_Analysis_of_the_Unintentional_CSAM-Generation-Potential_of_Text-to-Image_Models_WACV_2026_paper.pdf.

Praktische Einordnung: Was hilft, um das Risiko zu senken

Aus den Empfehlungen der Forschenden lassen sich für die Praxis vor allem Prompt-Regeln und ein „Sicherheits-Workflow“ ableiten, der Missverständnisse reduziert.

• Begriffe wie „Teenager“ vermeiden, auch wenn damit umgangssprachlich nur „jung“ gemeint ist.
• Ethnische Beschreibungen wie „kaukasisch“ weglassen, wenn sie nicht zwingend benötigt werden.
• In Negativ-Prompts ausdrücklich Begriffe wie „child“ oder „minor“ aufnehmen, um die Generierung in diese Richtung stärker zu blocken.
• Bei auffälligen Ausgaben keine Ablage im Bilder-Ordner oder in Cloud-Sync-Verzeichnissen vornehmen, da schon das Speichern rechtlich relevant sein kann.
• Wenn dennoch offensichtlich problematische Inhalte ausgegeben werden, diese zügig löschen, um das Risiko einer Strafbarkeit durch Besitz zu reduzieren.

Als technische Perspektive diskutiert das Fraunhofer SIT zudem automatisierte Prüfroutinen bei Anbietern, die Bilder vor dem Anzeigen oder Speichern auf Altersmerkmale analysieren. Für den Alltag bleibt entscheidend: Auch bei „Erwachsenen-Prompts“ kann eine Bild-KI danebenliegen. Wer erotische Motive generiert, sollte Prompts und Ablageorte so wählen, dass unbeabsichtigte Minderjährigen-Darstellungen gar nicht erst gespeichert oder weitergegeben werden.