Warnung aus Baden-Württemberg: TikTok zeigt Täter-Fanvideos

Baden-Württemberg. Eltern, Schulen und Jugendhilfe erhalten durch eine Analyse aus Baden-Württemberg neue Hinweise darauf, wie Jugendliche auf TikTok mit Gewaltverherrlichung in Kontakt kommen können. Die Landesanstalt für Kommunikation Baden-Württemberg hat eine sogenannte Attentäter-Fanszene untersucht. Dabei geht es um Inhalte, die Amokläufer oder Attentäter heroisieren, ihre Taten verharmlosen oder Nachahmung andeuten.

Was mit der „Attentäter-Fanszene“ gemeint ist

Auf sozialen Netzwerken kursieren Beiträge, in denen Nutzerinnen und Nutzer Tätern huldigen oder scheinbar freundschaftliche und romantische Beziehungen zu ihnen darstellen. Auch die Verharmlosung oder Billigung von Taten spielt eine Rolle. Die LFK ist für den Jugendmedienschutz im Internet zuständig und sieht darin ein besonderes Risiko für Minderjährige.

Mit Blick auf Rechtsterroristen verweist der Verfassungsschutz Baden-Württemberg darauf, dass Online-Akteure dieser Szene oft recht jung seien. Zugleich wiesen sie eine „extreme Gewaltaffinität“ auf. Dadurch könnten sie sich gegenseitig weiter radikalisieren.

Warum Fachleute die Inhalte gefährlich finden

Nach Einschätzung der Behörden kann die Szene Gewaltfantasien verstärken. Im Extremfall könnten Menschen motiviert werden, solche Fantasien in die Tat umzusetzen. Die LFK beschreibt die Szene als besonders gefährlich, weil sie sich selbst verstärke. Jede neue Gewalttat könne eine neue Welle an Fan-Inhalten auslösen.

Hinzu kommt der Jugendschutz. Darstellungen und Kommentare können nach Angaben der LFK gegen Jugendschutzrecht verstoßen. Wenn Straftaten gebilligt werden, kann das auch strafrechtlich relevant sein.

Welche Inhalte die LFK gefunden hat

Die Bandbreite reicht nach Angaben der Fachleute von KI-generierten Videos bis zu nachgestellten Taten in Spielen. In sogenannten Rampage-Dance-Videos werden Täter tanzend gezeigt, während Angaben zu Opfern eingeblendet werden. In Gameplay-Videos werden Anschläge oder Amokläufe nachgespielt. Laut einem LFK-Experten gehe es dabei oft darum, die eigentliche Tat zu übertrumpfen.

Um Löschungen zu umgehen, nutzen Ersteller solcher Inhalte nach Angaben der LFK Umschreibungen, Emojis oder abgewandelte Schreibweisen. Dieses Vorgehen wird Algospeak genannt. Täter würden etwa als „Schauspieler“ bezeichnet. Hashtags ließen das Geschehen fiktiv wirken. Opferzahlen würden durch vermeintlich harmlose Begriffe verschleiert.

So schnell kann der Algorithmus reagieren

Die LFK legte für ihre Schwerpunktanalyse nach eigenen Angaben einen Account mit einem Nutzeralter von 16 Jahren an. Danach simulierte die Behörde ein Interesse an entsprechendem Material. TikTok wurde ausgewählt, weil dort besonders viele Kinder und Jugendliche aktiv sind.

Nach diesem Training des Algorithmus bezog sich mehr als ein Fünftel der auf der For-You-Page ausgespielten Videos unterstützend auf Attentäter oder Amokläufer. Zudem stellte die LFK fest, dass bei Eingaben ins Suchfeld zu Vornamen häufig Nachnamen von Tätern oder Begriffe aus der Szene vorgeschlagen wurden.

In der Desktop-Version fand die LFK außerdem automatisch generierte KI-Zusammenfassungen. Diese griffen nach Darstellung der Behörde verzerrende Beschreibungen und Wortwahl von Nutzerinnen und Nutzern auf. Teilweise sei das weitergetrieben worden, etwa mit der Frage, was ein „Actor“ als Nächstes tun solle.

Reale Fälle zeigen die Brisanz

Im Juli hatte ein 16-Jähriger zwei Schülerinnen an einem Gymnasium im oberbayerischen Schongau mit einem Messer schwer verletzt. Nach Angaben der Ermittler soll er in sozialen Netzwerken Amokläufe verherrlicht haben. Auch im Zusammenhang mit einem tödlichen Schwertangriff auf eine 17-Jährige im schwedischen Fagersta im August steht eine solche Online-Radikalisierung im Raum.

Die LFK berichtet zudem, dass gemeldete Inhalte auf TikTok zunächst meist nicht nach normalen User-Meldungen entfernt worden seien. Bis auf zwei Ausnahmen seien sie erst nach weiteren Meldungen über ein gesondertes Behördenportal gelöscht worden. Selbst nach Löschungen tauchten ähnliche Inhalte nach Darstellung der Behörde rasch wieder auf anderen Accounts oder in anderer Form auf.

Was TikTok dazu sagt

Das Unternehmen reagierte auf eine Anfrage der Deutschen Presse-Agentur zunächst nicht. In früheren Stellungnahmen zu Hatespeech, Extremismus und Radikalisierung hatte sich TikTok von hasserfüllten Ideologien distanziert. Das Fördern gewalttätiger oder hasserfüllter Akteure sei verboten. Ein Großteil gemeldeter Inhalte werde binnen 24 Stunden entfernt, viele auch schon vor einer Meldung.

Was die LFK jetzt fordert

Die LFK hat ihre Erkenntnisse an zuständige Behörden auf europäischer Ebene weitergegeben. Die Europäische Kommission soll mögliche Verstöße prüfen und in Verfahren gegen TikTok einbeziehen können. Aus Sicht der Fachleute sind mehrere Schritte nötig:

• Suchvorschläge zu Täter-Namen und Ausweichbegriffen konsequent sperren
• keine KI-Zusammenfassungen zu solchen Inhalten erstellen
• Moderation verbessern
• schneller auf Hinweise von Nutzerinnen und Nutzern reagieren

Für Medienberichte empfehlen die Fachleute außerdem, nicht stark auf Opferzahlen zu fokussieren, Motive nicht zu stark zu vereinfachen und weder Namen noch Fotos von Tätern zu verbreiten, um Identifikation und Nachahmung nicht zu fördern. Die Behörde ist zudem mit Strafverfolgungsbehörden wie dem Bundeskriminalamt im Austausch. dpa/red