Playlist

Gefahren im Netz

Risiken in sozialen Netzwerken und jugendaffinen Onlinediensten

Lena Wandner

Medienradar, 09/2020

Kinder und Jugendliche müssen einen sicheren Umgang mit dem Netz erlernen, um einen kritischen und kompetenten Umgang mit Nutzungsrisiken umsetzen zu können. In Zeiten globalisierter Angebote und multifunktionaler Geräte mit vielfältigen Nutzungsmöglichkeiten stoßen Nutzer*innen immer wieder auf problematische Inhalte wie Selbstgefährdungen, politischer Extremismus sowie Hass und Gewalt. Aufgabe des Jugendschutzes ist es, stets auf die Gefahren und Risiken hinzuweisen und dafür, wenn nötig, mit den jeweiligen Anbieter*innen direkt in Kontakt zu treten, um solche Inhalte zu melden. Die nachfolgende Playlist, zusammengestellt nach dem Bericht „Jugendschutz im Internet – Risiken und Handlungsbedarf“ von jugendschutz.net, zeigt einige Beispiele problematischer Inhalte und weist auf die Gefahr hin, dass Kinder und Jugendliche auch bei gewöhnlichem User*innen-Verhalten auf Social-Media-Plattformen, in Spielen oder auf Internetseiten sogar beiläufig auf jugendgefährdende Inhalte stoßen.

Der Bericht „Jugendschutz im Internet – Risiken und Handlungsbedarf“

Schon seit vielen Jahren dokumentiert jugendschutz.net, das gemeinsame Kompetenzzentrum von Bund und Ländern für den Schutz von Kindern und Jugendlichen im Internet, Gefahren und Risiken, die für Heranwachsende mit der Nutzung jugendaffiner Onlinedienste einhergehen. Im Fokus stehen dabei insbesondere soziale Netzwerke wie Instagram, Snapchat und Co., die in der (digitalen) Lebenswelt von Kindern und Jugendlichen einen zentralen Stellenwert einnehmen. Auch für das Jahr 2019 konnte eine Reihe (neuer) onlinebezogener Risiken im Bericht „Jugendschutz im Internet – Risiken und Handlungsbedarf“ resümiert und mit Hilfe von umfangreichen Statistiken und Beispielen belegt und präsentiert werden. Zu den im Bericht genannten Themen folgen nun ein paar Medienbeispiele der Medienradar-Redaktion. Ein Großteil der dokumentierten Risiken und Gefahren lässt sich dem Wirkungsrisiko der sozialethischen Desorientierung zuordnen.

Cyber-Grooming & sexuelle Belästigung

Sexuelle Belästigung im Netz hat viele Gesichter. Häufig finden sich sexuelle Kommentare, Fragen nach sexuellen Erfahrungen sowie konkrete sexuelle Handlungsaufforderungen in den Kommentarspalten sozialer Netzwerke. Doch auch in Onlinespielen wie z.B. Minecraft können junge Nutzer*innen innerhalb der Chatfunktion, in der sich der*die Spieler*innen über den Spielablauf austauschen, mit anzüglichen und belästigenden Nachrichten konfrontiert werden und dadurch zu Opfern (sexueller) Belästigung und Cyber-Grooming werden.

Der Instagram Account Antiflirting 2 sammelt Screenshots von Nachrichten, Kommentaren, Chatverläufen und Bildern, die sexuelle Belästigung in sozialen Netzwerken und Messenger-Diensten abbilden. Sie zeigen, wie herabwürdigend und persönlich angreifend Annäherungsversuche sein können. Zugeschickt werden diese von betroffenen Nutzer*innen.

Cybermobbing

Beim Cybermobbing wird häufig eine bereits bestehende Mobbingsituation online fortgesetzt. Die Anonymität des Netzes sorgt dabei für eine Art „Enthemmungseffekt“. In Folge dessen sinkt die Hemmschwelle für aggressives Mobbing und beleidigendes Verhalten. Cyber-Mobbing findet vor allem per Chat oder Messenger-Dienst statt. Gleichzeitig werden Personen auch unter ihren öffentlichen Profilen in sozialen Netzwerken beleidigt, bedroht und öffentlich bloßgestellt.

In der Kommentarfunktion von YouTube finden sich immer wieder beleidigende Hasskommentare und Drohungen von User*innen, die sich direkt gegen die Videomacher*innen richten. Werden dabei keine anstößigen Keywords verwendet, hat selbst ein Algorithmus Probleme, die Kommentare herauszufiltern und automatisiert zu löschen.

Digitale Mutproben

Aktuell kursieren im Netz immer wieder sogenannte „Challenges“ (Mutproben), mit denen sich Kinder und Jugendliche gegenseitig herausfordern. Jugendschutz.net dokumentierte 2019 verschiedene Challenges, die ein ernstzunehmendes Gefährdungspotenzial in sich tragen.

Dazu gehört u.a. die sogenannte „Trainsurfing-Challenge“, bei der sich Personen beim Aufspringen auf fahrende Züge filmen lassen. Je riskanter die Aufgabe, desto mehr Aufmerksamkeit und Anerkennung wird erwartet.

Auch die Corona-Krise sorgte für eine Zunahme risikoreicher Online-Challenges. So verbreiteten sich auf u.a. auf TikTok und Instagram unter dem Hashtag #Coronachallenge immer wieder vermeintlich witzige Videos, in denen öffentliche Toilettendeckel und U-Bahnstangen abgeleckt wurden.

Selbstschädigende Inhalte und gefährliche Handlungsaufforderungen

Auf Plattformen wie Facebook, Instagram und Tumblr finden sich in Textform, aber auch rein visuell inszenierte, Pro-Suizid-Inhalte, die Suizide und Suizidversuche verharmlosen und verherrlichen. Ergebnisse von jugendschutz.net (2019) zeigen, dass die Darstellung suizidaler Sehnsüchte im Netz teilweise auch mit einem konkreten Suchaufruf nach Suizidpartner*innen verbunden ist.

Auf der Social-Media-Plattform Tumblr finden sich unter dem Hashtag #suicide zahlreiche Texte mit Selbsthass, Einsamkeit und Traurigkeit als vorherrschende Emotion. Oftmals tauchen auch Einträge mit dargestellten selbstverletzenden Methoden wie z.B. Ritzen auf.

Im September 2020 ging auf TikTok ein schockierendes Siuzidvideo viral. Der Artikel Sharing is caring, isn’t it?[1] berichtet darüber, welche Wellen dies bei User*innen und im Kompetenzzentrum von jugendschutz.net schlug.

Verstörende Gewaltinhalte

In den Sozialen Medien werden immer wieder gewalthaltige Inhalte geteilt und verbreitet, die Heranwachsende nachhaltig verstören können. Darunter fallen Videos, die physische Gewalt oder Abbildungen schwerer Verletzungen darstellen. Häufig werden Inhalte dieser Art für extremistische Propaganda und andere missbrauchende Zwecke eingesetzt. Gerade in sozialen Netzwerken werden gewalthaltige Videos mit vielgesuchten Hashtags versehen, sodass Heranwachsende auch zufällig und ungewollt mit Gewaltinhalten konfrontiert werden.

Wie schnell das passieren kann, zeigt das Beispiel des Anschlags auf eine Synagoge in Halle (Saale) im Oktober 2019. Dabei filmte der Rechtsextremist Stephan Balliet seine Morde an zwei Menschen und streamte sie live auf dem Videoportal Twitch. Bis zur Sperrung nach ca. 30 Minuten sahen das Video bereits mehrere Tausend Menschen und mindestens genauso häufig wurden Links zum Video auf anderen Social-Media-Kanälen wie Twitter verbreitet. Durch Downloads und Sicherungskopien gelang das Video schnell in den Messengerdienst Telegram und verbreitete sich dort innerhalb rechter Gruppierungen. Trotz Sperren und Strafverfolgungen ist es möglich, dass das Video auf neuen Plattformen immer wieder auftaucht und von dort auch auf die Endgeräte von Kindern und Jugendlichen gelangt, die die dort gezeigten Gewaltszenen nur schwer einordnen und durch sie massiv geängstigt und verstört werden können.

 

Extremistische Inhalte und Propaganda

Sowohl rechtsextremistische als auch islamistische Gruppierungen versuchen über soziale Netzwerke junge Nutzer*innen für ihre Anliegen zu gewinnen und schließlich zu instrumentalisieren. Dabei wird versucht, an die Lebens- und Interessenswelt der Jugendlichen anzuknüpfen, indem jugendaffine Themen und Trends aufgegriffen und in die eigene Propaganda auf Instagram, YouTube und Co. integriert werden.

Der seit 2016 vom Verfassungsschutz beobachtete und als rechtsextremistisch eingestufte Rapper Chris Ares erreicht nicht nur mit seiner Musik, sondern auch mit zahlreichen Social-Media-Kanälen (u.a. auf YouTube und Instagram) eine große Anzahl junger Menschen. Mit seinen Inhalten betreibt er durchgehend Wahlkampf gegen eine weltoffene Gesellschaft und für Nationalstolz. Der Verlag seines Musiklabels versucht in Magazinen, „einen jungen, hippen, rechten Lifestyle salonfähig zu machen“[2] und so rechte Positionen in der jungen Zielgruppe zu etablieren und zu normalisieren.

Kostenfallen und verstörende Inhalte in Spiele-Apps

Auch in vermeintlich kinderfreundlichen Spiele-Apps finden sich inhaltsbezogene Risiken und versteckte Kostenfallen. Eine Überprüfung von 14 kindaffinen Spielen, durchgeführt von jugendschutz.net und der Stiftung Warentest zeigte, dass die User*innen dort mit antisemitischen und rechtsextremen Inhalten konfrontiert werden können. So fanden sich beispielsweise Usernamen wie „Die Judentöter“ oder auch verfassungswidrige Kennzeichen. Im Großteil der geprüften Spiele wurden zudem bedenkliche In-App-Kaufoptionen festgestellt. So werden direkte Kaufaufforderungen oder lange Wartzeiten zum Weiterspielen bewusst eingesetzt, um Nutzer*innen zum App-Erweiterungsverkauf zu verleiten.

Durch kostenpflichtige Saison-Pässe ist es den User*innen in vielen Spielen möglich, zusätzliche Belohnungen wie Spielfiguren, Ausrüstungsgegenstände und virtuelle Währungen zu erhalten, die ein schnelleres Vorankommen im Spiel ermöglichen. Während in den meisten Spielen ein Saison-Pass für 3 bis 4 Wochen gültig ist und dann automatisch verfällt, schließt man beim Handyspiel Mario Kart Tour mit dem Kauf des Gold-Passes ein Abo mit laufenden monatlichen Kosten ab, worauf aber nur auf einer Unterseite im Kleingedruckten hingewiesen wird.

1. Pickel, Janina: Sharing is caring, isn’t it? - Wenn problematische Inhalte viral gehen, in: fsf blog, FSF 06.10.2020, https://blog.fsf.de/jugendschutz/jugendmedienschutz/sharing-is-caring-isnt-it/2020/10 (abgerufen am 08.10.2020).

2. Sommer, Stefan: Wie der vom Verfassungsschutz beobachtete Rapper Chris Ares die Charts erobert – und was AfD-Funktionäre damit zu tun haben, in: Puls, BR, www.br.de/puls/musik/aktuell/chris-ares-neuer-deutscher-rechtsrap-afd-100.html (abgerufen am 02.10.2020).

Zusammengestellt von

Lena Wandner ist künftige Absolventin des Masterstudiengangs Kinder- und Jugendmedien der Universität Erfurt. Ihre Arbeits- und Interessenschwerpunkte liegen in der Medienwirkungsforschung und dem Bereich des Jugendmedienschutzes. Derzeit unterstützt sie die Freiwillige Selbstkontrolle Fernsehen e.V. (FSF) in redaktionellen Tätigkeiten als Autorin für den fsf blog sowie den Medienradar.

[Bild: Privat]
Artikel
Folgen des Online-Hasses für Betroffene
Aufgaben-Set
Motive, Erscheinungsformen und Handlungsoptionen
Interview
Wie junge Nutzer*innen digitalen Jugendmedienschutz wahrnehmen
Interview
Video-Interview mit Aycha Riffi