KI verschärft Risiken für Kinder im Internet – Zahl der Jugendschutzverstöße steigt

Laut dem aktuellen Jahresbericht von jugendschutz.net nehmen die Gefahren für Kinder und Jugendliche im Internet weiter zu. Insbesondere der zunehmende Einsatz von Künstlicher Intelligenz (KI) verschärft die Risiken für Minderjährige. Während KI innovative Möglichkeiten eröffnet, wird sie zunehmend auch missbraucht, um gefährliche Inhalte wie Deepfakes zu erstellen – gefälschte Bilder oder Videos, die häufig sexualisierte Inhalte darstellen, sind kaum als solche zu erkennen/identifizieren.

Die Jugendschützer warnen davor, dass durch KI auch kriminelle Aktivitäten wie Cybermobbing und Cybergrooming zunehmen. Mit Stimmgeneratoren können Fremde ihre Stimme so anpassen, dass sie als gleichaltrig wahrgenommen werden, um das Vertrauen von Kindern und Jugendlichen zu gewinnen. Auch extremistische Propaganda und Desinformation werden durch KI noch einfacher verbreitet, was die Jugendschützer als besonders gefährlich einstufen.

Trotz einer Altersprüfung auf Plattformen wie TikTok oder YouTube zeigt sich, dass diese oft unzureichend umgesetzt wird. Minderjährige können Alterskontrollen leicht umgehen und sind so gefährdenden Inhalten schutzlos ausgeliefert. Die Reaktion der Plattformen auf gemeldete Verstöße bleibt oft aus, was zu niedrigen Löschquoten führt – selbst bei Inhalten wie Pornografie und politischem Extremismus.

Zudem steigt die Zahl der Jugendschutzverstöße seit Jahren kontinuierlich an. Im Jahr 2023 bearbeitete jugendschutz.net über 7.600 Fälle – fast 300 Fälle mehr als im Vorjahr. Mehr als zwei Drittel dieser Fälle betrafen sexualisierte Gewalt, gefolgt von Pornografie und politischem Extremismus.

Kinder, Jugendliche und ihre Familien können sich bei Problemen im Internet an verschiedene Beratungsstellen wenden. Plattformen wie beispielsweise Juuuport bieten eine Peer-to-Peer-Beratung an – Hilfe bei Online-Problemen von Jugendlichen für Jugendliche. Auch die Telefonseelsorge steht rund um die Uhr für Sorgen und Ängste zur Verfügung. Wer Opfer einer Straftat geworden ist, kann sich auch an den Weißen Ring wenden. Die Organisation steht Betroffenen kostenlos zur Seite. Weitere Hilfsangebote findet Ihr auch hier.  

Den kompletten Jahresbericht 2023 von jugendschutz.net findet Ihr hier.