Künstliche Intelligenz: Missbrauchsdarstellungen von Kindern werden zur Normalität

Wichtige Entwicklungen prägen das Weltgeschehen. Künstliche Intelligenz : Missbrauchsdarstellungen von Kindern werden zur Normalität Von Heike Schmoll, Berlin 19. 2026, 18:05Lesezeit: 3 Min. Ein Mädchen sitzt auf einer Couch und blickt auf ein Tablet (Symbolbild).

dpaKI treibe Missbrauchsdarstellungen und Hassbilder im Netz an, warnt das Kompetenzzentrum von Bund und Ländern. Es brauche schärfere Regeln für Plattformen. Zusammenfassung Anhören Merken Teilen Verschenken Drucken Zur App Sexualisierte Gewalt und extremistische Hassinhalte sind durch Künstliche Intelligenz zu einem noch größeren Risiko für Kinder und Jugendliche geworden.

Die Einzelheiten

Im zweiten Jahr in Folge hat das gemeinsame Kompetenzzentrum von Bund, Ländern und Landesmedienanstalten für den Schutz von Kindern und Jugendlichen jugendschutz. 000 Fälle von Missbrauchsdarstellungen von Kindern bearbeitet. Das geht aus dem neuen Jahresbericht des Kompetenzzentrums hervor, der am Dienstag in Berlin vorgestellt wurde.

Das Kompetenzzentrum wirkt darauf hin, dass Inhalte, die gegen Jugendschutzbestimmungen verstoßen, beseitigt werden. Es tritt dafür ein, dass Angebote so eingerichtet werden, dass Kinder und Jugendliche sie unbeschwert nutzen können. „Das Künstliche verschmilzt mit dem Echten und verzerrt die Wahrnehmung von Realität“, sagte der Leiter des Kompetenzzentrums, Stefan Glaser.

Die Einflüsse von KI wurden im vergangenen Jahr erstmals untersucht. Demnach werden minderjährige Personen häufig durch Bots in sexualisierte Kommunikation verwickelt. Stefan Glaser, hier bei der Pressekonferenz am Dienstag, sieht den Jugendschutz durch KI stark gefährdet.

Was Experten sagen

dpaKI-generierte Influencer präsentierten übernatürlich schöne Körper, die Essstörungen begünstigten. Manipulierte Bilder dienten als Mittel zur Verbreitung extremistischer Inhalte oder zur Herabwürdigung. Für die Nutzer ist laut Kompetenzzentrum nicht erkennbar, dass es sich bei den Bildern um KI-generierte Bilder handelt.

Es finden sich Berichte von harmlosen Kinderbildern mit Familienmotiven, die sexualisiert kommentiert werden. Algorithmen führen Nutzer in tiefe GefahrenChatbots entwickelten ein Eigenleben und führten Kinder und Jugendliche in sexualisierte Interaktionen. Hinzu komme das Problem manipulativer Angebotsdesigns.

So wurde zum Beispiel von einem Anbieter ein Serienhaustier geschaffen, das täglich gepflegt werden muss. Sobald die tägliche Pflege ausbleibt, friert das Tier im System ein. Algorithmen führten Nutzer durch immer gleiche Inhaltsvorschläge zudem immer tiefer in Gefahrenbereiche hinein.

Die Entwicklung hat international große Aufmerksamkeit erregt; diplomatische Kreise verfolgen sie genau.