Künstliche Intelligenz: EU will KI für sexualisierte Deepfakes verbieten

Wichtige Entwicklungen prägen das Weltgeschehen. Künstliche Intelligenz : EU will KI für sexualisierte Deepfakes verbieten 07. 2026, 05:48Lesezeit: 3 Min. KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes sollen in der EU künftig verboten sein.

dpaDeepfake-Skandale wie auf der Plattform X soll es in Europa künftig nicht mehr geben. Deshalb nimmt die EU nun KI-Anbieter ins Visier. Nicht-einvernehmliche Bikini-Bilder könnten aber erlaubt bleiben.

Die Einzelheiten

Anhören Merken Teilen Verschenken Drucken Zur App KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes sollen in der EU künftig verboten sein. Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Zugleich sollen andere KI-Regeln vereinfacht werden, um das wirtschaftliche Potenzial von künstlicher Intelligenz (KI) in Europa auszuschöpfen.

Bevor die Änderungen in Kraft treten können, muss die Einigung noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt das als Formalie. Geht die Reform durch, würde das Verbot ab 2.

Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde. Bei sogenannten Deepfakes wird etwa das Gesicht einer Person in ein anderes Video – etwa eine Porno-Sequenz – eingefügt oder die Stimme künstlich nachgeahmt, so dass es wirkt, als würde sie Dinge tun oder sagen, die tatsächlich nie passiert sind. Durch die Entwicklung von KI ist die Erstellung täuschend echter Inhalte sehr viel einfacher geworden.

Was Experten sagen

Das neue Verbot soll explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen. Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung: „KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein“, teilte sie nach den bis tief in die Nacht andauernden Verhandlungen mit. Grok-Skandale und deutsche Debatte über digitale GewaltAuf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot Grok in den Fokus: Bis die von Tech-Milliardär Elon Musk geführte US-Firma hinter der Software diese Funktion einschränkte, befahlen Menschen der KI immer wieder, Frauen in von ihnen ausgewählten Bildern zu entkleiden.

An Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt zu haben. In Deutschland forderten zuletzt Tausende Menschen bei Demonstrationen mehr Schutz für Opfer von digitaler und sexualisierter Gewalt. Im Zusammenhang mit dieser Debatte ging es auch immer wieder um sexualisierte Deepfakes und Deepfake-Pornografie.

Material dieser Art kursiert schon seit Jahren im Netz. EU legte bereits 2024 Richtlinie zum Thema vorDie geplanten Gesetzesverschärfungen sind nicht die ersten EU-Regeln zur Bekämpfung digitaler Gewalt.

Die Entwicklung hat international große Aufmerksamkeit erregt; diplomatische Kreise verfolgen sie genau.