EU verbietet Nudify-Apps
Die EU hat KI-Systeme verboten, die Nacktbilder identifizierbarer Personen ohne deren Einwilligung erzeugen. Betroffene Anbieter haben bis 2. Dezember 2026 Zeit. Erstmals setzt die Regel beim Werkzeug an, nicht erst bei der Tat.
Das Werkzeug selbst wird verboten
Zusammen mit dem Digital Omnibus hat die EU am 27. Juli 2026 ein Verbot in die KI-Verordnung aufgenommen. Untersagt sind KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs oder nicht einvernehmliche sexuell explizite Darstellungen identifizierbarer Personen in Bild, Video oder Audio erzeugen.
Erfasst ist sowohl das Inverkehrbringen solcher Systeme ohne Schutzvorkehrungen als auch ihre Nutzung zu diesem Zweck. Anbieter, die bereits am Markt sind, haben bis 2. Dezember 2026 Zeit, sich anzupassen.
Warum das an Schulen ankommt
Sogenannte Nudify-Apps, die aus einem normalen Foto ein Nacktbild erzeugen, sind seit Jahren ein Problem unter Jugendlichen. Bisher griff das Recht erst, wenn ein solches Bild verbreitet wurde. Jetzt ist bereits das Anbieten der Anwendung in der EU unzulässig.
Das löst die Sache nicht vollständig, viele dieser Dienste stehen außerhalb der EU. Es verschiebt aber den Ansatzpunkt: Plattformen, App-Stores und Zahlungsdienstleister haben nun eine klare Rechtsgrundlage, solche Angebote aus dem europäischen Markt zu nehmen. Für alle, die mit Jugendlichen arbeiten, ist das ein Argument mehr im Gespräch über den Umgang mit Bildern im Netz.