Großbritannien macht Deepfake-Pornografie ohne Einwilligung strafbar

Ab heute ist in Großbritannien die Herstellung nicht-einvernehmlicher pornografischer KI-Bilder ein eigener Straftatbestand. Das neue Gesetz schließt eine gefährliche Lücke im Kampf gegen digitalen Missbrauch.

Die Regelung, die am 6. Februar in Kraft tritt, stellt bereits das Erstellen oder sogar das Anfordern intimer KI-generierter Bilder ohne Zustimmung der abgebildeten Person unter Strafe. Bislang war vor allem das Verbreiten solcher Inhalte illegal. Die Neuerung ist Teil einer breiteren Regierungsstrategie gegen Gewalt an Frauen und Mädchen und soll digitale Räume sicherer machen. Das Gesetz ist technologieneutral formuliert, um auch künftige Entwicklungen bei KI und digitaler Manipulation abzudecken.

Reaktion auf spektakuläre Missbrauchsfälle

Der Gesetzesvorstoß gewann nach mehreren spektakulären Vorfällen an Fahrt. Dabei wurden KI-Tools großer Social-Media-Plattformen genutzt, um nicht einvernehmliche explizite Bilder von Frauen und Kindern zu erzeugen und zu verbreiten. Diese Fälle offenbarten eine kritische Gesetzeslücke.

Passend zum Thema KI-Regulierung: Seit August 2024 gilt die EU-KI-Verordnung mit weitreichenden Pflichten für Anbieter und Nutzer von KI-Systemen. Wer jetzt nicht schnell handelt, riskiert Bußgelder und Nachrüstpflichten. Unser kostenloser Umsetzungsleitfaden erklärt Kennzeichnungspflichten, Risikoklassen und konkrete Schritte, wie Sie Ihr Unternehmen rechtssicher aufstellen. Mit Checklisten, Praxisbeispielen und klaren Fristen, damit Entwickler, Produktverantwortliche und Compliance‑Teams sofort wissen, was zu tun ist. KI-Verordnung: Umsetzungsleitfaden gratis herunterladen

Die neue Regelung ergänzt den Data (Use and Access) Act und verbietet KI-Diensten ausdrücklich, Funktionen anzubieten, die „mutmaßlich intime Bilder eines Erwachsenen ohne Einwilligung“ erstellen können. Damit zielt das Gesetz auf die Quelle des Problems ab. Gerichte erhalten zudem die Befugnis, Verfügungsbeschlüsse über nicht einvernehmliche Bilder zu erlassen, was die Rechtsmittel für Opfer stärkt.

Tech-Konzerne unter verschärfter Aufsicht

Das neue Gesetz tritt in eine Phase verschärfter regulatorischer Prüfungen. Die britische Kommunikationsaufsicht Ofcom untersucht bereits, ob Social-Media-Plattformen die Risiken der Verbreitung solcher Bilder angemessen bewertet und eingedämmt haben.

Erst diese Woche leitete die Datenschutzbehörde ICO eine formelle Untersuchung gegen Elon Musks Unternehmen X und xAI ein. Die Ermittlungen prüfen, ob die Firmen bei Design und Einsatz des KI-Tools Grok die DSGVO eingehalten haben. Berichten zufolge wurde Grok für die Erstellung anstößiger Deepfakes genutzt. Die ICO will bewerten, ob angemessene Schutzvorkehrungen gegen den Missbrauch persönlicher Daten getroffen wurden.

Experten sehen in dieser kombinierten Strategie aus neuer Gesetzgebung und strikter Regulierung eine klare Botschaft an die Tech-Branche: Sie muss proaktiv verhindern, dass ihre Plattformen und Tools als Waffe eingesetzt werden.

Tiefgreifende Konsequenzen für Täter

Die Kriminalisierung der Deepfake-Erstellung ist eine entscheidende Erweiterung des Online Safety Act. Dieser verpflichtet Online-Plattformen bereits, gegen die Verbreitung intimer Deepfakes als „Priority Offence“ vorzugehen.

Die neue Maßnahme adressiert nun den eigentlichen Schaffensakt. Aktivistinnen und Aktivisten argumentieren seit langem, dass dies bereits an sich eine Form des Missbrauchs ist – unabhängig davon, ob das Bild je geteilt wird. Die Straftat gilt für Personen, die diese Bilder zur sexuellen Befriedigung oder mit der Absicht erstellen, Alarm, Not oder Demütigung zu verursachen. Schuldige riskieren eine Vorstrafe und eine unbegrenzte Geldstrafe. Das Gesetz zielt so auf die bösartige Absicht hinter der Tat ab.

Signalwirkung für die internationale Regulierung

Mit dem heutigen Inkrafttreten rücken Vollzug und Reaktion der Tech-Konzerne in den Fokus. Rechtswissenschaftler werden genau beobachten, wie Polizei und Staatsanwaltschaft die neuen Befugnisse nutzen.

Die entschlossene britische Maßnahme ist Teil einer wachsenden internationalen Bewegung zur Regulierung schädlicher KI-Nutzung. Da generative KI immer ausgefeilter und zugänglicher wird, ringen Regierungen weltweit um den Ausgleich zwischen Innovation und Missbrauchsprävention. Dieses wegweisende britische Gesetz dürfte die legislative Debatte in anderen Ländern beeinflussen und einen neuen Standard für den Schutz von Bürgerinnen und Bürgern im digitalen Zeitalter setzen. Die Regierung hat signalisiert, notfalls noch weiterzugehen, sollten Tech-Konzerne ihre Plattformen nicht entschlossener sicherer machen.

PS: Nutzen Sie KI-Tools oder betreiben Plattformen? Die neue KI-Verordnung verlangt detaillierte Dokumentation, Risikobewertung und Kennzeichnung – und Fristen laufen bereits. Unser gratis Leitfaden fasst die wichtigsten Pflichten, Beispiele für Risikoklassen und praktische Prüfungen zur Compliance kompakt zusammen. Prüfen Sie schnell, ob Ihre Systeme betroffen sind und welche Schritte Sie jetzt sofort einleiten sollten. Kostenlosen KI-Leitfaden jetzt anfordern