Justizministerium plant Gesetz gegen kriminelle KI-Bilder

Die Bundesregierung will die nicht-einvernehmliche Erstellung und Verbreitung von KI-generierten Bildern unter Strafe stellen. Ein umfassendes Gesetzespaket aus dem Justizministerium soll Lücken im Strafrecht schließen und Opfern digitaler Gewalt mehr Rechte geben.

Kampf gegen digitale Gewalt und Deepfake-Pornografie

Das Bundesjustizministerium arbeitet an konkreten Vorschlägen, um synthetische Medien wie sogenannte Deepfakes wirksamer zu bekämpfen. „Der großflächige Einsatz von Manipulationswerkzeugen zur systematischen Verletzung von Persönlichkeitsrechten ist inakzeptabel“, betonte Ministeriumssprecherin Anna-Lena Beckfeld. Bisherige Gesetze zu Beleidigung oder Urheberrecht gelten als unzureichend, um die spezifischen Schäden durch generative KI zu ahnden.

Das geplante Gesetz soll die Erstellung nicht einvernehmlicher, sexualisierter KI-Bilder als eigene Straftat, als digitale Gewalt, einordnen. Dies würde Strafverfolgungsbehörden schärfere Werkzeuge an die Hand geben und Opfern bessere Möglichkeiten zur Gegenwehr bieten. Der Fokus liegt auf der technologisch ermöglichten Belästigung, die vor allem auf Social-Media-Plattformen um sich greift.

Immer mehr Unternehmen und Plattformbetreiber stehen wegen neuer EU-Regeln zur KI unter erheblichem Anpassungsdruck. Seit August 2024 verlangen Kennzeichnungspflichten, Risikoklassifizierungen und umfangreiche Dokumentationsanforderungen gezielte Maßnahmen von Entwicklern und Anbietern. Unser kostenloser Umsetzungsleitfaden erklärt praxisnah, welche Pflichten gelten, welche Fristen zu beachten sind und wie Sie mit Checklisten und Praxisbeispielen Bußgelder vermeiden. KI-Verordnung-Umsetzungsleitfaden jetzt herunterladen

Weimer kritisiert „industrielles Ausmaß“ der Belästigung

Die Forderungen nach strengeren Regeln wurden durch jüngste Enthüllungen um den KI-Chatbot Grok befeuert. Dieser ist in Elon Musks Plattform X integriert. Untersuchungen zeigten im Januar, dass das Tool zur Erstellung sexualisierter Bilder von Frauen und Kindern ohne deren Einwilligung missbraucht wurde.

Kulturstaatsminister Wolfram Weimer verurteilte die Flut entsprechender Inhalte auf Plattform X scharf als sexuelle Belästigung „in industriellem Ausmaß“. Er forderte die EU-Kommission auf, den Digital Services Act (DSA) rigoros durchzusetzen. Plattformen müssten für die Inhalte ihrer KI-Tools verantwortlich gemacht werden. Die Reaktion des Betreibers xAI, die Bildgenerierung auf zahlende Nutzer zu beschränken, wiesen deutsche Behörden als völlig unzureichend zurück.

Schutz der historischen Wahrheit vor KI-Verfälschung

Nicht nur sexualisierte Inhalte sind im Visier der Politik. Die Bundesregierung will auch die Manipulation historischer Bilder eindämmen. Staatsminister Weimer unterstützt eine Initiative von Holocaust-Gedenkstätten, die eine strikte Kennzeichnung von KI-generierten Bildern zu historischen Ereignissen fordert.

Hintergrund sind Berichte über sogenannten „KI-Schrott“ – synthetische Bilder von niedriger Qualität, die historisch ungenau sind oder emotional manipulativ wirken. Solche Darstellungen verharmlosen oft das Leiden der Opfer des NS-Regimes oder verzerren historische Fakten. „Der Respekt vor den Millionen Verfolgten und Ermordeten der NS-Gewaltherrschaft gebietet entschiedenes Handeln gegen solche Fälschungen“, so Weimer. Er fordert von Plattformen, KI-Inhalte klar zu kennzeichnen und würdeverletzendes oder historisch falsches Material zu löschen.

EU leitet formelles Untersuchungsverfahren gegen X ein

Parallel zu den nationalen Vorstößen schreitet die EU-Kommission ein. Am 27. Januar leitete sie ein formelles Untersuchungsverfahren gegen X ein. Geprüft wird, ob die Plattform mit dem Chatbot Grok gegen den DSA verstoßen hat, etwa durch die Erzeugung sexualisierter Bilder und die mögliche Verbreitung von Material zum sexuellen Missbrauch von Kindern.

Bei festgestellten Verstößen drohen dem Unternehmen Geldbußen von bis zu sechs Prozent seines weltweiten Jahresumsatzes. Die europäischen Behörden koordinieren sich eng mit nationalen Stellen. Italiens Datenschutzbehörde warnte bereits, dass die Erstellung nicht einvernehmlicher Nacktbilder mit KI nach neu verschärften Gesetzen strafbar sein kann. Es zeichnet sich eine geschlossene europäische Front ab, die auf ein strenges Haftungsregime für KI-Unternehmen abzielt.

Ausblick: Strafen, Opferschutz und Plattform-Verantwortung

Die anstehende Gesetzgebung in Deutschland wird voraussichtlich weitreichende Folgen für die Tech-Branche haben. Unternehmen, die generative KI-Modelle entwickeln, dürften verpflichtet werden, bessere Sicherheitsfilter und Wasserzeichen-Technologien einzubauen.

Die „konkreten Vorschläge“ des Justizministeriums sollen dem Bundestag in den kommenden Wochen vorgelegt werden. Erwartet werden Regelungen zu:
* Strafrechtlicher Verantwortung: Harte Strafen für Erstellung und Verbreitung nicht einvernehmlicher Deepfakes.
* Opferschutz: Vereinfachte Verfahren für Betroffene, um die Löschung von Inhalten und Schadensersatz zu erwirken.
* Plattform-Verantwortung: Verpflichtungen für Social-Media-Unternehmen, illegale KI-Inhalte proaktiv zu erkennen und zu entfernen.

Die Ära unregulierter KI-Experimente scheint sich ihrem Ende zuzuneigen. Die Bundesregierung setzt auf einen ganzheitlichen Ansatz, der den Schutz der Persönlichkeitsrechte und der menschlichen Würde im digitalen Zeitalter priorisiert. Mit der EU-Untersuchung gegen X könnte 2026 zum Wendepunkt für die digitale Regulierung in Europa werden.

PS: Die Debatte um Haftung, Kennzeichnung und Opferschutz zeigt: Jetzt handeln ist entscheidend. Unser gratis E-Book zur KI-Verordnung fasst Kennzeichnungspflichten, Risikoklassen, Übergangsfristen und praktische Umsetzungsschritte für Unternehmen und Plattformbetreiber kompakt zusammen – inklusive Muster-Checkliste und Empfehlungen für Compliance- und Technik-Teams. Gratis-KI-Leitfaden für Unternehmen sichern