Kalifornien: Wegweisendes KI-Gesetz gegen Deepfake-Betrug

Die Zeit schlecht formulierter Spam-Mails ist vorbei. Kalifornien reagiert auf die explosionsartige Zunahme von KI-gestützten Cyberattacken mit einem bahnbrechenden Transparenz-Gesetz. Denn was Cyberkriminelle heute mit künstlicher Intelligenz anstellen, übertrifft selbst die kühnsten Erwartungen von Sicherheitsexperten.

Der California AI Transparency Act, den Gouverneur Gavin Newsom am 13. Oktober unterzeichnete, soll Verbrauchern endlich wirksame Werkzeuge an die Hand geben, um echte von KI-generierten Inhalten zu unterscheiden. Die Notwendigkeit ist drängend: Laut der Europäischen Agentur für Cybersicherheit (ENISA) stammen bereits über 80 Prozent aller Social-Engineering-Angriffe aus KI-gestützten Kampagnen.

Was früher als plumper Enkeltrick begann, erreicht heute erschreckende Perfektion. Cyberkriminelle nutzen generative KI nicht nur für maßgeschneiderte Phishing-Mails, die doppelt so hohe Öffnungsraten erzielen wie herkömmliche Versuche. Sie missbrauchen Deepfake-Technologie für gefälschte Video- und Sprachanrufe, in denen sie Familienangehörige in Notlagen imitieren.

Die Zahlen sind alarmierend: Deepfake-bezogener Betrug ist mittlerweile für 6,5 Prozent aller Betrugsangriffe verantwortlich – ein dramatischer Anstieg gegenüber den Vorjahren. Microsofts aktueller Digital Defense Report zeigt auf, wie Angreifer KI systematisch einsetzen: von der automatisierten Entdeckung von Software-Schwachstellen bis zur Entwicklung adaptiver Schadsoftware.
Anzeige: Übrigens: Wer sich vor KI-gestützten Phishing-Versuchen, Fake-Anrufen und Datendieben auf dem Smartphone schützen möchte, sollte sein Android gezielt absichern. Diese 5 praxiserprobten Maßnahmen machen Ihr Gerät spürbar sicherer – inklusive Tipps für WhatsApp, Online-Banking und Shopping, ganz ohne teure Zusatz-Apps. Der kostenlose Ratgeber führt Sie Schritt für Schritt durch die wichtigsten Einstellungen und Checklisten. Jetzt kostenloses Android-Sicherheitspaket anfordern

Digitale Wasserzeichen: Wie das neue Gesetz funktioniert

Kaliforniens Antwort ist radikal und wegweisend zugleich. Das AI Transparency Act (AB 853) verpflichtet große Online-Plattformen wie soziale Netzwerke und Suchmaschinen dazu, Nutzern klar anzuzeigen, ob Inhalte von KI stammen. Das Ziel: ein digitales Wasserzeichen-System, das echte von gefälschten Inhalten unterscheidbar macht.

“Das kalifornische KI-Transparenz-Gesetz kommt zu einem entscheidenden Moment”, erklärt Grace Gedye von Consumer Reports. Die Regelung geht noch weiter: Hersteller von Kameras und Smartphones, die im Bundesstaat verkauft werden, müssen künftig Optionen zur Einbettung von Herkunftsdaten in authentische, von Menschen aufgenommene Inhalte bereitstellen.

Globaler Abwehrkampf: Europa und USA ziehen mit

Kalifornien agiert nicht allein. Die ENISA identifizierte Phishing bereits als primäre Angriffsmethode bei 60 Prozent aller Cyberattacken in Europa. Der Bericht spricht von einer regelrechten “Industrialisierung” des Phishings durch KI.

In den USA hat die Cybersecurity and Infrastructure Security Agency (CISA) 2025 durchgehend Leitlinien zum Schutz von KI-Systemen vor Datenmanipulation herausgegeben. Parallel dazu nutzt die Federal Trade Commission ihre bestehenden Befugnisse gegen Unternehmen, die bei KI-Produkten irreführende Angaben machen.

Wettrüsten im digitalen Zeitalter

Was sich abzeichnet, ist ein technologisches Wettrüsten. Während Kriminelle KI für effektivere Angriffe nutzen, entwickeln Cybersicherheitsexperten intelligentere Abwehrsysteme. Das Problem: Die breite Verfügbarkeit mächtiger KI-Tools senkt die Einstiegshürden für Cyberkriminelle dramatisch.

Kaliforniens Fokus auf Inhalts-Herkunftsnachweise markiert einen strategischen Wandel. Statt allein auf menschliche Wachsamkeit zu setzen, sollen technologische Leitplanken ein vertrauenswürdigeres digitales Umfeld schaffen. Da sich Technologiekonzerne ungern mit unterschiedlichen Standards herumschlagen, dürfte das Gesetz faktisch nationale Auswirkungen haben.

Ausblick: Sehen ist nicht mehr Glauben

Die vollen Auswirkungen des Gesetzes werden sich erst 2026 und 2027 zeigen, wenn die Bestimmungen in Kraft treten. Technologieunternehmen haben zwei Jahre Zeit, die erforderlichen Herkunfts- und Offenlegungssysteme zu entwickeln.

Für Verbraucher bedeutet das: Die Zukunft erfordert geschärfte Skepsis und neue digitale Kompetenz. Der Kampf gegen KI-gestützte Bedrohungen wird zunehmend von KI-gestützten Abwehrsystemen geführt – mit Technologien wie Echtzeit-Betrugserkennung und Inhaltsauthentifizierung als Standard.

Die klare Botschaft von Gesetzgebern und Cybersicherheitsexperten: Im KI-Zeitalter ist sehen – oder hören – nicht mehr glauben.