Jena - Cyberkriminelle nutzen Künstliche Intelligenz zunehmend als Einfallstor und Erfüllungsgehilfen für Betrug und Phishing.

"Der verantwortungsbewusste Umgang mit generativer KI wird immer wichtiger ", sagt Michael Klatte, Cybersicherheitsexperte bei ESET. "Viele Nutzer vertrauen Chatbots fast blind, besonders wenn sie auf bekannten Plattformen wie X auftreten. Nutzer sollten beim Anklicken von Links per se immer wachsam bleiben."

Praktische Tipps, wie Nutzer sich schützen können, hat ESET am Ende dieser Meldung gesammelt.

Wie der Angriff funktioniert

Beim "Grokking" handelt es sich um eine neuartige Form der Prompt-Injection, also um Manipulationen durch versteckte Befehle. Angreifer platzieren Phishing-Links in scheinbar harmlosen Beiträgen oder Datenfeldern. Wird eine KI gebeten, solche Inhalte zu analysieren oder zu kommentieren, liest sie die eingebetteten Befehle aus und gibt die schädlichen Links ganz automatisch als Kommentar weiter.

Ein Fall auf der Plattform X zeigt, wie effektiv diese Methode ist: Betrüger versteckten eine schadhafte URL in einem Videopost und brachten den offiziellen KI-Bot "Grok" dazu, diese im Rahmen einer Antwort zu teilen. Der Link wirkte wie eine legitime Quelle, in Wahrheit jedoch führte er auf eine gefälschte Seite.

Grokking beschränkt sich nicht nur auf X. Auch andere soziale Netzwerke können betroffen sein, wenn sie digitale KI-Assistenten bereitstellen.

Wachsende Gefahr durch KI-Manipulation

Laut Schätzungen von Gartner waren im vergangenen Jahr bereits 32 Prozent aller Unternehmen von Prompt-Injection-Angriffen betroffen.

"Das Gefährliche daran ist: Diese Technik funktioniert auf jeder Plattform, die Sprachmodelle einsetzt, also potenziell überall", warnt Klatte. "KI-Systeme besitzen kein Bewusstsein für Absichten. Sie verarbeiten nur Text – egal ob er harmlos oder manipulativ ist. Dadurch können sie unbeabsichtigt zu Mittätern werden."

ESET gibt Sicherheitstipps für Nutzer

Um sich vor Angriffen wie "Grokking" zu schützen, empfehlen die ESET-Experten:

* Keine Links aus KI-Antworten blind anklicken. Immer prüfen, wohin der Link führt. * Skepsis auch bei offiziellen Bots. Ein verifizierter Account garantiert keine Sicherheit. * Systeme und Sicherheitssoftware aktuell halten. * Zwei-Faktor-Authentifizierung aktivieren und Passwortmanager nutzen. * Im Zweifel Originalquellen prüfen, statt sich auf automatisch generierte Inhalte zu verlassen.

Weitere Informationen zum Thema Grokking gibt es im aktuellen Blogpost auf Welivesecurity.com: Grokking: Wenn KI-Chatbots zu Phishing-Helfern werden ( https://www.welivesecurity.com/de/tipps-ratgeber/grokking-wenn-ki-chatbots-zu-phishing-helfern-werden/ )

(Ende)

Aussender: ESET Deutschland GmbH Ansprechpartner: Philipp Plum Tel.: +49 3641 3114 141 E-Mail: philipp.plum@eset.com Website: www.eset.de