KI-Assistenten in WhatsApp & Co: Mehr Komfort, mehr Risiko

KI-Assistenten erobern WhatsApp, iMessage und Google Messages. Doch Sicherheitsexperten warnen vor neuen Betrugsmaschen und Datenschutzlücken.

Die Tech-Giganten Meta, Apple und Google integrieren ihre smarten Helfer immer tiefer in die Messenger von Milliarden Nutzern. Während die Unternehmen mehr Komfort versprechen, schlagen Verbraucherschützer und IT-Sicherheitsexperten Alarm. Ihre Sorge: Die KI öffnet Tür und Tor für Betrug, Desinformation und gefährdet die Privatsphäre.

Metas Datenhunger: Ein Risiko für die Privatsphäre?

Meta treibt die KI-Integration in WhatsApp und Facebook Messenger besonders aggressiv voran. Der Assistent kann bereits Bilder generieren oder Texte zusammenfassen. Doch der Komfort hat seinen Preis.

Seit dem 1. August 2024 gelten neue Regeln für KI — und Anbieter von Messenger‑Funktionen stehen jetzt vor klaren Kennzeichnungs-, Transparenz‑ und Dokumentationspflichten. Wer nicht rechtzeitig handelt, riskiert Bußgelder und Image‑Schäden. Das kostenlose Umsetzungs‑E‑Book erklärt verständlich, welche Pflichten speziell für Messenger‑KI gelten, wie Sie Ihr System richtig klassifizieren und welche Dokumente Prüfern vorgelegt werden sollten. Inklusive Checklisten und konkreten Umsetzungstipps. Jetzt kostenlosen KI‑Leitfaden herunterladen

Experten kritisieren, dass die KI nicht vollständig deaktiviert werden kann. Nutzer können lediglich den Chatverlauf löschen. Das nährt die Befürchtung, dass Konversationsdaten massenhaft zur Verbesserung der Algorithmen genutzt werden – selbst wenn sie anonymisiert sein sollen.

• Betrugsgefahr steigt: Kriminelle nutzen bereits KI-Chatbots, um in WhatsApp-Gruppen eine vermeintlich echte Community vorzutäuschen. Ihr Ziel: Nutzer zu Investitionen auf betrügerischen Plattformen drängen.
• Schadenssummen explodieren: Die österreichische Finanzmarktaufsicht (FMA) meldete für das vergangene Jahr fast 20 Millionen Euro Schaden durch Anlagebetrug – oft mit KI-Hilfe.

Apples „sicherer Garten“: Hält die Verschlüsselung stand?

Apple betont traditionell den Datenschutz. Viele KI-Funktionen in iMessage sollen direkt auf dem Gerät verarbeitet werden, geschützt durch eine Ende-zu-Ende-Verschlüsselung. Doch auch hier gibt es potenzielle Schwachstellen.

Kritiker merken an, dass nicht alle KI-Prozesse lokal ablaufen. Metadaten – wer wann mit wem chattet – fallen weiter an und könnten ausgewertet werden. Zudem erschwert der verschlossene Quellcode von iMessage eine unabhängige Sicherheitsprüfung.

Die zunehmende Komplexität durch KI-Funktionen könnte zudem neue, bisher unbekannte Angriffsvektoren für Cyberkriminelle schaffen.

Google Messages: Offenheit als Sicherheitslücke?

Google setzt bei seiner Messages-App auf den offenen Standard RCS (Rich Communication Services). Auch hier ist eine Ende-zu-Ende-Verschlüsselung Standard. KI-Funktionen wie „Magic Compose“ sollen das Schreiben erleichtern.

Doch die Offenheit des RCS-Standards birgt Risiken. Sicherheitsexperten befürchten, dass die Schnittstelle verstärkt für KI-gestütztes Phishing missbraucht werden könnte. Kriminelle könnten täuschend echte Nachrichten von Banken oder Behörden erstellen.

Google betont zwar, keine Inhalte für Werbung zu nutzen, sammelt aber Leistungsdaten zur Verbesserung des Dienstes – was Datenschützer skeptisch bleiben lässt.

Ein Wettrüsten mit unklaren Regeln

Die Strategien der Konzerne spiegeln einen Grundkonflikt wider: innovative, datengetriebene Funktionen gegen das Recht auf private Kommunikation. Dieses technologische Wettrüsten findet vor dem Hintergrund neuer EU-Regeln statt.

Der EU AI Act verbietet bereits bestimmte Hochrisiko-Praktiken wie Social Scoring. Für KI-Systeme in sensiblen Bereichen gelten strenge Transparenz- und Sicherheitsauflagen. Ob diese Regeln für Messenger-KI ausreichen und konsequent durchgesetzt werden, bleibt jedoch abzuwarten.

Deepfakes: Die nächste Eskalationsstufe

Die Bedrohungslage wird sich weiter zuspitzen. Experten erwarten nicht nur intelligentere Assistenten, sondern auch ausgefeiltere Angriffe. Eine besondere Gefahr sind Deepfakes – täuschend echte, KI-generierte Imitate von Stimmen, Bildern und Videos.

Solche Fälschungen werden bereits heute für Betrug und die Erstellung missbräuchlicher Inhalte genutzt, wie Warnungen von Behörden und Organisationen wie UNICEF zeigen. Für Nutzer wird eine erhöhte Wachsamkeit immer wichtiger. Verbraucherschützer fordern von den Plattformen endlich mehr Transparenz und einfache Privatsphäre-Einstellungen.

PS: Unsicher, ob Messaging‑Features wie automatische Antworten oder generative Bilder unter die strengen Vorgaben fallen? Dieses kompakte E‑Book zur EU‑KI‑Verordnung gibt Ihnen klare Antworten: Risikoklassen, Kennzeichnungspflichten, notwendige Dokumentation und praktische Umsetzungs‑Schritte für Entwickler, Plattformbetreiber und Datenschutzverantwortliche. Ideal, um schnell zu prüfen, ob Ihre Messenger‑Funktionen rechtssicher betrieben werden können. Kostenloses E‑Book zur EU‑KI‑Verordnung anfordern