OpenAI führt KI-Alterserkennung für ChatGPT ein

OpenAI schaltet für junge Nutzer einen Sicherheitsmodus frei. Das neue System soll Minderjährige auf der KI-Plattform automatisch erkennen und besser schützen. Es ist eine direkte Reaktion auf wachsenden regulatorischen Druck.

Die Maßnahme zählt zu den bislang umfangreichsten Schritten eines großen KI-Entwicklers, um die Risiken generativer KI für Kinder und Jugendliche einzudämmen. Ab sofort rollt das Unternehmen die Technologie global aus, in der EU folgt der Start in den kommenden Wochen. Die Initiative entstand in Zusammenarbeit mit Kinderschutzorganisationen.

So funktioniert die Altersschätzung

Statt auf Ausweisdokumente setzt OpenAI auf eine KI-basierte Altersvorhersage. Das Modell analysiert Verhaltenssignale wie das bei der Kontoerstellung angegebene Alter, das Kontoalter und typische Nutzungszeiten. Dieser datenschutzfreundliche Ansatz vermeidet zunächst das Hochladen sensibler Dokumente.

Viele Anbieter von KI-Systemen stehen inzwischen vor neuen Pflichten durch die EU-KI-Verordnung – besonders Funktionen zur Altersabschätzung oder automatischen Nutzerklassifizierung können hochriskant eingestuft werden. Wer jetzt nicht Kennzeichnungspflichten, Risikoklassifizierung und Dokumentationsanforderungen umsetzt, riskiert Bußgelder und Einschränkungen. Ein kostenloser Umsetzungsleitfaden erklärt verständlich, welche Anforderungen gelten, liefert praxisnahe Checklisten und zeigt, wie Entwickler und Plattformbetreiber ihre KI-Prozesse rechtssicher gestalten. Jetzt kostenlosen KI-Verordnungs-Leitfaden herunterladen

Bleibt das System unsicher, schaltet es vorsorglich den Schutzmodus für Unter-18-Jährige frei. Erwachsene, die fälschlicherweise eingeschränkt werden, können ihr Alter über einen Verifizierungsprozess beim Drittanbieter Persona nachweisen. Dafür ist ein Selfie nötig.

Abgeschirmtes Erlebnis für Jugendliche

Erkennt das System einen Teenager-Account, aktiviert es automatisch einen restriktiveren ChatGPT-Modus. Dieser filtert sensible Inhalte nach strengeren Richtlinien. Blockiert werden beispielsweise Gewaltdarstellungen, sexuelle Rollenspiele oder Inhalte zur Selbstverletzung.

Ebenfalls eingeschränkt sind Beiträge zu extremen Schönheitsidealen oder gefährlichen Viral-Challenges. Die KI ist zudem angewiesen, nicht flirtend oder übermäßig vertraulich mit Minderjährigen zu interagieren. Die Schutzmaßnahmen basieren auf Expertise von Organisationen wie der American Psychological Association.

Neue Kontrollen für Eltern und Krisen-Protokolle

Das Paket umfasst auch umfangreiche elterliche Kontrollen. Eltern können ihr Konto mit dem ihres Kindes verknüpfen, um Einstellungen zu verwalten und Interaktionen einzusehen. Sie können „Ruhezeiten“ festlegen oder Funktionen wie den Chat-Verlauf deaktivieren.

Ein kritisches neues Feature sind Benachrichtigungen bei Krisensignalen. Zeigt die KI Anzeichen akuter Not – wie Gespräche über Selbstmordgedanken – werden die Eltern alarmiert. Kann ein Erziehungsberechtigter nicht erreicht werden, behält sich OpenAI vor, im Falle einer unmittelbaren Gefahr die Behörden einzuschalten.

Reaktion auf regulatorischen Druck

Der Schritt ist Teil eines Branchentrends zu mehr Verantwortung. OpenAI reagiert damit auf schärfere Vorgaben wie den Digital Services Act (DSA) der EU und den Druck von Aufsichtsbehörden wie der US-Handelskommission FTC. Das Unternehmen unterstützt zudem den geplanten „Parents & Kids Safe AI Act“ in Kalifornien.

Die Technologie ist auch die Voraussetzung für ein anderes geplantes Vorhaben: Die Freigabe reiferer Inhalte für verifizierte Erwachsene. Durch eine zuverlässige Trennung der Nutzergruppen will OpenAI Erwachsenen mehr Freiheit geben, während Jugendliche geschützt bleiben.

Die größte Herausforderung bleibt die Genauigkeit der Altersschätzung. Falsche Zuordnungen bergen rechtliche und Reputationsrisiken. OpenAI will die Performance daher kontinuierlich überwachen und verbessern. Gelingt die Umsetzung, könnte sie einen neuen Sicherheitsstandard für die gesamte KI-Branche setzen.

PS: Die EU-KI-Verordnung betrifft nicht nur Gesetzestexte, sondern konkret Funktionen wie automatische Altersabschätzung, Transparenzpflichten und Dokumentation von Trainingsdaten. Unser gratis E‑Book fasst die wichtigsten Übergangsfristen, Pflichten für Anbieter und praktikable Maßnahmen zusammen – inklusive Vorlagen für Risikobewertung und Kennzeichnung. Ideal für Produktmanager, Entwickler und Compliance-Teams, die KI-Systeme in der EU betreiben. Gratis E-Book zur KI-Verordnung anfordern