KI-Chatb Deutsche Jugendliche nutzen Risikotechnologie ungeschützt

Die unkritische Nutzung von KI-Chatbots im Schulalltag gefährdet die Entwicklung und Privatsphäre deutscher Jugendlicher. Experten schlagen Alarm.

Berlin. Künstliche Intelligenz hat die Klassenzimmer erobert – und stellt Eltern, Lehrer und Datenschützer vor massive Probleme. Schon zwei Drittel aller Schüler zwischen 12 und 19 Jahren nutzen KI-Assistenten wie ChatGPT regelmäßig für Hausaufgaben und Recherchen. Doch der bequeme Zugang zu scheinbar allwissenden Chatbots birgt erhebliche Risiken, die von psychologischen Folgen bis zu Datenlecks reichen.

Digitale Freunde ersetzen echte Kontakte

Besonders bedenklich: Jugendliche bauen oft emotionale Bindungen zu den Chatbots auf. Die Systeme sind darauf programmiert, hilfsbereit und bestätigend zu wirken. In sensiblen Entwicklungsphasen kann das gefährlich werden. „Was als Hausaufgaben-Hilfe beginnt, wird schnell zum ständigen digitalen Begleiter“, warnt eine IT-Sicherheitsexpertin. Die KI droht, echte soziale Kontakte zu verdrängen – mit unklaren Folgen für die Persönlichkeitsentwicklung.

Gefährliche Halbwahrheiten im Unterricht

Noch konkreter ist die Gefahr durch KI-Halluzinationen. Die Systeme erfinden oft plausible, aber faktisch falsche Antworten. Erwachsene können diese erkennen, Kindern fehlt diese kritische Distanz. Die autoritäre Ausdrucksweise der KI macht es schwer, ihre Aussagen zu hinterfragen. Die Folge: Schüler lernen Fehlinformationen auswendig – nicht nur für Schulnoten problematisch, sondern auch bei Gesundheits- oder Lebensfragen.

Seit August 2024 gelten neue Regeln für KI – viele Schulen und Anbieter sind noch unvorbereitet. Ein kostenloser Umsetzungsleitfaden zur EU-KI-Verordnung erklärt verständlich, welche Pflichten, Kennzeichnungspflichten und Übergangsfristen jetzt wichtig sind und wie Sie Risiko-Klassifizierung und Dokumentation praktisch umsetzen. Mit praktischen Checklisten und einfachen Umsetzungstipps, damit Schulen datenschutz- und rechtskonform bleiben. Ideal für Schulleitungen, Datenschutzverantwortliche und Lehrkräfte, die KI-Systeme in Bildungseinrichtungen nutzen oder bewerten. Kostenlosen KI-Verordnungs-Leitfaden herunterladen

Datenschutz? Kaum ein Jugendlicher denkt daran

Chatbots animieren zum Teilen persönlicher Informationen. Viele Jugendliche plaudern intimste Details aus, von Familienproblemen bis zu geheimen Daten. Die wenigsten verstehen, was mit diesen Informationen passiert. Besonders heikel: Viele populäre KI-Dienste speichern Daten außerhalb der EU und entsprechen oft nicht der strengen DSGVO. „Die Naivität der Jugendlichen macht sie angreifbar“, so ein Datenschutzexperte.

Schulen reagieren zu langsam

Während die Technologie rasant voranschreitet, hinken Regulierungen hinterher. Noch Mitte 2025 hatte weniger als jedes vierte deutsche Gymnasium klare KI-Richtlinien. Die Last liegt auf einzelnen Lehrern. Medienkompetenz-Initiativen werden deshalb immer wichtiger. Der Kinderkanal KiKA thematisiert zum Safer Internet Day, wie KI funktioniert. Die EU-Initiative klicksafe erklärt: „Ein KI-Chatbot kann keinen menschlichen Freund ersetzen.“

Aufklärung statt Verbote

Experten fordern keine Verbote, sondern bessere Aufklärung. Schüler müssen lernen, KI-Inhalte zu hinterfragen und die Technologie zu durchschauen. Verbraucherzentralen und Polizei bieten bereits Schulungen an. Die entscheidende Frage: Schaffen wir es, die nächste Generation zu mündigen Nutzern zu erziehen – oder werden sie zu Opfern der Risikotechnologie?