KI-Überwachung zwingt zu neuen Risikobewertungen

Arbeitgeber müssen ihre Gefährdungsbeurteilungen wegen KI-gestützter Leistungskontrolle dringend anpassen. Grund sind neue, autonome KI-Systeme und der Countdown zur EU-KI-Verordnung.

Künstliche Intelligenz ist in deutschen Betrieben keine Zukunftsvision mehr, sondern harte Realität. Das betonte der europäische Arbeitgeberverband SGI Europe diese Woche. In Schlüsselsektoren wie Energie, Verkehr und Gesundheitswesen sei KI bereits tief im Tagesgeschäft verankert.

Die größten Risiken gehen laut dem Verband jedoch nicht von der Technik selbst aus, sondern von „unmanaged organisational change“ – also ungesteuerten Veränderungen der Arbeitsorganisation. Gemeint ist vor allem die flächendeckende Einführung automatisierter Leistungsmessung und Überwachung. Für die gesetzlich vorgeschriebene Gefährdungsbeurteilung bedeutet das eine grundlegende Erweiterung. Arbeitgeber müssen nun auch die psychische Belastung durch algorithmisches Management bewerten.

Viele Gefährdungsbeurteilungen übersehen heute die psychischen Risiken, die von KI-gestützter Überwachung ausgehen. Aufsichtsbehörden verlangen inzwischen konkrete Nachweise – und Lücken in der Dokumentation führen häufig zu teuren Nachforderungen. Ein kostenloses Download‑Paket bietet praxiserprobte Vorlagen, Checklisten und einen klaren Leitfaden, wie Sie KI‑Funktionen systematisch einordnen, Risiken bewerten und Schutzmaßnahmen dokumentieren. Ideal für Arbeitgeber, Sicherheitsfachkräfte und Betriebsräte. Gefährdungsbeurteilung-Vorlagen jetzt downloaden

Autonome KI-Agenten treiben Überwachung voran

Ein zentraler Treiber ist der Aufstieg sogenannter „Agentic AI“. Diese Systeme können eigenständig handeln, statt nur zu analysieren. Laut einem globalen Technologiebericht von KPMG investieren aktuell 88 Prozent der Unternehmen in solche autonome Agenten.

Doch hier klafft eine gefährliche Lücke: Während 68 Prozent der Firmen bis Jahresende eine hohe KI-Reife anstreben, haben dies bisher nur 24 Prozent erreicht. Viele setzen mächtige Werkzeuge ein, ohne über ausgereifte Kontrollmechanismen zu verfügen. 53 Prozent fehlt es zudem am nötigen Fachpersonal.

Für die Praxis heißt das: Agentic AI kann eigenständig Aufgaben zuweisen, Bearbeitungszeiten überwachen und Mitarbeiter „anstupsen“. Diese Echtzeit-Überwachung stellt traditionelle, statische Risikobewertungen vor immense Probleme.

Die „stille Bedrohung“ durch KI-Protokollanten

Eine besonders heimtückische Form der Überwachung sind KI-gestützte Protokollierungs-Tools. Experten des Portals Social Europe warnen vor dieser „stillen Bedrohung“ für Privatsphäre und Compliance.

Die in Meetings allgegenwärtigen Tools zeichnen Gespräche automatisch auf und transkribieren sie. Das schafft zwei kritische Gefahren:
1. Datenschutzrisiken: Es könnten sensible Mitarbeiterdaten ohne wirksame Einwilligung erfasst werden.
2. Psychischer Druck: Der „Panoptikum-Effekt“ – das Gefühl, ständig beobachtet und jede Äußerung könnte später gegen einen verwendet werden.

Eine rechtskonforme Gefährdungsbeurteilung muss diese Tools jetzt explizit adressieren. Es muss dokumentiert sein, wer die Daten kontrolliert, wie sie für Leistungsbeurteilungen genutzt werden und welche Schutzmaßnahmen Missbrauch verhindern.

Countdown zur EU-KI-Verordnung läuft

Der Handlungsdruck wird durch die bevorstehende volle Anwendung der EU-KI-Verordnung verstärkt. Ab August 2026 gelten strenge Vorschriften für „Hochrisiko“-Systeme – dazu zählen viele Personal- und Überwachungstools.

Rechtsexperten betonen: 2026 ist das Jahr des Übergangs von Innovationsprojekten zu Compliance-Themen. HR-Anwendungen für Recruiting oder Leistungsbewertung sind hochriskant. Die Gefährdungsbeurteilung muss in solchen Fällen oft eine Grundrechte-Folgenabschätzung enthalten.

Zudem könnte eine seit 1. Januar 2026 geltende deutsche Reform der Streitwerte in Gerichtsverfahren den KI-Einsatz in Verwaltungsabläufen weiter antreiben. Die Pflicht, den „Menschen in der Schleife“ zu erhalten, wird damit zu einem zentralen Sicherheitsaspekt, der dokumentiert werden muss.

Wirtschaftlicher Druck fördert Leistungskontrolle

Der wirtschaftliche Effizienzdruck befeuert den Trend zur Überwachung zusätzlich. Wie The Economic Times berichtete, strukturieren US-Techriesen wie Amazon und Microsoft um und tauschen teilweise Personalkosten gegen KI-Infrastruktur.

Dieser globale Trend zwingt Unternehmen, die Rentabilität ihrer massiven KI-Investitionen – für 2026 prognostiziert Gartner über 300 Milliarden US-Dollar – nachzuweisen. Der „Effizienz-Imperativ“ fördert den rigorosen Einsatz von Mess-Tools.

Für Betriebsräte und die Gewerbeaufsicht wird dies zum Prüfstein. Sie achten verstärkt darauf, dass von KI gesetzte Leistungsziele realistisch sind und nicht zu gesundheitsschädlicher Arbeitsverdichtung führen.

Ausblick: Der Weg bis August 2026

Die Monate bis zur Frist der KI-Verordnung werden zum Schauplatz der Compliance.
* Stärkere Mitbestimmung: Betriebsräte werden ihr Mitbestimmungsrecht bei der Parametrisierung von KI-Überwachung verstärkt einfordern.
* Standardisierung: Branchenverbände werden voraussichtlich Muster für „KI-spezifische Gefährdungsbeurteilungen“ bereitstellen, besonders für KMU.
* Verschärfte Kontrollen: Unternehmen haben nur noch ein kleines Zeitfenster, ihre Systeme zu überprüfen. Wer KI-Risiken nicht in seine Sicherheitsbewertung integriert, riskiert doppelte Strafen: nach Arbeitsschutzrecht und nach dem Bußgeldkatalog der KI-Verordnung.

Die Botschaft der Woche ist klar: KI ist nicht länger nur ein Werkzeug am Arbeitsplatz. Sie wird zunehmend die Umwelt des Arbeitsplatzes. Die Gefährdungsbeurteilung muss mit dieser neuen Realität Schritt halten.

PS: Wenn Sie jetzt kurzfristig konkrete Vorlagen brauchen, hilft ein kostenloses Checklisten‑Paket für Gefährdungsbeurteilungen weiter. Es enthält sofort einsetzbare Muster, eine Praxis‑Anleitung für psychische Belastungen durch algorithmisches Management und Hinweise, wie Sie Aufsichtsbehörden überzeugen. Ideal zum schnellen Anpassen Ihrer Dokumentation vor den kommenden Prüfungen. Jetzt kostenlose GBU-Checklisten sichern