KI trifft Personalentscheidungen: Was der Meta-Fall KMU über automatisierte Systeme lehrt

Ein Gerichtsfall, der mehr als nur einen Konzern betrifft

Ehemalige Mitarbeitende von Meta haben Klage eingereicht – mit einem ungewöhnlichen Vorwurf: Ein KI-basiertes Bewertungssystem soll sie während Krankheitszeiten oder aufgrund einer Behinderung schlechter benotet haben, was letztendlich zur Kündigung geführt habe. Das berichtet heise.de. Der Fall ist noch nicht abgeschlossen, aber er stellt bereits jetzt eine zentrale Frage in den Raum, die weit über Meta hinausgeht: Wer haftet, wenn eine Maschine eine folgenreiche Entscheidung trifft?

Für viele KMU-Inhaber klingt das zunächst weit weg. Ein Weltkonzern mit zehntausenden Mitarbeitenden – das hat mit dem Handwerksbetrieb, der Steuerkanzlei oder dem Regionalhandel in Ostwürttemberg wenig zu tun, oder? Ganz so einfach ist es leider nicht. Denn KI-gestützte Tools für Personalmanagement, Zeiterfassung, Leistungsauswertung oder Bewerberselektion werden zunehmend auch für kleinere Unternehmen erschwinglich und attraktiv. Und die rechtlichen Fragen, die der Meta-Fall aufwirft, gelten genauso für den Mittelstand.

Was genau ist passiert – und warum ist das relevant?

Nach Informationen von heise.de soll das eingesetzte System automatisch Produktivitätskennzahlen erfasst und bewertet haben. Mitarbeitende, die krankheitsbedingt ausfielen oder Pausen aufgrund einer Behinderung benötigten, hätten dadurch automatisch schlechtere Werte erhalten – ohne dass das System diese Umstände berücksichtigt hätte. Die Folge: schlechtere Performancebewertungen, und am Ende Kündigungen.

Das Problem liegt dabei nicht unbedingt in der bösen Absicht der Entwickler. Es liegt in der Blindheit des Systems gegenüber menschlichen Kontexten. Ein Algorithmus, der nur auf Zahlen schaut, sieht nicht, ob jemand im letzten Quartal eine schwere Diagnose erhalten hat oder ob ein Beschäftigter mit einer chronischen Erkrankung an manchen Tagen einfach weniger leisten kann. Er zählt – und wertet.

Welche Systeme sind in KMU typischerweise betroffen?

Sie müssen kein Meta-Konzern sein, um in ähnliche Situationen zu geraten. Typische Tools, die in KMU bereits heute im Einsatz sind und potenziell ähnliche Probleme verursachen können:

• Zeiterfassungssysteme mit Auswertungsfunktion: Wenn die Software automatisch Berichte über Anwesenheit und Pausen erstellt und diese direkt mit Leistungsbeurteilungen verknüpft werden
• Projektmanagement-Tools mit KPI-Tracking: Wenn Systeme wie Monday.com, Asana oder ähnliche die Aufgabenerledigung messen und daraus Schlüsse über Mitarbeitende gezogen werden
• Bewerber-Screening-Tools: Wenn Lebensläufe automatisch nach Schlagwörtern gefiltert und bewertet werden, bevor ein Mensch sie überhaupt zu Gesicht bekommt
• KI-Assistenten in HR-Software: Einige Lohnbuchhaltungs- oder Personalverwaltungsprogramme beginnen, KI-Empfehlungen zu integrieren

Keine dieser Anwendungen ist per se problematisch. Problematisch wird es, wenn Entscheidungen auf Basis von KI-Outputs getroffen werden, ohne dass ein Mensch den Kontext versteht und bewertet.

Was bedeutet das rechtlich – auch für kleinere Betriebe?

In Deutschland und der EU existieren klare Rahmenbedingungen, die auch für KMU gelten. Das Allgemeine Gleichbehandlungsgesetz (AGG) schützt Beschäftigte vor Benachteiligung aufgrund von Behinderung oder Krankheit. Wenn ein automatisiertes System systematisch zu Benachteiligungen führt, kann der Arbeitgeber haftbar sein – unabhängig davon, ob ein Mensch oder eine KI die Entscheidung getroffen hat.

Darüber hinaus greift ab bestimmten Schwellen der EU AI Act, der KI-Systeme im Personalbereich als Hochrisiko-Anwendungen einordnet. Das bedeutet: Wer solche Systeme einsetzt, muss Transparenz gewährleisten, menschliche Kontrolle sicherstellen und Dokumentationspflichten erfüllen. Für KMU, die bereits erste Artikel-50-Pflichten umsetzen müssen (wir haben dazu einen separaten Beitrag veröffentlicht), ist das keine abstrakte Zukunftsfrage mehr.

Die entscheidende Botschaft: Die Verantwortung für eine Entscheidung liegt immer beim Unternehmen – nicht beim Softwareanbieter.

Konkrete Handlungstipps für KMU

Wenn Sie bereits KI-gestützte Tools im Personalbereich nutzen oder planen, solche einzuführen, sollten Sie folgende Punkte prüfen:

1. Machen Sie sich klar, welche Systeme Daten über Mitarbeitende auswerten Gehen Sie durch alle eingesetzten Tools und fragen Sie sich: Welche Kennzahlen werden erfasst? Werden diese Daten irgendwo zusammengeführt und bewertet? Wer hat Zugriff auf diese Auswertungen?

2. Trennen Sie Messung von Bewertung Ein Tool darf erfassen, wie viele Aufgaben jemand in einer Woche abgeschlossen hat. Die Bewertung, ob das gut oder schlecht ist, muss ein Mensch übernehmen – mit dem Wissen um den jeweiligen Kontext. Formulieren Sie das intern als klare Regel.

3. Integrieren Sie menschliche Prüfpflichten Jede personalrelevante Entscheidung, die auf KI-Auswertungen basiert, sollte von einer verantwortlichen Person gegengezeichnet und begründet werden. Dokumentieren Sie diese Schritte.

4. Sensibilisieren Sie Führungskräfte und HR-Verantwortliche Auch in kleinen Betrieben ohne eigene HR-Abteilung: Wer Mitarbeitende beurteilt, muss wissen, dass KI-generierte Berichte nur ein Hilfsmittel sind – und kein Urteil.

5. Prüfen Sie Ihre Softwareverträge Viele SaaS-Anbieter schließen Haftung für Auswertungsergebnisse in ihren AGB aus. Das bedeutet: Die Verantwortung liegt bei Ihnen als Betreiber. Lesen Sie die Nutzungsbedingungen kritisch.

6. Sprechen Sie mit Ihrem Datenschutzbeauftragten Sobald personenbezogene Daten von Mitarbeitenden automatisiert ausgewertet werden, sind datenschutzrechtliche Pflichten berührt. Holen Sie sich Rat, bevor ein System live geht.

Der Blick nach vorn: KI im Personalbereich nutzen – aber bewusst

Der Meta-Fall ist kein Argument dafür, KI im Personalbereich generell zu meiden. Automatisierte Systeme können echten Nutzen bringen: sie sparen Zeit bei der Vorauswahl von Bewerbungen, helfen bei der Strukturierung von Feedbackgesprächen oder erleichtern die Urlaubsplanung. Der Punkt ist ein anderer: KI-Systeme sollten Entscheidungen unterstützen, nicht ersetzen.

Für KMU in Ostwürttemberg, die vielleicht fünf, zwanzig oder fünfzig Mitarbeitende beschäftigen, ist das sogar ein Vorteil: Sie haben kurze Wege, kennen Ihre Leute persönlich und können den menschlichen Kontext einbeziehen, den ein Algorithmus nie vollständig erfassen wird. Nutzen Sie diesen Vorsprung.

Wenn Sie unsicher sind, welche Ihrer eingesetzten Tools als KI-System einzuordnen sind und welche Pflichten das für Sie bedeutet, sprechen Sie uns gerne an. Wir helfen KMU dabei, einen klaren Überblick zu bekommen – ohne Fachjargon und ohne unnötige Panik.

Fazit: Verantwortung bleibt beim Menschen

Der Fall rund um Metas KI-Bewertungssystem zeigt exemplarisch, was passiert, wenn automatisierte Prozesse Entscheidungen über Menschen treffen, ohne dass jemand genau hinschaut. Für KMU bedeutet das: Prüfen Sie, welche Ihrer Softwaresysteme Mitarbeiterdaten auswerten, stellen Sie sicher, dass immer ein Mensch die letzte Bewertung vornimmt, und dokumentieren Sie Ihre Prozesse. KI ist ein Werkzeug – und wie jedes Werkzeug muss es sachgemäß eingesetzt werden. Die Verantwortung dafür liegt nicht beim Anbieter. Sie liegt bei Ihnen.