Kalifornien ist der erste US-Bundesstaat, der Kündigungen allein auf Basis von KI-Entscheidungen verbietet. Gouverneur Gavin Newsom unterzeichnete am 30. September 2026 den „No Robo Bosses Act" (SB 947) – als eines von insgesamt 13 neuen KI-Gesetzen. Ab dem 1. Juli 2027 dürfen Arbeitgeber in Kalifornien Beschäftigte nicht mehr entlassen oder disziplinieren, wenn die Entscheidung ausschließlich von einem automatisierten System getroffen wurde.
Der Hintergrund: Automatisierte Entscheidungssysteme sind in US-Unternehmen längst Alltag – vom Bewerber-Ranking über Schichtplanung bis zum Performance-Scoring in Callcentern und Lagerhäusern. Immer öfter entschieden Algorithmen faktisch allein darüber, wer gehen muss. Genau diesen Automatismus unterbindet das neue Gesetz.
Was das Gesetz vorschreibt
Der No Robo Bosses Act verpflichtet Arbeitgeber zu drei Kernpunkten:
- Keine Kündigung allein per KI: Disziplinarmaßnahmen und Entlassungen dürfen nicht ausschließlich auf einem automatisierten Entscheidungssystem beruhen.
- Echte menschliche Prüfung: Ein menschlicher Prüfer muss die KI-Empfehlung mit unabhängigen Belegen untermauern – etwa Vorgesetztenbewertungen, Kollegen-Feedback oder der Personalakte. Bloßes Abnicken der Maschinenentscheidung genügt ausdrücklich nicht.
- Transparenzpflicht: Betroffene müssen schriftlich erfahren, dass KI eine primäre Rolle spielte, welche persönlichen Daten einflossen – und einen menschlichen Ansprechpartner genannt bekommen.
Durchgesetzt wird das Gesetz vom kalifornischen Labor Commissioner, dem Generalstaatsanwalt und lokalen Staatsanwälten. Senator Jerry McNerney, der das Gesetz eingebracht hat, brachte es auf den Punkt: „No worker should ever be fired or disciplined by a robo boss."
Zweiter Anlauf nach Newsoms Veto
Das Gesetz hat eine Vorgeschichte: Eine erste Fassung (SB 7) hatte Newsom im Herbst 2025 noch per Veto gestoppt und dabei „unfokussierte Benachrichtigungspflichten" kritisiert. McNerney strich daraufhin die Pflicht zur Vorab-Ankündigung von KI-Systemen sowie die Schutzbestimmungen für Gig-Worker – Fahrer von Uber und Lyft bleiben damit ausgenommen – und bekam diesmal die Unterschrift.
Der No Robo Bosses Act ist Teil eines größeren Pakets: AB 1883 verbietet KI-Tools, die emotionale Zustände oder neuronale Daten von Beschäftigten erfassen, AB 1331 untersagt Überwachung in Sanitärräumen am Arbeitsplatz. Ein Gesetz zu Smart Glasses (SB 1130) stoppte Newsom dagegen per Veto – die Definition von Aufnahmegeräten sei zu breit geraten.
Was bedeutet das für Anwender in Deutschland?
Was in Kalifornien als Durchbruch gefeiert wird, ist in Europa größtenteils geltendes Recht – teils seit Jahren. Artikel 22 der DSGVO verbietet bereits seit 2018 Entscheidungen mit rechtlicher Wirkung, die ausschließlich auf automatisierter Verarbeitung beruhen – eine Kündigung ist der Paradefall. Der EU AI Act geht noch weiter: KI-Systeme für Einstellung, Beförderung und Kündigung gelten nach Anhang III als Hochrisiko-Systeme und unterliegen Pflichten zu Risikomanagement, menschlicher Aufsicht und Protokollierung. Dazu kommt in Deutschland die Mitbestimmung: Der Betriebsrat muss nach § 87 Betriebsverfassungsgesetz technischen Systemen zustimmen, die Leistung oder Verhalten überwachen können.
Für mittelständische Unternehmen heißt das konkret: Wer HR-Software mit KI-Funktionen einsetzt – etwa Bewerber-Ranking, Fluktuationsprognosen oder Performance-Dashboards –, sollte jetzt prüfen, welche Tools automatisiert bewerten, wo die Daten liegen (US-Anbieter: AV-Vertrag und Serverstandort klären!) und ob die menschliche Letztentscheidung dokumentiert ist. Wer diese Hausaufgaben für DSGVO und AI Act sauber erledigt, erfüllt die kalifornischen Anforderungen praktisch nebenbei – ein Standortvorteil, der selten so klar sichtbar wird wie hier.