Kalifornien fordert KI-Notausschalter: Newsom beauftragt Studie statt Verbot
Bild: ua.newsKaliforniens Gouverneur Gavin Newsom hat eine Untersuchung zu sogenannten "Kill Switches" für KI-Systeme angeordnet. Statt das Gesetz SB 1047 zu unterzeichnen, das strenge Sicherheitsvorkehrungen vor dem Training von Modellen verlangt hätte, erteilte er dem Senat einen anderen Auftrag: Eine Expertenkommission soll bis 15. November Empfehlungen zur Regulierung erarbeiten.
Die harten Zahlen
- SB 1047 hätte Meldepflichten für kritische Vorfälle mit 50+ Todesfällen, Großangriffe oder Gelddiebstahl verankert
- Newsom unterzeichnete bereits im Oktober 2025 ein Gesetz, das Major Developer zur Offenlegung bestimmter Sicherheitsvorfälle verpflichtet
- Frist für Empfehlungen: 15. November 2026
- Mögliche Sondersession des Parlaments vor Ende von Newsoms Amtszeit
Warum das spannend ist
Die kalifornische Entscheidung zeigt einen pragmatischen Mittelweg zwischen Regulierung und Innovation. Statt ein Verbot durchzudrücken, lagert Newsom die Feinheiten an Experten aus und signalisiert damit auch der Tech-Industrie: Wir regulieren, aber nicht radikal. Das ist politisch clever, weil es die wachsenden Bedenken der US-Wähler zu KI-Sicherheit, Datenzentren und Jobverlust aufgreift, ohne sofort Investitionen zu killen.
Für den deutschsprachigen Raum ist das relevant, weil ähnliche Debatten zur Kontrollierbarkeit großer Sprachmodelle auch hier führen. Die EU hat bereits mit dem AI Act strikte Vorgaben gemacht. Kalifornien bewegt sich jetzt eher in Richtung gradueller Kontrolle durch Offenlegung statt technischer Zwangsmechanismen (Kill Switches). Das könnte auch auf europäische Regulierung abfärben.
Was das für dich bedeutet
- Beobachte die kalifornischen Empfehlungen ab November: Sie setzen wahrscheinlich den Standard für US-Regulation und beeinflussen indirekt auch deutsche Compliance-Anforderungen für Cloud-KI-Services
- Frag deine KI-Tool-Anbieter explizit nach Sicherheitsvorfällen und deren Meldeketten, wenn ihr kritische Daten verarbeitet
- Wenn du Cloud-KI (OpenAI, Google, Anthropic) in Produktivprozessen einsetzt: Dokumentiere, welche Daten wohin fließen und ob Meldepflichten dich betreffen könnten
- Rechne mit europäischem Nachzug: Die AI-Act-Anforderungen könnten durch Offenlegungspflichten à la Kalifornien verschärft werden, plane deine Audit-Trails jetzt schon robust
Quellen
Automatisch zusammengefasst aus oeffentlich zugaenglichen Quellen. Keine Rechts- oder Fachberatung.
