Anthropic will Regierung einschränken, Milliarden-Schwelle für KI-Verbote

Anthropic hat US-Abgeordneten einen Gesetzentwurf zur KI-Regulierung vorgelegt. Die Kernforderung: Die Regierung darf ein KI-Modell nur dann blockieren, wenn es ein unmittelbar bevorstehendes Risiko darstellt, mehr als 50 Menschen zu töten oder zu verletzen oder über eine Milliarde Dollar Schaden anzurichten. Damit würde die Regierung faktisch an die Leine gelegt.

Die harten Zahlen

• Interventionsschwelle: über 1 Milliarde Dollar Schadenpotenzial oder über 50 Todesfälle erforderlich
• Einschränkung: Nur ein Ministerium (nicht genauer benannt) darf intervenieren, alle anderen Behörden sind ausgesperrt
• Vollzug: Notfalls per Gericht, um ein Modell vor Release zu stoppen
• Zeitpunkt: Mitte Oktober 2026, Anthropic arbeitet im Stillen mit Gesetzgebern

Warum das spannend ist

Anthropic positioniert sich als der „verantwortungsvolle KI-Player", der selbst eine Regulierung vorschlägt. Das wirkt clever: Der Entwurf sieht Sicherheitsbarrieren vor, sperrt aber konkurrierend tätige Behörden aus. Das bedeutet, dass langsamere Prozesse, Fachaufsicht und Mehraugenprinzipien faktisch ausgehebelt werden. Wenn Anthropic heute selbst die Messlatte setzt, kontrolliert das Unternehmen morgen, wann Intervention überhaupt möglich wird.

Das ist auch ein politisches Signal: Kurz bevor Regulierung ernsthaft wird, prägt Anthropic die Spielregeln selbst. Die Schwelle von 1 Milliarde Dollar und 50 Personen ist hoch genug, um die meisten Szenarien auszuschließen, und niedrig genug, um nicht völlig absurd zu wirken.

Was das für dich bedeutet

• Prüfe deine KI-Verträge: Wenn Anthropic-Modelle zum Standard werden, könnten Lock-in-Klauseln entstehen, die dich an einen Anbieter binden, dessen Regulierung selbst gestaltet ist
• Beobachte den EU-Weg parallel: Die AI Act sieht strengere, mehrschichtige Kontrollmechanismen vor, DACH-Unternehmen haben da mehr Schutz als US-basierte Firmen
• Frag Berater nach Abhängigkeitsrisiken: Wem gehört die Infrastruktur, die deine KI-Lösung antreibt? Wer sitzt am Verhandlungstisch mit Gesetzgebern?

Quellen

• investing.com: Anthropic proposes AI safety bill with strict intervention thresholds - Politico - Investing.com
• bloomberg.com: Anthropic Pitches AI Safety Bill to Lawmakers, Politico Says - Bloomberg.com
• lawcommentary.com: Anthropic Quietly Pushes AI Safety Bill That Would Limit Government Power to Block Dangerous Models - Law Commentary

---

Automatisch zusammengefasst aus oeffentlich zugaenglichen Quellen. Keine Rechts- oder Fachberatung.