Anthropic und OpenAI unter Druck: Wie Regierungen KI-Modelle jetzt kontrollieren wollen

Anthropic hat im Juni zwei hochleistungsfähige KI-Modelle veröffentlicht, die Sicherheitslücken in Software aufdecken und funktionierende Exploits generieren können. Das löste eine politische Kettenreaktion aus: US-Präsident Trump forderte ein freiwilliges Überprüfungsverfahren für KI-Modelle vor ihrer Veröffentlichung, danach sperrte die Regierung den Zugang für ausländische Nutzer. Das Chaos zeigt ein grundlegendes Problem: Die Regierungen entwickeln gerade erst Bewertungskapazitäten für KI-Systeme, und diese Entscheidungen treffen sie ad hoc, ohne dass die Öffentlichkeit die dahintersteckenden Daten sieht.

Die harten Zahlen

• 20 AI-Firmen haben sich verpflichtet, ihre Sicherheitsbewertungs-Standards öffentlich zu machen (seit Mai 2024)
• Mindestens acht Kategorien von Risiken prüfen die Hersteller: Cybersicherheit, biologische Waffen, autonome Forschung und entwicklung, autonome Replikation, manipulative Techniken, täuschende Ausrichtung, plus weitere Themen
• Anthropics Glasswing-Projekt war eine Testversion: Nur geprüfte Betreiber von kritischer Infrastruktur durften die Modelle vor der Öffentlichkeit testen
• Die Export-Kontrolle auf die Modelle Mythos 5 und Fable 5 wurde nach wenigen Wochen wieder aufgehoben, nachdem sie zunächst alle ausländischen Nutzer ausschloss

Warum das spannend ist

Die KI-Branche steht an einem Wendepunkt. Regierungen wollen nicht länger hoffen, dass Firmen selbst entscheiden, welche Modelle sicher sind. Gleichzeitig zeigt der Anthropic-Fall, wie unkoordiniert diese Kontrollen noch ablaufen: Keine Transparenz für die Öffentlichkeit, Entscheidungen werden zurückgefahren, die Hersteller bekommen nicht mal konkrete Gründe für Sperrungen genannt.

Für dich als KMU oder Führungskraft relevant: Wenn du mit KI-Modellen arbeitest (egal ob Claude, GPT oder andere), werden die Spielregeln gerade neu geschrieben. Export-Kontrollen, Sicherheitszertifizierungen und Compliance-Anforderungen könnten bald Standard sein. Das betrifft Vertragskonditionen, Verfügbarkeit in bestimmten Märkten und potenzielle Zugangskosten.

Was das für dich bedeutet

• Achte darauf, welche Modelle dein Anbieter dir zur Verfügung stellt: Könnten Export-Kontrollen deine Nutzung einschränken, etwa wenn Mitarbeiter im Ausland arbeiten oder deine Daten grenzüberschreitend fließen?
• Prüfe, ob dein KI-Anbieter zu den 20 Unterzeichnern gehört und welche Sicherheits-Standards er tatsächlich befolgt: Transparency ist kein Nice-to-have mehr
• Plane für höhere Compliance-Anforderungen in deinen Verträgen mit KI-Anbietern ein (ähnlich wie DSGVO-Klauseln)
• Halte dich von Modellen fern, deren Sicherheitsbewertungen nicht öffentlich zugänglich sind: Das Risiko für unerwartete Sperrungen oder Kostenschocks ist zu hoch

Quellen

• brookings.edu: How are countries evaluating AI models? | Brookings

---

Automatisch zusammengefasst aus oeffentlich zugaenglichen Quellen. Keine Rechts- oder Fachberatung.