OpenAI baut unsichtbare Wasserzeichen in ChatGPT ein, und verstärkt damit den Kampf gegen KI-Text-Missbrauch
Bild: trendingtopics.euOpenAI führt unsichtbare Wasserzeichen für Texte ein, die von ChatGPT generiert werden. Das Verfahren versteckt die Erkennungsmarke in der Wahl zwischen gleichwertigen Synonymen und soll Missbrauch aufdecken, ohne dabei die Nutzungserfahrung zu beeinträchtigen. Der Schritt folgt ähnlichen Initiativen von Anthropic und nutzt eine Variante von Google DeepMinks SynthID-Text-Technologie.
Die harten Zahlen
- Das Wasserzeichen ist für menschliche Leser unsichtbar, lässt sich aber durch technische Analyse nachweisen
- Die Erkennungs-API wird zunächst für Behörden, Medienunternehmen, Fact-Checker, Forschende und Bildungseinrichtungen zur Verfügung gestellt
- Ein erkanntes Wasserzeichen zeigt nur an, dass ChatGPT möglicherweise an dem Text beteiligt war, nicht mehr
- Ein kostenloses Content-Checking-Tool prüft C2PA-Metadaten in Dateien
Warum das spannend ist
Der Einsatz von Wasserzeichen ist eine direkte Reaktion auf das wachsende Problem von KI-generierten Inhalten, die ohne Kennzeichnung verbreitet werden. Besonders in Journalismus, Bildung und Behördenkommunikation entsteht dadurch ein Vertrauensproblem. OpenAI und Anthropic versprechen damit Transparenz, ohne dass die Technologie die Nutzbarkeit einschränkt.
Allerdings zeigt sich in der Praxis ein anderes Bild: Bei Anthropic führte die Einführung zu massiven Kündigungen von zahlenden Nutzern, besonders bei jenen, die Claude nur zum Überarbeiten eigener Texte oder für Code-Review verwendeten. Selbst eine simple Übersetzung eines selbstgeschriebenen Texts erhielt das Wasserzeichen. OpenAI hatte bereits vorgewarnt, dass solche Markierungen nicht-Muttersprachler beim Sprachschliff benachteiligen könnten.
Was das für dich bedeutet
- Prüfe, ob deine Texte (Bewerbungen, Kundenkommunikation, interne Dokumente), die du mit ChatGPT überarbeitest, damit für Behörden und Medien als „möglicherweise KI-generiert" gekennzeichnet werden, und wie das für deine Glaubwürdigkeit wirkt
- Bedenke: Die Wasserzeichen-Erkennung wird zunächst Institutionen zur Verfügung stehen, nicht der Allgemeinheit; das schafft eine asymmetrische Situation zwischen Organisationen und Einzelnen
- Überlege, ob deine Arbeitsabläufe (Lektorat, Code-Review, Übersetzungen) künftig auch Nutzerbeschränkungen mit sich bringen, das könnte die Akzeptanz durch Teams senken
- Informiere dich bei deinen Vertragspartnern (Redaktionen, Auftraggeber, Agenturen), wie sie mit KI-generierten Inhalten künftig umgehen, um rechtliche Fallstricke zu vermeiden
Quellen
Automatisch zusammengefasst aus oeffentlich zugaenglichen Quellen. Keine Rechts- oder Fachberatung.
