ChatGPT: unsichtbare Kennzeichnung für KI-Texte

OpenAI führt schrittweise Wasserzeichen für KI-generierte Texte ein. Grund dafür sind die Vorgaben des sogenannten „EU AI Act“, das neue Gesetz der Europäischen Union zur Regulierung von Künstlicher Intelligenz.

In den kommenden Wochen werden Textausgaben von ChatGPT innerhalb der EU mit einem unsichtbaren Wasserzeichen versehen.

Diese Regelung gilt für alle Tarife von ChatGPT. Kunden, die die Dienste über eine Schnittstelle (API) nutzen, können die Technik bereits jetzt für ausgewählte Modelle selbst einschalten. Standardmäßig bleibt sie dort jedoch zunächst deaktiviert.

Quelle: ➥ Ankündigung von OpenAI

Die Technik: Wie funktioniert ein unsichtbares Wasserzeichen?

Die von OpenAI entwickelte Technologie trägt den Namen textGrain. Der Name ist dabei eher technisch und beschreibt das Prinzip: Es werden keine sichtbaren Zeichen oder Wasserzeichen in den Text eingefügt. Stattdessen erzeugt das Sprachmodell beim Schreiben ein statistisches Muster in der Wortwahl.

Man kann es sich wie einen digitalen „Fingerabdruck“ vorstellen, der im Text verborgen bleibt. Ein spezieller Detektor kann dieses Muster später wiederfinden und so feststellen, dass der Text von einer KI stammt.

Hier noch eine vereinfachte Übersicht, wie das Ganze funktioniert.

Wenn du etwas mehr darüber erfahren möchtest, wie diese Wasserzeichen funktionieren, kannst du das in meinem Artikel: Wie Claude KI-Texte erkennen kann nachlesen.

Grenzen der Erkennung

OpenAI weist offen darauf hin, dass die Technik nicht perfekt ist. Die Erkennungsrate hängt stark von der Länge des Textes ab:

Ein weiteres Problem ist die Bearbeitung. Sobald ein Text nachträglich verändert wird, wird die Erkennung deutlich schwieriger. In einem Test wurde gezeigt, dass die Erkennungsrate von 92 Prozent auf nur noch 17 Prozent sank, wenn lediglich 25 Prozent der Wörter durch Synonyme ersetzt wurden.

Verfügbarkeit und Erkennung

Der Detektor für diese Wasserzeichen ist vorerst nicht öffentlich zugänglich. Nur ausgewählte Forscher und Fachorganisationen erhalten Zugriff darauf.

OpenAI betont zudem einen wichtigen Punkt: Ein gefundenes Wasserzeichen ist kein definitiver Beweis dafür, wer den Text geschrieben hat oder wie viel menschliche Arbeit darin steckt. Umgekehrt bedeutet ein fehlendes Wasserzeichen auch nicht, dass ein Text zwingend von einem Menschen stammt.

Was bedeutet das für uns?

Wichtig für die Praxis ist eine klare Einordnung. Es handelt sich hierbei nicht um einen magischen „KI-Detektor“, der die Herkunft jedes Textes lückenlos aufdeckt. Auch wenn das Wasserzeichen eine technische Neuerung darstellt, bedeutet es nicht, dass KI-Texte nun zweifelsfrei identifizierbar sind.

Da bereits kleine manuelle Änderungen oder eine Übersetzung das Erkennungsmuster stören können, bleibt die Identifizierung von KI-Inhalten eine große Herausforderung.

Was ist eigentlich, wenn ich ChatGPT zur Textkorrektur, bzw. Rechtschreibprüfung nehme?

Da die KI bei einer solchen Aufgabe Sätze oft komplett neu formuliert, würde sie technisch gesehen neuen Text „generieren“. Das bedeutet, dass auch diese korrigierten Passagen das Wasserzeichen erhalten könnten.

Ich würde sagen, die Kennzeichnung ist kein Mittel, um die Urheberschaft eines Textes präzise zu bestimmen. Sie zeigt lediglich auf, dass ein KI-Modell die Wortwahl für den Text erzeugt hat.

Was meinst du? Schreib es in die Kommentare. Es würde mich freuen.

Kommentare

Zur Zeit gibt es noch keinen Kommentar zu diesem Thema. Das ist deine Chance 😉