Kurz gesagt: OpenAI will mit dem Wasserzeichen Textgrain KI-generierte Texte künftig besser erkennbar machen. In der Europäischen Union soll das Verfahren in ChatGPT und Codex integriert werden. Die Erkennung funktioniert jedoch nicht zuverlässig bei allen Textarten und lässt sich durch nachträgliche Veränderungen deutlich abschwächen.
OpenAI reagiert mit Textgrain auf die Transparenzanforderungen des europäischen AI Act. Das Verfahren soll KI-generierte Texte markieren, ohne dass Menschen beim Lesen einen sichtbaren Unterschied bemerken. Doch wie belastbar ist ein solches Wasserzeichen in der Praxis?
Textgrain verändert statistisch die Wahrscheinlichkeit, mit der bestimmte Wörter von einem Sprachmodell verwendet werden. Spezielle Erkennungssoftware kann diese Muster anschließend untersuchen und daraus ableiten, ob ein längerer Text wahrscheinlich von einem Large Language Model stammt.
Anders als bei Anthropic soll das Wasserzeichen bei OpenAI allerdings nicht weltweit zum Standard werden. In der Europäischen Union ist die Integration in ChatGPT und das Programmiermodell Codex für die kommenden Wochen vorgesehen. Zahlende API-Kunden können Textgrain weltweit verwenden, müssen die Funktion jedoch ausdrücklich aktivieren. Dies gilt laut OpenAI offenbar auch für API-Ausgaben innerhalb der EU.
Erkennung hängt stark von Textlänge und Inhalt ab
Zunächst erhalten nur ausgewählte Forscher und Organisationen auf Antrag Zugriff auf das Erkennungssystem. Sie sollen die Wirksamkeit untersuchen und OpenAI bei der Weiterentwicklung unterstützen. Langfristig ist eine Veröffentlichung von Textgrain als Open Source vorgesehen.
Die Zuverlässigkeit steigt mit der Länge eines Textes und unterscheidet sich deutlich nach Textart. Bei einer angenommenen Falsch-Positiv-Rate von einem Prozent nennt OpenAI für Psychologie-Texte eine Erkennungsrate von 78,5 Prozent bei 200 Token, 89,7 Prozent bei 300 Token und 94,3 Prozent bei 400 Token.
Bei mathematischen Texten fallen die Werte deutlich niedriger aus: 36,5 Prozent bei 200 Token, 52 Prozent bei 300 Token und 60,8 Prozent bei 400 Token. Als Grund nennt OpenAI die geringere Flexibilität bei der Wortwahl. Die Textqualität soll durch Textgrain hingegen kaum beeinträchtigt werden.
Wasserzeichen lässt sich abschwächen
Textgrain ermöglicht keine Rückführung auf einen bestimmten Benutzer. Auch Aussagen darüber, welcher Anteil eines Textes von einem Menschen stammt, wem Rechte daran gehören, wer verantwortlich ist oder ob der Inhalt korrekt ist, lassen sich daraus nicht ableiten.
Ebenso beweist ein fehlendes Wasserzeichen keine menschliche Autorenschaft. Die Erkennung kann scheitern oder ein Text kann mit einem Modell eines anderen Anbieters erzeugt worden sein.
Hinzu kommt, dass sich das Verfahren durch Bearbeitung abschwächen lässt. Übersetzungen, die Mischung mit anderen Textquellen oder der Austausch einzelner Wörter können die Erkennungsrate deutlich reduzieren. Wird jedes zehnte Wort durch ein Synonym ersetzt, sinkt sie laut OpenAI von 92 auf 66 Prozent. Beim Austausch jedes vierten Wortes fällt sie sogar auf 17 Prozent.
Damit kann Textgrain einen zusätzlichen Hinweis auf KI-generierte Inhalte liefern, ersetzt aber keine eindeutige Herkunftsprüfung. Für Unternehmen und Organisationen, die mit KI-generierten Inhalten arbeiten, bleibt deshalb entscheidend, technische Kennzeichnungen im Zusammenhang mit ihren jeweiligen Grenzen zu betrachten.
Der Newsletter „Beratung-KI“ ordnet regelmäßig Entwicklungen rund um KI-Systeme, Regulierung und den praktischen Einsatz künstlicher Intelligenz ein.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.