Google DeepMind hat angekündigt, SynthID, ein Tool zur Kennzeichnung von KI-Inhalten, öffentlich zugänglich zu machen. Was bedeutet das für die Erkennung von KI-generierten Texten und Medien?
Google DeepMind hat ein neues Open-Source-Tool namens SynthID vorgestellt, das Entwicklern und Unternehmen ermöglicht, KI-generierte Inhalte zu kennzeichnen. Dabei geht es nicht nur um Texte, sondern auch um Bilder, Videos und Audio-Dateien, die durch ein unsichtbares Wasserzeichen markiert werden. Dieses Wasserzeichen soll es erleichtern, KI-Inhalte zu erkennen, ohne die Qualität der generierten Inhalte zu beeinträchtigen. Aktuell befindet sich SynthID noch in der Beta-Phase, bietet aber bereits eine breite Anwendungsmöglichkeit für den Einsatz in der KI-Entwicklung.
Wie funktioniert SynthID?
SynthID nutzt die Mechanismen von Large Language Models (LLMs), um Wahrscheinlichkeitswerte von Tokens, wie Buchstaben und Wörtern, zu manipulieren. So entsteht ein für Maschinen sichtbares Muster, das als Wasserzeichen dient. Diese Technologie kann bereits bei kurzen Texten mit nur drei Sätzen verwendet werden, wobei die Präzision und Stabilität mit der Länge des Textes zunimmt.
Google hat ein großes Interesse daran, die Verbreitung von KI-Inhalten zu kontrollieren, da generative KI das Internet mit automatisch erstellten Inhalten überflutet. Um diesem Problem zu begegnen, führte Google bereits ein „Helpful Content Update“ durch, um KI-Spam besser erkennen zu können. Dazu wurden auch neue Richtlinien eingeführt, die automatisch generierte Inhalte ohne Mehrwert verbieten.
Unsichtbares Wasserzeichen für Medieninhalte
Bilder und Videos können durch ein unsichtbares Wasserzeichen in den Pixeln markiert werden, das für das menschliche Auge nicht wahrnehmbar ist. Diese Methode soll verhindern, dass das Wasserzeichen durch einfache Bearbeitungen wie das Erstellen von Screenshots oder das Zuschneiden von Bildern entfernt wird. Auch Videos profitieren von der gleichen Technologie, wobei die Pixel jedes einzelnen Frames verändert werden. SynthID ist über Vertex AI für Nutzer von Googles Bildgeneratoren Imagen 2 und 3 verfügbar, sowie für ImageFX und VEO, die Video-KI-Anwendungen. Zudem kann das Tool auch verwendet werden, um die Herkunft von Bildern zu prüfen und zu erkennen, ob sie mit Googles Tools erstellt wurden. Dies ist sogar über die Google-Suche und in Chrome möglich.