Eine neue KI-Funktion sollte Google Earth um kreative Visualisierungen erweitern. Doch was geschieht, wenn manipulierte Bilder trotz Kennzeichnung wie glaubwürdige Satellitenaufnahmen wirken?
Google hat die erst kurz zuvor eingeführte Bildgenerierung in Google Earth wieder deaktiviert. Mit dem hauseigenen KI-Modell Nano Banana konnten Nutzer beliebige Darstellungen erzeugen. Vorgesehen war die Funktion unter anderem für dreidimensionale Rekonstruktionen antiker Stätten, die Visualisierung von Bauprojekten und zusätzliche Informationsebenen.
Die generierten Bilder waren nicht öffentlich zugänglich und enthielten einen KI-Hinweis. Journalisten der BBC konnten diese Kennzeichnung jedoch umgehen – teilweise genügte die Aufforderung an das Modell, das Bild als echt darzustellen. Auf diese Weise entstanden realistisch wirkende Screenshots eines umgekippten Eiffelturms, einer im Boden versunkenen Pyramide von Gaza oder eines öffentlichen Parks vor dem Weißen Haus.
Besonders problematisch ist der vertraute Kontext von Google Earth. Denkbar waren laut dem von der BBC zitierten Fake-News-Experten Henk van Ess auch Darstellungen nicht existierender Atommeiler im Iran, eines Flüchtlingslagers nahe der US-Grenze oder eines Bombenkraters neben einem Krankenhaus in Gaza. Solche Bilder könnten im politischen Umfeld erhebliche Wirkung entfalten, weil sie den Anschein einer seriösen geografischen Quelle erwecken.
Selbst von der BBC eingesetzte KI-Erkennungswerkzeuge identifizierten einige der Fälschungen nicht zuverlässig. Google erklärte, dass Nutzer Screenshots geteilt hätten, die offenbar gegen die eigenen Richtlinien verstießen. Das Unternehmen arbeitet nun an einer neuen Version mit strengeren Schutzmechanismen.
Der Fall zeigt, dass sichtbare KI-Hinweise allein nicht ausreichen, wenn sie entfernt oder beim Teilen von Screenshots abgeschnitten werden können. Für Anbieter und Unternehmen wird daher entscheidend, Schutzmechanismen nicht nur in der Benutzungsoberfläche, sondern auch technisch im erzeugten Material zu verankern.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.