Kurz gesagt: Mit ISO/IEC 27090 haben ISO und IEC einen Leitfaden zu KI-spezifischen Cyberangriffen und Gegenmaßnahmen veröffentlicht. Die Norm ergänzt bestehende Sicherheitsstandards, ermöglicht jedoch keine Zertifizierung und begründet keine Konformitätsvermutung nach EU-Recht.
KI-Systeme bringen Sicherheitsrisiken mit sich, die klassische IT-Schutzmaßnahmen nicht vollständig abdecken. Doch wie lassen sich gezielte Angriffe auf KI-Modelle, Trainingsdaten und Machine-Learning-Prozesse erkennen und abwehren?
Nach rund vier Jahren Normungsarbeit haben ISO und IEC die 56-seitige ISO/IEC 27090 veröffentlicht. Entwickelt wurde sie vom Unterkomitee JTC 1/SC 27, das auch die bekannte ISO/IEC-27000-Normenreihe verantwortet.
KI-spezifische Angriffsmethoden im Überblick
Der Leitfaden beschreibt unterschiedliche Angriffsklassen und geeignete Schutzmaßnahmen. Dazu zählen Data Poisoning zur Manipulation von Trainingsdaten, Veränderungen von Modellgewichten sowie Evasion-Angriffe, bei denen präparierte Eingaben das Verhalten von KI-Modellen beeinflussen.
Weitere Bedrohungen sind Model Extraction über Modellschnittstellen, Membership Inference, Model Inversion und Prompt Injection. Auch Angriffe über generierte Modellausgaben werden berücksichtigt.
Zwei Anhänge ergänzen die Empfehlungen: Einer ordnet die Bedrohungen den Phasen des KI-Lebenszyklus und betroffenen Ressourcen zu. Der andere erläutert, wie sich bekannte Cyberangriffe speziell gegen KI-Systeme richten können.
Ergänzung bestehender Sicherheitsstandards
ISO/IEC 27090 baut auf den etablierten Normen ISO/IEC 27001 und 27002 auf. Sie verdeutlicht, welche klassischen Sicherheitsmaßnahmen weiterhin greifen und wo zusätzliche Schutzvorkehrungen für Modelle, Trainingsdaten und ML-Pipelines notwendig sind.
Damit ergänzt sie auch die zertifizierbare KI-Managementsystem-Norm ISO/IEC 42001. Deren Anhang A fordert Sicherheitsmaßnahmen für KI-Systeme, benennt jedoch keine konkreten Angriffsmethoden. Diese Lücke adressiert ISO/IEC 27090.
Eine eigenständige Zertifizierung nach ISO/IEC 27090 ist allerdings nicht möglich, da es sich um einen Leitfaden ohne Anforderungscharakter handelt.
Keine unmittelbaren Auswirkungen auf EU-Vorgaben
Für europäische KI-Anbieter ändert die neue Norm zunächst nichts an den rechtlichen Anforderungen. Weder nach der EU-KI-Verordnung noch nach dem Cyber Resilience Act entsteht durch ISO/IEC 27090 eine Konformitätsvermutung.
Parallel entwickelt CEN/CENELEC JTC 21 die harmonisierte Norm prEN 18282 zur Cybersicherheit von KI-Systemen. ETSI hat bereits die technische Spezifikation TS 104 223 veröffentlicht. Eine systematische Zuordnung zwischen den drei Dokumenten fehlt bislang.
Auch ISO/IEC 27091 zum Datenschutz in KI-Systemen befindet sich noch im Final-Draft-Stadium.
Grenzen und praktische Bedeutung
Die Entwicklung von ISO/IEC 27090 begann im September 2022. Im Januar 2024 folgte der Committee Draft, die DIS-Abstimmung endete im Juli 2025.
Eine Einschränkung der Erstausgabe betrifft agentische KI-Systeme mit Zugriff auf externe Werkzeuge. Diese werden bislang nur am Rande behandelt.
Die Norm ist ausschließlich auf Englisch erhältlich und kostet 204 Schweizer Franken, sowohl als PDF als auch in gedruckter Form.
Für Organisationen, die KI-Systeme entwickeln oder einsetzen, bietet ISO/IEC 27090 eine strukturierte Orientierung zur Bewertung spezifischer Sicherheitsbedrohungen. Sie ersetzt keine bestehenden Sicherheitsstandards, unterstützt jedoch deren gezielte Ergänzung um KI-bezogene Schutzmaßnahmen.
Welche weiteren Standards und Sicherheitsanforderungen für den verantwortungsvollen KI-Einsatz relevant werden, erfahren Sie im Newsletter „Beratung-KI“.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.