Automatisierte KI-Systeme können innerhalb kurzer Zeit große Mengen vermeintlicher Schwachstellen aufspüren. Doch wie hilfreich sind solche Hinweise, wenn Menschen anschließend jede einzelne Meldung aufwendig überprüfen müssen?
Apple reagiert auf die wachsende Zahl KI-generierter Sicherheitsberichte und führt eine Obergrenze für Einreichungen pro Person ein. Sobald dieses Limit erreicht ist, beginnt eine 30-tägige „Cool-off-Phase“. Während dieses Zeitraums können keine weiteren Schwachstellen gemeldet werden.
Auslöser ist die zunehmende Flut automatisch erzeugter Berichte. Nicht jeder davon beschreibt tatsächlich eine Sicherheitslücke. Auch bei der Analyse von Cyberrisiken können KI-Systeme unzutreffende oder erfundene Ergebnisse liefern. Dennoch müssen Fachleute jede Meldung prüfen, bewerten und gegebenenfalls nachvollziehen. Der Aufwand verlagert sich dadurch von der Suche nach Schwachstellen auf die Kontrolle der eingereichten Hinweise.
Das Problem betrifft nicht nur Apple. Berichten zufolge hat auch Microsoft Schwierigkeiten, mit der Menge KI-generierter Sicherheitsmeldungen Schritt zu halten.
Kritische Hinweise sollen Apple weiterhin erreichen
Damit wichtige Schwachstellen nicht an der Begrenzung scheitern, soll eine Erhöhung des persönlichen Einreichungslimits beantragt werden können. Gleichzeitig verschärft Apple die Maßnahmen gegen wiederholt minderwertige Meldungen: Wer häufiger mit sogenanntem „AI Slop“ auffällt, kann zunächst für 180 Tage und später dauerhaft gesperrt werden.
Grundsätzlich bleibt Apple an externen Sicherheitsmeldungen interessiert. Im Rahmen des eigenen Security-Bounty-Programms zahlt das Unternehmen für besonders wichtige Hinweise bis zu zwei Millionen US-Dollar. Durch zusätzliche Boni kann die Prämie auf bis zu fünf Millionen US-Dollar steigen.
Andere Projekte suchen ebenfalls nach einem geeigneten Umgang mit der neuen Situation. Node.js hat sein Bug-Bounty-Programm inzwischen eingestellt und diskutiert, wie künftig mit der wachsenden Zahl LLM-generierter Meldungen umgegangen werden soll.
Für Sicherheitsforscher und Unternehmen wird damit die Qualität der eingesetzten KI-Verfahren wichtiger. Automatisierte Schwachstellensuche kann Analysen beschleunigen, liefert aber nur dann einen praktischen Mehrwert, wenn Ergebnisse vor der Einreichung nachvollziehbar geprüft und priorisiert werden.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.