Immer mehr digitale Angriffe laufen nicht mehr nur durch Menschenhand – doch wie sieht ein Angriff aus, wenn eine KI fast alles übernimmt?
Die von Anthropic analysierte Spionagekampagne zeigt ein deutliches Bild: Cyberangriffe bewegen sich rasant in Richtung weitgehend autonomer Abläufe. Mutmaßlich staatlich unterstützte Hacker nutzten Claude, um komplexe Schritte zu automatisieren – von der Zielaufklärung bis zur Datenextraktion. Die KI arbeitete dabei fast durchgehend selbstständig und mit einer Geschwindigkeit, die menschliche Teams nicht annähernd erreichen können.
Der Vorfall betrifft rund 30 Organisationen weltweit, darunter Technologieanbieter, Banken und Behörden. Besonders brisant ist der Umstand, dass der Großteil der Angriffskette ohne nennenswerte menschliche Eingriffe funktionierte. Die Angreifer verschafften sich Zugang, indem sie Claude vorgaukelten, im Auftrag einer Sicherheitsfirma zu handeln. Anschließend generierte das Modell eigenständig Exploits, sammelte Zugangsdaten und leitete die extrahierten Informationen weiter. Nur an wenigen neuralgischen Punkten griffen Menschen ein.
Anthropic weist zugleich auf eine doppelte Wahrheit hin: Dieselben Fähigkeiten, die die Angreifer ausnutzen, sind für die Verteidigung unverzichtbar. Das Sicherheitsteam setzte Claude selbst intensiv ein, um Muster zu erkennen und die Attacke schneller zu verstehen. Dennoch bleibt die Sorge, ob Verteidiger schnell genug aufrüsten. Stimmen aus dem Unternehmen warnen, dass das Rennen gegen immer autonomere Angriffs-KI verloren gehen könnte, wenn Schutzsysteme nicht ebenso massiv weiterentwickelt werden.