Kurz gesagt: Bei einem genehmigten Sicherheitstest bei Anthropic gelangten Forscher des Start-ups Cathedral mithilfe von KI-Agenten über Schwachstellen in externer Geschäftssoftware an sensible Unternehmensdaten. Kundengespräche mit Claude, Quellcode und KI-Modelle blieben nach Angaben von Anthropic geschützt. Der Vorfall verdeutlicht Sicherheitsrisiken durch Anwendungen von Drittanbietern.
Wie sicher sind Unternehmensdaten, wenn die eigene IT geschützt ist, aber externe Geschäftsanwendungen Schwachstellen aufweisen? Ein Sicherheitstest beim KI-Unternehmen Anthropic zeigt, dass auch alltägliche Software für Verwaltung und Vertrieb zum Einfallstor werden kann.
KI-Agenten finden Schwachstellen innerhalb weniger Stunden
Das Sicherheits-Start-up Cathedral setzte KI-Agenten ein, um mögliche Zugangswege zu internen Systemen von Anthropic aufzuspüren. Zunächst hatten die Forscher mehrere Tage lang erfolglos versucht, direkt in die Software des Unternehmens einzudringen.
Anschließend untersuchten sie externe Anwendungen, die Anthropic für geschäftliche Abläufe nutzt. Innerhalb von weniger als zwölf Stunden fanden die KI-Agenten Wege zu sensiblen Informationen, darunter Besprechungsprotokolle, Gehaltsangaben und Slack-Nachrichten über fortgeschrittene KI-Modelle.
Darüber berichtete die Washington Post unter Berufung auf einen Entwurf des Cathedral-Berichts. Die Namen der betroffenen Softwareanbieter wurden aus Sicherheitsgründen nicht veröffentlicht.
Welche Unternehmensdaten waren betroffen?
Anthropic bestätigte, dass die Forscher auf begrenzte Bereiche seiner Vertriebs-, Personal- und IT-Systeme zugreifen konnten. Dazu gehörten geschäftliche Kontaktdaten einiger Kunden und Partner sowie grundlegende Informationen einzelner Nutzerkonten.
Nicht betroffen waren nach Unternehmensangaben:
- Kundengespräche mit dem KI-Assistenten Claude
- Antworten des Chatbots
- Quellcode der Software
- Modellgewichte der KI-Systeme
Anthropic deaktivierte die betroffenen Geschäftsanwendungen vorübergehend. Erst nachdem die jeweiligen Anbieter die Sicherheitslücken geschlossen hatten, wurden sie wieder aktiviert.
Die unternehmenseigene Sicherheitsüberwachung hatte einen Teil der Aktivitäten bereits vor der offiziellen Meldung erkannt. Hinweise darauf, dass andere Akteure die Schwachstellen ausgenutzt haben, liegen laut Anthropic nicht vor.
Unterschiedliche Auffassungen über den Sicherheitstest
Die Untersuchung fand im Rahmen eines Programms statt, bei dem Anthropic externe Sicherheitsforscher gezielt nach Schwachstellen suchen lässt. Cathedral informierte sowohl Anthropic als auch die betroffenen Softwareanbieter über die Ergebnisse.
Allerdings kritisiert Anthropic, dass Cathedral nicht sämtliche Aktivitäten innerhalb der Systeme offengelegt und damit die Programmregeln nicht vollständig eingehalten habe. Das von ehemaligen Mitarbeitern der US-Regierungsinitiative DOGE gegründete Start-up erklärte dagegen, Datenzugriffe auf das notwendige Minimum beschränkt zu haben.
Der Fall macht deutlich, dass die Sicherheit einer KI-Plattform nicht allein von ihren eigenen Schutzmaßnahmen abhängt. Auch angebundene Geschäftssoftware kann Zugang zu vertraulichen Informationen ermöglichen. Für Unternehmen ist deshalb die Absicherung externer Anwendungen ein wesentlicher Bestandteil ihrer IT-Sicherheitsstrategie.
Welche weiteren Entwicklungen rund um KI-Sicherheit, Datenschutz und den verantwortungsvollen Einsatz künstlicher Intelligenz wichtig werden, beleuchtet der Newsletter Beratung-KI regelmäßig mit aktuellen Nachrichten und praxisnahen Einordnungen.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.