Künstliche Intelligenz ist längst im Unternehmensalltag angekommen. Doch wer behält eigentlich noch den Überblick?
Microsoft schlägt in seinem aktuellen „Cyber Pulse Report“ deutliche Töne an: Bereits mehr als 80 Prozent der Fortune-500-Unternehmen setzen KI-Programmierassistenten ein. Das klingt nach Fortschritt – ist aber gleichzeitig ein Warnsignal. Denn viele Organisationen verfügen offenbar nicht über klare Richtlinien oder belastbare Sicherheitsstrukturen für den Einsatz dieser Systeme. Innovation rast, Governance hinkt hinterher.
Besonders kritisch ist das Phänomen der sogenannten Schatten-KI. Mitarbeitende integrieren eigenständig KI-Tools oder autonome Agenten aus dem Internet in ihre Arbeitsprozesse – ohne Wissen oder Freigabe durch IT- oder Sicherheitsabteilungen. Was kurzfristig Effizienzgewinne verspricht, schafft langfristig Intransparenz. Laut Bericht haben nur 47 Prozent der Unternehmen spezifische Sicherheitskontrollen für generative KI etabliert. Gleichzeitig nutzen 29 Prozent der Beschäftigten nicht autorisierte KI-Agenten. Das Resultat: blinde Flecken in der Sicherheitsarchitektur.
Microsoft warnt zudem vor überhasteter Implementierung. Werden KI-Agenten ohne saubere Compliance- und Sicherheitsprüfung ausgerollt, können Berechtigungsmodelle unterlaufen werden. Agenten mit zu weitreichendem Zugriff entwickeln sich schnell zur potenziellen Schwachstelle. Besonders alarmierend: Das Defender-Team von Microsoft hat kürzlich eine reale Angriffskampagne identifiziert, bei der Angreifer mittels „Memory Poisoning“ gezielt den Speicher von KI-Assistenten manipulierten. Die Folge sind dauerhaft verfälschte Ergebnisse – ein Risiko, das weit über theoretische Szenarien hinausgeht.
Die empfohlene Gegenstrategie ist klar strukturiert: minimal notwendige Datenzugriffe, ein zentrales Register aller eingesetzten KI-Agenten, Transparenz über Zuständigkeiten und konsequente Isolation nicht genehmigter Systeme. Wer KI produktiv einsetzen will, muss sie ebenso professionell steuern.