Eine kürzlich entdeckte Schwachstelle lässt aufhorchen: Verschlüsselte KI-Antworten sind nicht so sicher, wie wir dachten.
In einer bemerkenswerten Studie haben israelische Forscher aufgezeigt, wie Seitenkanalangriffe genutzt werden können, um verschlüsselte Antworten von Chat-KIs abzuhören. Das Besondere an diesem Angriff ist, dass er sich die Eigenheiten der KI-Kommunikation zunutze macht. Durch die Analyse der Wortlängen in den verschlüsselten Nachrichten, die wortweise übermittelt werden, gelang es den Forschern, 29% der KI-Antworten exakt und 55% sinngemäß zu rekonstruieren. Damit können Angreifer nicht nur das Thema des Gesprächs herausfinden, sondern auch spezifische Informationen aus den Antworten extrahieren. Interessanterweise betrifft diese Sicherheitslücke eine Vielzahl von Sprach-KIs, darunter Produkte von namhaften Unternehmen wie OpenAI, Microsoft und Anthropic. Google’s Bard ist von dieser Problematik ausgenommen, da es keine einzelnen Wörter verschickt. Als Gegenmaßnahme führen nun Unternehmen wie OpenAI und Cloudflare Padding-Methoden ein, um die Datenpakete aufzufüllen und so die Analyse durch Angreifer zu erschweren.