Kurz gesagt: Privacy Gateway soll personenbezogene Daten und Geschäftsgeheimnisse aus KI-Anfragen entfernen, bevor sie ChatGPT oder andere Sprachmodelle erreichen. Für Unternehmen zeigt der Ansatz, wie sich generative KI mit technischen Datenschutzmechanismen sicherer einsetzen lässt.
KI-Werkzeuge wie ChatGPT, Perplexity oder Copilot sind längst im Arbeitsalltag angekommen. Doch was passiert, wenn in Prompts unbemerkt personenbezogene Daten oder Geschäftsgeheimnisse landen? Ein Forschungsprojekt der Fernuniversität Hagen setzt genau dort an und will sensible Informationen entfernen, bevor sie ein KI-Modell erreichen.
Laut einer repräsentativen Bitkom-Umfrage nutzt rund ein Drittel der Menschen in Deutschland mindestens einmal pro Woche KI. Häufig geht es darum, E-Mails zu formulieren oder umfangreiche Dokumente auszuwerten. Dabei können jedoch Informationen an Technologieanbieter aus den USA oder China übermittelt werden, die auf den ersten Blick harmlos erscheinen, in Kombination aber Rückschlüsse auf einzelne Personen ermöglichen.
Für Unternehmen ist das besonders relevant: Eingaben können nicht nur eigene Daten enthalten, sondern auch Informationen über Kollegen, Kunden oder Familienmitglieder, die einer Weitergabe nicht zugestimmt haben. Damit können Datenschutzvorgaben berührt werden. Hinzu kommt, dass Eingaben teilweise zum weiteren Training von KI-Modellen verwendet werden können.
Kontext statt einfacher Schlagwortfilter
Pascal Tippe von der Fernuniversität Hagen hat gemeinsam mit Masterstudent Michael Maximilian Grötzner deshalb den Prototyp „Privacy Gateway“ entwickelt. Das System sitzt als Vermittler zwischen Nutzer und Sprachmodell, erkennt sensible Inhalte und entfernt sie, bevor die eigentliche Anfrage weitergeleitet wird.
Anders als klassische Filter, die beispielsweise bestimmte Begriffe oder Zahlenfolgen schwärzen, berücksichtigt Privacy Gateway den Zusammenhang einer Anfrage. Grundlage dafür ist ein sogenanntes Codebook. Darin wurden unter anderem Definitionen aus Artikel 4 und Artikel 9 der Datenschutz-Grundverordnung sowie Vorgaben zum deutschen Geschäftsgeheimnis in konkrete Anweisungen für das System übersetzt. Dadurch soll der Filter nicht nur sensible Informationen erkennen, sondern auch einordnen können, warum sie geschützt werden müssen.
Ein vollständiges Verbot generativer KI hält das Forschungsteam dagegen nicht für sinnvoll. Neben möglichen Produktivitätseinbußen besteht die Gefahr, dass Beschäftigte entsprechende Werkzeuge trotzdem weiterverwenden. Technische Schutzmechanismen könnten daher einen Mittelweg zwischen praktischer KI-Nutzung und Datenschutz schaffen.
Datenschutz kann die Antwortqualität beeinflussen
Tests mit unterschiedlichen Alltagsszenarien zeigen allerdings auch Grenzen des Ansatzes. Werden viele personenbezogene Informationen aus einem Prompt entfernt, können zugleich Details verloren gehen, die für eine gute Antwort notwendig wären. Als Beispiel nennt Tippe umfangreiche medizinische Diagnosen, bei denen starke Anonymisierung relevante Zusammenhänge beeinträchtigen kann.
Damit wird Privacy Gateway nicht zu einer pauschalen Lösung für jede KI-Anwendung. Der Ansatz verdeutlicht vielmehr, dass Datenschutz bereits vor der Übertragung an ein Sprachmodell technisch berücksichtigt werden kann – gleichzeitig aber zwischen Schutzbedarf und benötigtem Kontext abgewogen werden muss.
Weitere Entwicklungen rund um sichere und verantwortungsvolle KI-Nutzung ordnen wir im Newsletter „Beratung-KI“ praxisnah für Unternehmen und Anwender ein.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.