Die Einführung von KI-Chatbots in vielen Unternehmen verspricht eine Vereinfachung von Arbeitsprozessen, doch der Weg dorthin ist nicht ohne Herausforderungen.
Der innovative Einsatz von KI in der IT-Branche
Viele Unternehmen setzen zunehmend auf KI-Chatbots, um ihre Arbeitsabläufe zu optimieren. Gleichzeitig gibt es Hemmnisse und Bedenken, insbesondere in Bezug auf Datenschutz und Sicherheit. Dies gilt besonders für Branchen wie Finanzdienstleistungen und Healthcare, wo der Umgang mit sensiblen Daten unerlässlich ist. Ein Forschungsprojekt der Hochschule Weserbergland (HSW) in Kooperation mit AirITSystems aus Langenhagen hat genau diese Herausforderungen untersucht und versucht, Lösungen zu finden.
Ein maßgeschneiderter Ansatz für sichere KI-Anwendungen
Das Ziel des Forschungsprojekts war die Entwicklung eines Chatbot-Prototyps, der IT-Spezialisten im Arbeitsalltag unterstützen kann. Hierbei stand die Frage im Vordergrund, wie qualitativ hochwertig ein KI-Chatbot in der Praxis tatsächlich sein kann. Wichtig war zudem die Einhaltung strenger Sicherheitsanforderungen durch den Betrieb einer gekapselten Instanz innerhalb der eigenen Systemarchitektur.
Die Studierenden prüften mehrere KI-Modelle, wobei Mistral-7B-v0.1 und Llama-2-7B-Chat-GPTQ besonders hervorstachen. Die Tests umfassten die Bewertung der Antwortqualität, Antwortzeit und Effizienz der Verarbeitung. Mistral zeigte hierbei die besten Ergebnisse, insbesondere in den Bereichen Argumentation, Mathematik und Code-Generierung.
Für die Entwicklung der Nutzerschnittstelle wurden JavaScript-Bibliotheken wie Vue.js und React eingesetzt, was zu einer positiven Benutzererfahrung beitrug. Im Backend sorgte eine Kombination aus Python, einer virtuellen Maschine und mehreren Nvidia M400 Grafikkarten für die notwendige Rechenleistung.
Praktische Erfahrungen und zukünftige Herausforderungen
Die ersten Feldtests zeigten eine hohe Benutzerakzeptanz, insbesondere aufgrund der intuitiven Bedienbarkeit des Frontends. In praktischen Anwendungen wie der Recherche nach technischen Definitionen oder der Unterstützung bei Konzeptarbeiten konnte eine Zeitersparnis von bis zu 40 Prozent erreicht werden. Jedoch wurden auch Bereiche mit Verbesserungsbedarf identifiziert, wie die Prägnanz und Relevanz der Antworten sowie die Datenbankanbindung für spezifische Themen.
Die Anbindung an firmeneigene Datenbanken stellte sich als zeitaufwendig heraus, da das Modell für jede Änderung neu trainiert werden musste. Dies zeigt, dass es noch Raum für Optimierungen gibt, beispielsweise durch den Einsatz von Retrieval Augmented Generation.
Fazit: Potenzial und Perspektiven
Der Prototyp wurde erfolgreich implementiert und stieß auf positive Resonanz bei den Anwendern. Trotz einiger Herausforderungen und notwendiger Anpassungen bietet der maßgeschneiderte KI-Chatbot eine vielversprechende Alternative zu öffentlichen KI-Diensten, die in vielen Unternehmen aufgrund von Datenschutzbedenken nicht genutzt werden dürfen.