KI-Programmierhilfen versprechen schnellere Entwicklung. Doch was passiert, wenn der erzeugte Code schneller in Richtung Produktivbetrieb wandert, als Tests und Kontrollprozesse ihn zuverlässig absichern können?
Eine Umfrage des Software-Unternehmens CloudBees zeigt, dass genau diese Lücke für viele Unternehmen inzwischen zum praktischen Problem wird. Befragt wurden mehr als 200 Führungskräfte aus dem Technologiebereich zum Einsatz von KI in ihren Unternehmen. 81 Prozent berichteten von Problemen nach der Bereitstellung, die mit KI-generiertem Code zusammenhängen. Dazu zählen Funktionsfehler, Sicherheitslücken und Performanceprobleme. 63 Prozent nannten zudem Compliance-Verstöße, die durch KI verursacht worden seien und teilweise ebenfalls den produktiven Geschäftsbetrieb erreicht hätten.
Der Engpass liegt offenbar nicht allein beim Code selbst, sondern zunehmend bei seiner Validierung. Laut CloudBees verstärkten 62 Prozent der Befragten ihre automatischen Tests, 30 Prozent ergänzten zusätzliche manuelle Prüfschritte. Dennoch glaubt nur etwa die Hälfte, dass formale Überprüfungsprozesse für KI-Code im eigenen Unternehmen tatsächlich immer angewendet werden. Für viele Teams ist die Betreuung der Testumgebung inzwischen belastender als das Schreiben des Codes selbst.
Die Umfrage fügt sich in eine Reihe weiterer Hinweise auf Qualitätsprobleme bei KI-gestützter Softwareentwicklung ein. Bei Amazon gab es bereits wiederholt Schwierigkeiten, die auf Code von KI-Assistenten zurückgeführt wurden. Auch die GitClear-Studie „Coding on Copilot“ deutet darauf hin, dass der wachsende Einsatz von KI-Programmierhilfen die Codequalität beeinträchtigen könnte. Das Fraunhofer-Institut für Experimentelles Software Engineering hebt laut aktuellen Studien ebenfalls hervor, wie wichtig neue und gründliche Kontrollmechanismen für KI-Code sind. Ohne solche Verfahren steigt das Risiko, dass Fehler unbemerkt in produktive Systeme gelangen.
Ein technischer Grundkonflikt liegt im fehlenden Determinismus generativer KI-Modelle. Klassisches Software-Engineering baut auf Systemen auf, die bei identischen Eingaben identische Ergebnisse liefern. Generative KI arbeitet dagegen probabilistisch. Sie kann selbst bei gleichbleibender Logik unterschiedliche Varianten desselben Codes erzeugen. In Entwicklungsumgebungen, in denen hundertprozentige Genauigkeit entscheidend ist, wird dieses stochastische Verhalten schnell zum Risiko — insbesondere bei sicherheitskritischer Software.