Künstliche Intelligenz beschleunigt die Softwareentwicklung massiv – doch genau darin liegt ein wachsendes Problem.
Was passiert, wenn Code schneller entsteht, als ihn ein Team wirklich durchdringen kann?
Thoughtworks schlägt in seinem aktuellen Technology Radar Alarm: Nicht der Code selbst wird zum Problem, sondern das Verständnis darüber. Während KI-Systeme heute in rasantem Tempo neue Codezeilen produzieren, entsteht eine unsichtbare Last – sogenannte „kognitive Schulden“. Diese sitzen nicht im System, sondern in den Köpfen der Entwickler. Und genau dort wird es kritisch.
Der eigentliche Engpass verschiebt sich damit deutlich. Früher ging es darum, Code effizient zu schreiben. Heute liegt die Herausforderung darin, ihn überhaupt noch nachvollziehen und validieren zu können. Teams verlieren zunehmend den Überblick über ihre eigenen Systeme, weil KI-generierter Code schneller wächst, als gemeinsames Wissen aufgebaut werden kann.
Thoughtworks macht dabei klar: Das ist kein reines Technologieproblem. Es ist ein methodisches. Wer KI sinnvoll einsetzen will, braucht neue – oder besser gesagt: wiederentdeckte – Engineering-Prinzipien. Strukturierte Prozesse, saubere Spezifikationen und klare Kontrollmechanismen werden zur Pflicht.
Ein zentraler Ansatz sind sogenannte „Harnesses“. Diese fungieren als Leitplanken für KI-Agenten. Sie greifen entweder vor der Ausführung ein – etwa durch klare Vorgaben und Spezifikationen – oder danach, indem sie Ergebnisse automatisch prüfen und korrigieren. So entsteht ein System, das sich teilweise selbst überwacht, bevor überhaupt ein Mensch eingreifen muss.
Parallel dazu rückt das Thema Sicherheit stärker in den Fokus. KI-Agenten arbeiten zunehmend mit sensiblen Daten und greifen auf externe Systeme zu. Thoughtworks empfiehlt daher konsequent Zero-Trust-Architekturen: kein Vertrauen ohne Prüfung, minimale Zugriffsrechte und zusätzliche Sicherheitsebenen. Gerade im Kontext von Datenschutzanforderungen wie der DSGVO ist das ein entscheidender Faktor.
Spannend ist auch der Blick auf die Messbarkeit. Klassische Kennzahlen wie die DORA-Metriken gewinnen wieder an Bedeutung. Sie helfen, den Überblick zu behalten und die steigende Komplexität greifbar zu machen – ein wichtiger Gegenpol zur wachsenden Unübersichtlichkeit durch KI.
KI macht Entwicklung schneller, aber nicht automatisch besser. Wer die Vorteile nutzen will, muss das Fundament stärken. Verstehen, testen und kontrollieren werden wichtiger als je zuvor.