Immer mehr Unternehmen wollen KI produktiv einsetzen – doch uneinheitliche Infrastrukturen bremsen. Mit einem neuen Standard schafft die CNCF nun die Grundlage für Portabilität und Souveränität.
Die Cloud Native Computing Foundation (CNCF) hat auf der KubeCon + CloudNativeCon North America 2025 das „Kubernetes-AI-Conformance“-Programm vorgestellt. Es soll sicherstellen, dass KI-Plattformen weltweit nach denselben technischen Prinzipien funktionieren – unabhängig vom Anbieter oder der Cloud-Umgebung. Das Programm gilt als wichtiger Schritt, um KI-Workloads verlässlich, effizient und transparent zu betreiben.
Konkret legt die CNCF fest, welche APIs, Konfigurationen und Fähigkeiten ein Kubernetes-Cluster besitzen muss, um KI- und ML-Anwendungen korrekt auszuführen. Damit entsteht erstmals ein offener technischer Standard, der die Portabilität von KI-Workloads garantiert. Unternehmen sollen künftig frei entscheiden können, ob sie ihre Modelle in der Cloud, on-premises oder an Edge-Standorten betreiben – ohne Lock-in oder teure Anpassungen.
Besonderes Augenmerk liegt auf dem effizienten Management von Beschleunigern wie GPUs, die für KI-Training unverzichtbar sind. Hier verlangt der Standard die Nutzung der Dynamic Resource Allocation (DRA), um Ressourcen dynamisch zu verteilen. Auch für die Inferenz – also den Betrieb von Modellen – schreibt das Programm moderne Gateway-APIs vor, die speziell für KI-Workloads optimiert sind.
Ein weiteres zentrales Element betrifft die Sicherheit: KI-Plattformen müssen künftig eine strikte Ressourcentrennung sicherstellen, damit sich Container-Workloads nicht gegenseitig beeinflussen. Auch Monitoring, Scheduling und Skalierung werden standardisiert, um Ausfälle zu vermeiden und die Transparenz zu erhöhen.
Zu den ersten konformen Plattformen zählen Gardener, Kubermatic, Giant Swarm und SUSE – ein starkes Signal aus Europa, wo das Thema digitale Souveränität besonders wichtig ist. Das Programm soll fortlaufend weiterentwickelt werden, und die CNCF ruft zur aktiven Mitarbeit der Community auf.