Kurz gesagt: Nvidia erweitert seine Open Agent Safety Platform um hardwaregestützte Sicherheitskontrollen für autonome KI-Agenten. BlueField-4-Prozessoren sollen unerlaubte Aktionen unabhängig vom verwendeten KI-Modell innerhalb von Millisekunden stoppen. Gleichzeitig baut Nvidia sein Angebot offener KI-Modelle und Werkzeuge zur Analyse von Unternehmensdaten aus.
Autonome KI-Agenten können Programme ausführen, Dateien verändern und selbstständig auf IT-Systeme zugreifen. Doch wie lassen sich solche Systeme zuverlässig kontrollieren? Auf der GTC in Berlin präsentierte Nvidia eine Sicherheitsarchitektur, die Zugriffsregeln unabhängig von den eingesetzten Sprachmodellen durchsetzen soll.
Hardware überwacht die Aktivitäten von KI-Agenten
Grundlage ist die quelloffene Laufzeitumgebung OpenShell. Sie führt KI-Agenten in abgeschotteten Umgebungen aus und begrenzt deren Zugriff auf Dateien, Programme, Netzwerkdienste und Modellserver.
Eine neue Referenzarchitektur verteilt die Aufgaben auf verschiedene Komponenten: Vera-Rubin-Systeme berechnen die KI-Modelle, Vera-CPUs betreiben Agenten und deren Werkzeuge. BlueField-4-DPUs übernehmen mit der Sicherheitssoftware Sentry die unabhängige Überwachung.
Laut Nvidia kann Sentry Agenten bei Regelverstößen innerhalb von Millisekunden isolieren und stoppen. Da die Kontrollen außerhalb der eigentlichen Agentenumgebung stattfinden, sollen sie sich nicht durch die Agenten manipulieren lassen. Unterstützt werden auch externe Frameworks wie Claude Code von Anthropic und Codex von OpenAI.
Anders als beim sogenannten Alignment, dessen Modellbeschränkungen teilweise durch Abliteration entfernt werden können, setzt OpenShell direkt bei den Zugriffsrechten an. Nach Angaben von Nvidia soll das System zudem Denkprozesse („Chain of Thought“) auswerten und bereits Hinweise auf geplante unerlaubte Aktionen erkennen können.
Unternehmensdaten für Analysen und Prognosen
Mit der neuen Agent Knowledge Foundation will Nvidia KI-Agenten den Zugriff auf strukturierte Datenbanken und unstrukturierte Dokumente erleichtern. Unternehmensdaten müssen dafür nicht in Nvidias Cloud übertragen werden.
Eine Auto-Ontology-Bibliothek soll Beziehungen zwischen Geschäftsdaten automatisch erkennen. Zusammen mit CUDA-X-Bibliotheken, Nemotron-Retriever-Modellen und der neuen Kumo-Modellfamilie entstehen Werkzeuge für datenbasierte Vorhersagen.
Kumo umfasst vortrainierte Modelle für Tabellen, relationale Daten, Zeitreihen, Prognosen und Anomalieerkennung. Damit sollen sich beispielsweise Umsatzentwicklungen vorhersagen und betriebliche Risiken analysieren lassen, ohne für jeden Datensatz eigene Machine-Learning-Verfahren entwickeln zu müssen. Zu den Partnern gehören Databricks und Snowflake. Palantir unterstützt Nvidia bereits bei der Auswertung von Lieferkettendaten.
Offene KI-Modelle treffen auf Nvidias Plattform
Parallel erweitert Nvidia seine frei verfügbaren KI-Modelle. Nemotron 3.5 Super VL verarbeitet Text und Bilder, während Nemotron 3.5 Bolt 74B-A9B bereits verfügbar ist. Die kompaktere Variante Bolt E4B wurde für den 23. Oktober angekündigt. Weitere Modelle unterstützen die Dokumentensuche sowie Anwendungen in Robotik, autonomem Fahren und Proteinforschung.
Unternehmen können diese Technologien teilweise auf eigener Infrastruktur betreiben und anpassen. Kumo Tabular wird als Open-Weight-Modell angeboten, für bestimmte Nemotron-Modelle stellt Nvidia zusätzlich Trainingsdaten und Trainingsrezepte bereit.
Damit entsteht allerdings ein Spannungsfeld: Offene Modelle und lokal gespeicherte Unternehmensdaten ermöglichen mehr Eigenständigkeit. Gleichzeitig liefert Nvidia wesentliche Komponenten für Rechenleistung, Datenzugriff und Sicherheitskontrollen.
Nvidia-Chef Jensen Huang skizzierte darüber hinaus eine Zukunft, in der digitale Zwillinge ganze Produktionsprozesse und schließlich sogar die Erde abbilden. Die Verbindung von KI-Agenten, Unternehmensdaten und Infrastruktur bildet einen wichtigen Teil dieser Strategie.
Welche Entwicklungen bei autonomen KI-Agenten, offenen Modellen und IT-Sicherheit für die Praxis relevant sind, behandelt auch der Newsletter Beratung-KI.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.