Kurz gesagt: Perplexity bringt mit „Portable Computer“ eine Local-first-Version seines KI-Agenten auf Nvidia-Hardware. Sprachmodell, Inferenz und Agentensteuerung können lokal laufen, während Cloud-Dienste nur bei Bedarf und nach Freigabe eingebunden werden. Der Ansatz reduziert Datenübertragungen und nutzungsabhängige Modellkosten, setzt zum Start jedoch leistungsfähige und kostspielige Hardware voraus.
KI-Agenten, die komplexe Aufgaben selbstständig in mehreren Schritten abarbeiten, benötigen bislang häufig Cloud-Rechenleistung. Perplexity will dieses Verhältnis mit „Portable Computer“ verändern: Wesentliche Bestandteile des Agentensystems laufen direkt auf dem eigenen Rechner. Doch wie weit kann ein lokaler KI-Agent die Cloud tatsächlich ersetzen?
Agentensystem statt klassischem Chatbot
Perplexity Computer ist für mehrstufige Arbeitsabläufe ausgelegt. Der Agent kann Dateien und Anwendungen durchsuchen, Daten auswerten, Webrecherchen einbeziehen und Ergebnisse an angebundene Dienste weitergeben. Anders als ein Chatbot, der primär auf einzelne Prompts reagiert, plant das System Aufgaben, führt Zwischenschritte aus und kann längere Jobs fortsetzen.
Bei Portable Computer befinden sich auch Sprachmodell, Inferenz und zentrale Agentensteuerung lokal auf dem Gerät. Perplexity nennt dafür Qwen 3.8 27B und PPLX 27B, eine für den eigenen Agenten-Stack nachtrainierte Qwen-Variante. Später soll Nvidias Nemotron 3.5 Lightning hinzukommen.
Der lokale Agenten-Stack umfasst außerdem Planer, Werkzeugsteuerung, Aufgabenwarteschlange sowie einen lokalen Suchindex für Dateien und Code. Damit lassen sich beispielsweise Projektordner analysieren, Dokumente zusammenfassen oder lokale Datenbestände auswerten, ohne Inhalte standardmäßig an einen Server zu übertragen.
Cloudzugriff nur bei Bedarf
Vollständig offline arbeitet Portable Computer dennoch nicht zwingend. Für aktuelle Webinformationen, Browser-Aufgaben oder besonders anspruchsvolle Schlussfolgerungen kann der Agent Cloud-Dienste hinzuziehen. Nach Angaben von Perplexity soll dies erst nach Zustimmung des Nutzers geschehen.
VentureBeat zufolge prüft das System vor einem Cloud-Aufruf zudem den zu übertragenden Kontext auf personenbezogene oder sensible Informationen. Die Oberfläche soll sichtbar machen, welche Inhalte das Gerät verlassen. Das entfernte Modell erhält dem Bericht zufolge lediglich eine textliche Anfrage und keinen direkten Zugriff auf lokale Dateien oder Werkzeuge. Zusätzlich will Perplexity die Werkzeugausführung in einer Sandbox abschotten.
Lokale Aufgaben verbrauchen laut Perplexity keine Credits. Ganz ohne laufende Kosten ist Portable Computer allerdings nicht nutzbar, denn mindestens ein Pro- oder Max-Abonnement bleibt erforderlich.
Eigene Benchmarks zeigen Potenzial – mit Einschränkungen
Perplexity nennt für einen eigenen Test mit 53 Aufgaben aus Recherche, Finanzanalyse und Dokumentenerstellung 82,6 Prozent für Qwen 3.8 27B auf einer Nvidia DGX Spark. Mit PPLX 27B sollen 85,4 Prozent erreicht worden sein. Vergleichswerte der Open-Source-Agenten Pi und Hermes lagen nach Unternehmensangaben darunter.
Die Resultate sollten jedoch entsprechend eingeordnet werden: Benchmark und Durchführung stammen von Perplexity selbst. Das Unternehmen will den Test als Open Source veröffentlichen, sodass unabhängige Überprüfungen mit identischer Hardware und Konfiguration möglich werden könnten.
Bei anspruchsvollen Coding-Aufgaben sieht auch Perplexity Grenzen. Ein lokal ausgeführtes Qwen-Modell blieb im eigenen Vergleich deutlich hinter einem Cloud-Modell zurück. Ein optionaler Cloud-„Advisor“ konnte den Abstand verringern, aber nicht vollständig schließen.
Leistungsfähige Nvidia-Hardware bleibt Voraussetzung
Zum Start richtet sich Portable Computer an Besitzer einer Nvidia DGX Spark mit Grace-Blackwell-GB10-Chip und 128 GByte Unified Memory. Nvidias unverbindliche Preisempfehlung für die KI-Workstation lag zuletzt bei 4.700 US-Dollar.
Später sollen auch PCs mit leistungsfähigen RTX-GPUs unterstützt werden – zunächst unter Linux und anschließend unter Windows. VentureBeat zufolge sind dafür mindestens 24 GByte Grafikspeicher vorgesehen, womit sich die Hardware-Anforderungen etwa in der Klasse einer GeForce RTX 3090 oder leistungsfähigerer Modelle bewegen.
Für Unternehmen und Anwender mit sensiblen lokalen Daten kann der Ansatz interessant sein, weil häufige Aufgaben auf eigener Hardware verarbeitet und Cloud-Ressourcen gezielt für schwierigere Teilschritte eingesetzt werden können. Gleichzeitig begrenzen Hardwarebedarf und Abonnementpflicht den möglichen Nutzerkreis deutlich. „Portable“ bezeichnet deshalb zunächst vor allem einen lokal betreibbaren Agenten-Stack auf geeigneter Nvidia-Hardware – nicht eine universelle Offline-Lösung für beliebige PCs.
Wer die Entwicklung lokaler KI-Agenten und weitere relevante Veränderungen rund um Künstliche Intelligenz im Blick behalten möchte, findet im Newsletter „Beratung-KI“ regelmäßig kompakte Einordnungen aktueller KI-Themen.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.