Apple hat mit CAMPHOR eine neue KI-Technologie vorgestellt, die komplexe Anfragen direkt auf mobilen Geräten verarbeiten soll und dabei besonderen Wert auf den Schutz der Privatsphäre legt.
Apples neuestes KI-Framework CAMPHOR steht für „Collaborative Agents for Multi-input Planning and High-Order Reasoning On Device“. Es setzt auf eine hierarchische Struktur aus spezialisierten Agenten, die von sogenannten Reasoning-Agenten koordiniert werden, um anspruchsvolle Aufgaben effizient und lokal auf dem Gerät des Nutzers zu verarbeiten. Diese Struktur ermöglicht die Aufteilung komplexer Aufgaben in Teilschritte, die anschließend von Experten-Agenten übernommen werden, die auf unterschiedliche Bereiche wie Nutzerkontext, Wahrnehmung und externes Wissen spezialisiert sind.
Ein besonderes Highlight von CAMPHOR ist die effiziente Ressourcennutzung durch die sogenannte Prompt-Kompression. Diese Technik reduziert den Speicherbedarf erheblich, indem Funktionsdefinitionen in einzelne Token komprimiert werden. Dadurch konnte der Speicherbedarf für bestimmte Agenten um bis zu 96 Prozent gesenkt werden – bei nur minimalem Verlust in der Genauigkeit. Apples Studien zeigen, dass diese komprimierten Sprachmodelle sogar eine um 35 Prozent höhere Leistung bei personalisierten Aufgaben erzielen können als große, geschlossene Sprachmodelle (LLMs). Diese Vorteile machen CAMPHOR besonders für mobile Geräte interessant, da serverbasierte Lösungen oft unter hoher Latenz und potenziellen Datenschutzproblemen leiden. Derzeit ist CAMPHOR auf Einzelinteraktionen ausgelegt, doch Apple plant bereits Erweiterungen für mehrstufige Gespräche und komplexes Feedback. Das langfristige Ziel ist es, KI-Agenten zu schaffen, die nahtlos mit der Umgebung interagieren können – angefangen bei der Steuerung des iPhones bis hin zur Integration in viele weitere Lebensbereiche.