Google verlagert zentrale KI-Funktionen von der Cloud direkt auf das Smartphone. Mit Gemma 4 E2B for TPU stellt Google DeepMind ein offenes Modell bereit, das speziell für die Tensor-Processing-Unit der Pixel-10-Reihe optimiert wurde. Welche Vorteile bietet diese lokale Verarbeitung im Alltag?
Das Modell nutzt rund 2,3 Milliarden effektive Parameter. Einschließlich der Embeddings kommt es auf 5,1 Milliarden Parameter. Das „E“ in E2B steht für „effective“. Durch die Optimierung für die Pixel-Hardware kann das Modell Aufgaben direkt auf dem Gerät ausführen, ohne dafür eine Verbindung zu Cloud-Diensten zu benötigen.
Davon profitieren vor allem Anwendungen, die auch ohne Internetzugang funktionieren sollen. Gleichzeitig bleiben sensible Daten auf dem Smartphone. Google hatte bereits Anfang Juni mit Gemma 4 12B ein größeres Modell vorgestellt, das auf handelsüblichen Notebooks mit 16 GByte Arbeitsspeicher ohne spezielle KI-Hardware laufen kann.
Zusätzlich setzt Google auf sogenannte QAT-Versionen von Gemma 4. Das „Quantization-Aware Training“ soll den Speicherbedarf verringern, ohne die Modellqualität wesentlich zu beeinträchtigen. Dadurch können die Modelle auf einer größeren Zahl von Verbrauchergeräten eingesetzt werden. Für kommende Android-Smartphones mit Gemini Intelligence gelten dagegen hohe Hardwareanforderungen.
Bei der Google I/O India demonstrierte Google die Fähigkeiten der On-Device-KI auf einem Pixel 10. Offline arbeitende Agenten können beispielsweise bei der Reiseplanung unterstützen, Rezepte vorschlagen oder Smart-Home-Geräte steuern. Über „Mobile Actions“ lassen sich zudem Funktionen wie WLAN und Google Maps per Sprachbefehl oder Texteingabe bedienen.
Das Modell soll Texte, Bilder und Audiodateien lokal verarbeiten und daraus Schlussfolgerungen ableiten können. Google nennt unter anderem längere Offline-Gespräche, Bildanalysen zu Objekten und Pflanzen sowie Unterstützung bei der Problemlösung. Mit „Ask Audio“ lassen sich außerdem Audioinhalte transkribieren.
Google will die Technologie nicht auf eigene Anwendungen beschränken. Entwickler von Fremd-Apps sollen Werkzeuge erhalten, mit denen sie lokal arbeitende Anwendungen für Pixel-Geräte erstellen können. Für Nutzer können daraus schnellere Reaktionszeiten, besserer Datenschutz und zuverlässige Funktionen ohne Internetverbindung entstehen.