Mistral AI hat mit den neuen Ministral 3B und 8B Modellen die leistungsstärksten Sprach-KI-Systeme ihrer Klasse vorgestellt, die speziell für den Einsatz auf Endgeräten und im Edge-Computing entwickelt wurden.
Das französische KI-Unternehmen Mistral AI erweitert sein Portfolio um zwei neue Modelle: Ministral 3B und Ministral 8B. Diese Modelle, die unter dem Namen „Ministraux“ vermarktet werden, zielen auf Anwendungsbereiche ab, bei denen lokale Verarbeitung und der Schutz von Daten höchste Priorität haben. Mit einer Unterstützung von Kontextlängen von bis zu 128.000 Token bieten die Modelle eine beeindruckende Leistungsfähigkeit bei der Verarbeitung von Texten.
Die neuen Modelle eignen sich für vielfältige Aufgaben, darunter On-Device-Übersetzungen, lokale Datenanalysen, die Steuerung internetloser intelligenter Assistenten und autonome Robotik. Besonders in Umgebungen, die keine kontinuierliche Internetverbindung erfordern, entfalten die Modelle ihr volles Potenzial. Zusätzlich können die Ministraux-Modelle als effiziente Mittler in mehrstufigen Arbeitsabläufen eingesetzt werden, indem sie Funktionsaufrufe an größere KI-Systeme wie Mistral Large übermitteln.
Laut den von Mistral AI veröffentlichten Benchmarks übertreffen die neuen Modelle ihre Konkurrenz deutlich. Besonders bemerkenswert ist die Leistung des kleineren Modells, Ministral 3B. Es schlägt in einigen Tests sogar seinen Vorgänger, das weit verbreitete Mistral 7B. Mistral 8B wiederum setzt neue Maßstäbe und übertrifft Mistral 7B in sämtlichen Benchmarks.
Interessenten können die Modelle ab sofort nutzen. Über die API ist Ministral 8B für 0,1 US-Dollar pro Million Token verfügbar, während das Ministral 3B für 0,04 US-Dollar pro Million Token angeboten wird. Für Forschungszwecke stellt Mistral AI sogar die Modellgewichte des Ministral 8B Instruct bereit. In Kürze sollen beide Modelle zudem über Cloud-Partner wie Google Vertex und AWS verfügbar sein.