Meta plant mit Llama 4 ein gewaltiges KI-Projekt, das neue Maßstäbe setzt – doch zu welchem Preis?
Mark Zuckerberg, CEO von Meta, hat bei der Präsentation der jüngsten Quartalszahlen ehrgeizige Pläne für die Entwicklung des neuen KI-Modells Llama 4 angekündigt. Im Vergleich zu seinem Vorgänger Llama 3 soll das neue Modell zehnmal mehr Rechenleistung benötigen, was die Kosten in die Höhe treiben wird. Diese gewaltige Steigerung ist notwendig, um die bereits beeindruckenden 400 Milliarden Parameter von Llama 3 weiter zu übertreffen.
Meta verfolgt einen einzigartigen Ansatz: Die KI-Modelle werden als Open Source veröffentlicht, was der Community und Entwicklern weltweit freien Zugang gewährt. Zuckerberg rechnet damit, dass ein ganzes Ökosystem rund um diese Technologie entstehen wird, das Innovationen fördert und den Weg für zukünftige Entwicklungen ebnet. Allerdings ist dieses Vorhaben nicht ohne Herausforderungen. Insbesondere die Kosten für die Entwicklung und das Training von Llama 4 sind enorm. Der wichtigste Kostentreiber ist die benötigte Rechenleistung, die durch den Ausbau von Servern, Netzwerkinfrastrukturen und Rechenzentren unterstützt wird.
Im zweiten Quartal 2024 stiegen Metas Investitionen in diese Bereiche um etwa 33 Prozent auf insgesamt 8,5 Milliarden US-Dollar. Trotz der immensen Kosten bleibt unklar, ob größere Modelle mit mehr Parametern tatsächlich zu besseren Leistungen führen. Einige Experten sind jedoch der Meinung, dass durch reines Skalieren der Modelle eine Artifical General Intelligence (AGI) entstehen könnte. Meta sieht sich durch seine vielfältigen Einnahmequellen in der Lage, diese hohen Investitionen zu tätigen, was in einem Blogbeitrag von Zuckerberg unterstrichen wurde. Dies steht in scharfem Kontrast zu anderen KI-Unternehmen wie OpenAI, die stark auf externe Investitionen angewiesen sind und deren Einnahmen die hohen Entwicklungskosten oft nicht decken können.