Entdecken Sie das leistungsfähigere und vielseitigere Sprachmodell Llama 2 von Meta.
Im Februar 2023 hat Meta mit Llama ein Sprachmodell vorgestellt, das ausschließlich der Forschungsgemeinschaft zur Verfügung stand. Dieses Modell unterschied sich von anderen auf dem Markt, da es sich an spezielle Domänen anpassen ließ und auf eigener Hardware lief, was die Übermittlung sensibler Daten in die USA überflüssig machte.
Nun hat Meta Llama 2 eingeführt, eine aktualisierte und optimierte Version, die nicht nur leistungsfähiger ist, sondern auch kommerziell zur Verfügung gestellt wird. Eine der wesentlichen Neuerungen ist die Verfügbarkeit verschiedener Modellvarianten für alle, die sich registrieren. Diese Modelle reichen bis zu 70 Milliarden Parametern und integrieren einen neuartigen Mechanismus namens „Grouped-Query Attention“ (GQA), der die Geschwindigkeit und Genauigkeit des Modells verbessert.
Interessanterweise ist Llama 2 so konzipiert, dass es, obwohl es viel GPU-Speicher benötigt, auch in einer akzeptablen Geschwindigkeit auf CPUs laufen kann. Das bedeutet, dass es zugänglicher für Entwickler und Forscher ist, die nicht über die neueste GPU-Technologie verfügen.
Die Zusammenarbeit mit Microsoft erlaubt es Meta, Llama 2 auf der Azure Cloud bereitzustellen, was den Zugang erleichtert und die Kapazität der Downloads auf etwa 330 GB erhöht. Nach einer schnellen Registrierung erhalten Nutzer einen personalisierten Link zu GitHub, wo sie das Modell herunterladen können.
Meta hebt hervor, dass alle Modelle nun in einer Chat-Variante zur Verfügung stehen, die speziell als Instruction-Following-Modell trainiert wurde. Dies bedeutet, dass Llama 2 aufgrund von 100.000 feingetunten Instruktionen und einer Million menschlicher Annotationen in der Lage ist, komplexe Aufgaben zu verstehen und zu erfüllen.