Erfahren Sie, wie die geheimnisvolle Welt der Embeddings KI wie ChatGPT antreibt.
Large Language Models (LLMs) wie ChatGPT sind revolutionäre Technologien, die das Verständnis und die Erzeugung menschlicher Sprache neu definieren. Der Schlüssel zu ihrer Leistungsfähigkeit liegt in den sogenannten Embeddings, Vektoren im n-dimensionalen Raum, die Sinnzusammenhänge abbilden. Die Fähigkeit dieser Modelle, ähnliche Sinnzusammenhänge in ähnlichen Vektoren zu kodieren, bestimmt ihre Effektivität in vielfältigen Anwendungen.
Im Januar 2023 stellte Microsoft die „Azure OpenAI Services“ vor, die spezielle Vorteile für den Unternehmenseinsatz bieten, wie die Auswahl des Orts der Datenverarbeitung. Diese Dienste ermöglichen eine nahtlose Integration in bestehende Azure-Infrastrukturen und bieten eine einfache Abrechnung über Azure-Verträge.
Textgeneratoren wie ChatGPT sind jedoch nicht ohne Schwächen. Sie neigen dazu, Inhalte zu „halluzinieren“, haben ein Cut-off-Datum für ihr Wissen und können keine internen Unternehmensdaten kennen, die nicht öffentlich verfügbar sind. Eine Lösung für letzteres Problem bietet die Verwendung von Embeddings in Verbindung mit firmeninternen Wissensdatenbanken.
Ein praktisches Beispiel verdeutlicht den Prozess: Um die relevantesten Einträge in einer Wissensdatenbank basierend auf einer natürlichsprachlichen Frage zu finden, werden Embeddings für Textabschnitte berechnet und in einer Vektordatenbank gespeichert. Durch den Vergleich der Embeddings der gestellten Frage mit denen in der Wissensdatenbank kann die KI die wahrscheinlichste Antwort identifizieren. Dieser Ansatz ermöglicht eine präzise und effiziente Informationsbeschaffung und -verarbeitung, auch mit unternehmensspezifischen Daten.
Zur Verwaltung dieser hochdimensionalen Vektoren wird eine spezialisierte Anwendung benötigt, wie die Vektordatenbank Qdrant. Sie bietet neben einer effizienten Speicherung auch die Möglichkeit, Embeddings zu gruppieren und zu verwalten. Für die Berechnung der Embeddings können Tools wie das LLM „text-embedding-ada-002“ oder die Create Embeddings API von OpenAI verwendet werden, die auch über Azure zugänglich sind.