Ein neuer Ansatz könnte die Fähigkeit großer Sprachmodelle, komplexe Planungsaufgaben zu lösen, erheblich verbessern.
Forscher von renommierten Institutionen wie der University of Oxford, dem Alan Turing Institute und dem Allen Institute for AI haben einen innovativen Ansatz entwickelt, um die Fähigkeiten von großen Sprachmodellen (LLMs) bei der Lösung von Planungsaufgaben unter Zeit- und Ressourcenbeschränkungen zu verbessern. Diese Methode, genannt „Plan Like a Graph“ (PLaG), nutzt Graphen, um die Planungsprobleme zu visualisieren, was zu einer erheblichen Steigerung der Modellleistung führt.
Der Kern der Methode besteht darin, das Problem in Form eines Graphen darzustellen, den die Sprachmodelle verarbeiten können. Wie in den Studienergebnissen gezeigt, verbessert diese zusätzliche visuelle Darstellung die Effizienz der Modelle deutlich. Die Forscher testeten PLaG erfolgreich an mehreren modernen Sprachmodellen wie GPT-4, GPT-3.5, LLaMA-2 und anderen, und in jedem Fall führte die Methode zu signifikanten Leistungssteigerungen. Besonders spannend: Eine Variante der Methode, „Build a Graph“ (BaG), bei der das Modell selbst eine Graphendarstellung erzeugt, zeigte noch bessere Ergebnisse. Die Forscher stellten jedoch klar, dass es weiterhin Grenzen gibt: Mit zunehmender Komplexität der Planungsaufgaben nimmt die Leistungsfähigkeit der LLMs ab. Trotz dieser Fortschritte sind LLMs noch nicht in der Lage, die Rolle eines autonomen, allgemein intelligenten Planers zu übernehmen. Dennoch sehen die Wissenschaftler Potenzial für zukünftige Weiterentwicklungen, wie etwa durch den Vergleich von LLM- und menschlicher Leistung bei denselben Planungsproblemen.