Ein neues Forschungspapier stellt unsere bisherigen Vorstellungen über die Überzeugungskraft von KI auf den Kopf. Doch was macht Sprachmodelle wirklich überzeugend – psychologische Tricks oder einfach eine Flut an Informationen?
Studienergebnisse im Überblick
Eine internationale Untersuchung mit fast 77.000 Teilnehmenden aus Großbritannien zeigt: Nicht raffinierte Strategien wie Storytelling oder gezielte Personalisierung sind ausschlaggebend, sondern schiere Informationsdichte. Jedes zusätzliche Faktum erhöhte die Überzeugungswirkung – auch wenn die Qualität darunter litt. Besonders auffällig: Modelle wie GPT-4o und GPT-4.5 konnten durch „Informations-Prompts“ deutlich mehr Wirkung entfalten, lieferten aber gleichzeitig weniger präzise Aussagen.
Die Forschenden überprüften über 466.000 Behauptungen und stellten fest: Je überzeugender ein Modell auftrat, desto ungenauer waren die Informationen. Ein klarer Zielkonflikt zwischen Wirkung und Wahrheit. Zudem zeigte sich, dass KI-Gespräche deutlich nachhaltiger wirken als kurze Nachrichten – ihre Überzeugungskraft hielt noch Wochen nach.
Mehr Training schlägt mehr Rechenleistung
Ein weiteres überraschendes Ergebnis: Nicht die Größe oder Rechenleistung der Modelle entscheidet über deren Überzeugungskraft, sondern die Feinabstimmung nach dem Vortraining. Methoden wie Reward Modeling oder andere Optimierungen konnten die Wirkung stärker steigern als eine Verzehnfachung der Rechenleistung. Selbst kleinere Open-Source-Modelle wie Llama-3.1-8B wurden so konkurrenzfähig gegenüber Giganten wie GPT-4o.
Gefahr für den öffentlichen Diskurs
Die Ergebnisse werfen ernste Fragen für die Demokratie auf. Mächtige Akteure mit Zugriff auf modernste Modelle könnten ihre Systeme so trainieren, dass sie weit überdurchschnittlich überzeugend wirken – auch wenn die Genauigkeit der Aussagen leidet. Damit wächst die Gefahr, dass öffentliche Debatten nicht durch Argumente, sondern durch optimierte KI-Prompts und Post-Training-Maßnahmen dominiert werden.