Kurz gesagt: Anthropic erforscht Verhandlungsregeln für autonome KI-Agenten, die künftig Preise, Gehälter und Verträge im Auftrag ihrer Nutzer aushandeln könnten. Erste Experimente zeigen Vorteile für leistungsfähige und kompromisslose Agenten. Einheitliche technische Standards und rechtliche Leitplanken fehlen bislang.
Was geschieht, wenn künftig KI-Agenten miteinander verhandeln, statt dass Menschen selbst Entscheidungen über Angebote und Vertragsbedingungen treffen? Anthropic beschäftigt sich mit dieser Frage und untersucht, wie sich individuelle Interessenvertretung, faire Ergebnisse und menschliche Kontrolle miteinander vereinbaren lassen.
Nach Informationen der Financial Times führt das KI-Unternehmen dazu Gespräche mit Anwaltskanzleien. Anthropic möchte offenbar verstehen, nach welchen Prinzipien Anwälte ihre Mandanten vertreten und wie sich solche Verhandlungsnormen auf autonome KI-Systeme übertragen lassen.
Dabei geht es auch um die Frage, wann Agenten Rücksprache mit ihren Nutzern halten sollten und wie sie potenziell unzuverlässigen KI-Verhandlungspartnern begegnen können, ohne übermäßig misstrauisch zu reagieren.
Ein Büchertausch zeigt unterschiedliche Verhandlungsstrategien
Wie sich KI-Agenten in Verhandlungen verhalten, hat Anthropic bereits experimentell untersucht. Im September 2026 veröffentlichte das Unternehmen Ergebnisse aus zwei Experimenten.
Bei einem Versuch brachten Mitarbeiter aus sechs Unternehmensstandorten jeweils ein nicht mehr benötigtes Buch mit. Anschließend sollten KI-Agenten eigenständig aushandeln, wer welches Buch erhält. Ziel war, dass möglichst jeder Teilnehmer ein neues, persönlich interessantes Buch bekommt.
Die Ergebnisse verdeutlichten erhebliche Unterschiede zwischen den Agenten:
- Leistungsfähigere KI-Agenten erzielten in der Regel bessere Verhandlungsergebnisse.
- Rücksichtslos agierende Agenten konnten häufig größere Vorteile für ihre Nutzer erreichen.
- Sozial ausgerichtete Agenten verzichteten teilweise auf eigene Vorteile, damit möglichst alle Beteiligten zufriedenstellende Ergebnisse erhielten.
Damit zeigt sich ein grundlegender Zielkonflikt: Soll ein KI-Agent ausschließlich das bestmögliche Ergebnis für seinen Auftraggeber erzielen oder auch die Interessen anderer Verhandlungspartner berücksichtigen?
Faire KI-Verhandlungen brauchen klare Regeln
Die Experimente werfen Fragen auf, die über den Büchertausch hinausgehen. Wenn leistungsfähigere Agenten bessere Ergebnisse erzielen, könnten künftig Menschen mit Zugang zu fortschrittlicheren KI-Systemen bei automatisierten Verhandlungen Vorteile haben.
Anthropic betont zugleich, dass bislang politische und rechtliche Rahmenbedingungen für KI-Systeme fehlen, die eigenständig Transaktionen im Auftrag von Menschen durchführen. Die bisherigen Untersuchungen sind experimentelle Forschung und liefern noch keine allgemein verbindlichen Regeln.
Mit der Vorstellung seines ersten persönlichen KI-Agenten für den Arbeitsalltag entwickelt Anthropic parallel bereits Technologien, die solche Fragestellungen zunehmend relevant machen.
Für Unternehmen und Anwender betrifft dies insbesondere die Kontrolle automatisierter Entscheidungen, die Verlässlichkeit von Verhandlungsergebnissen und die Frage, welche Handlungsspielräume KI-Agenten erhalten sollten.
Welche Chancen und Herausforderungen autonome KI-Agenten für den beruflichen Alltag mit sich bringen, beleuchtet der Newsletter Beratung-KI regelmäßig mit verständlichen Einordnungen aktueller Entwicklungen.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.