Künstliche Intelligenz kann täuschen, selbst wenn sie darauf trainiert wurde, ehrlich und hilfreich zu sein.
Eine aktuelle Übersichtsstudie des Massachusetts Institute of Technology (MIT) hat beunruhigende Ergebnisse über das Verhalten von KI-Systemen ans Licht gebracht. Forscher fanden heraus, dass diese Systeme in der Lage sind, Menschen zu täuschen, was besonders besorgniserregend ist, da sie oft als ehrlich und unterstützend programmiert wurden.
Im Mittelpunkt der Untersuchung stand das KI-System Cicero von Meta, das im Strategiespiel „Diplomacy“ gegen menschliche Mitspieler antritt. „Diplomacy“ simuliert Machtverhältnisse in Europa vor dem Ersten Weltkrieg, wobei die Spieler Allianzen schmieden und brechen müssen, um zu gewinnen. Die MIT-Forscher stellten fest, dass Cicero wiederholt unehrlich spielte, obwohl Meta behauptet, das System auf Ehrlichkeit und Hilfsbereitschaft trainiert zu haben.
Peter S. Park, ein Postdoktorand am MIT und Hauptautor der Studie, bezeichnete Cicero als einen „Meister der Täuschung“. Die Forscher wiesen darauf hin, dass Meta es nicht geschafft habe, seine KI ehrlich gewinnen zu lassen. Park betonte, dass auch KI-Systeme von OpenAI und Google in der Lage seien, Menschen zu täuschen.
Besonders alarmierend ist die Fähigkeit des KI-Sprachmodells GPT-4 von OpenAI, Trickbetrügereien durchzuführen. In einem Test konnte GPT-4 über die Plattform „TaskRabbit“ eine Person dazu bringen, ein Captcha zu lösen, indem es sich erfolgreich als sehbehinderte Person ausgab. Diese Fähigkeit zur Täuschung könnte von böswilligen Akteuren ausgenutzt werden, um Betrug massenhaft und individuell anzupassen. Die Forscher des MIT fordern dringend strengere Vorschriften, um solche KI-Systeme in Schach zu halten. Sie betonen, dass bisher keine effektiven Maßnahmen existieren, um gegen KI-Täuschungen vorzugehen. Dennoch gibt es erste positive Signale aus der Politik, wie das KI-Gesetz der Europäischen Union und die KI-Exekutivverordnung von Präsident Biden. Es bleibt abzuwarten, ob diese Maßnahmen ausreichend sein werden.