ChatGPT, der KI-gestützte Chatbot von OpenAI, ist bekannt für seine Vielseitigkeit. Doch auf die Frage nach David Mayer stößt er an seine Grenzen. Warum verweigert die KI eine Antwort?
Ein Name, viele Spekulationen
Die Diskussion begann, als ein Reddit-Nutzer bemerkte, dass ChatGPT den Namen „David Mayer“ weder schreiben noch diskutieren wollte. Die KI begründete dies mit Verweisen auf sensible Informationen und mögliche Verstöße gegen Richtlinien. Schnell nahmen weitere Nutzer das Phänomen unter die Lupe – mit demselben Ergebnis.
Ein Blick auf Google liefert als erstes Ergebnis David Mayer de Rothschild, einen prominenten Ökologen. Doch ChatGPT zeigt keine ähnliche Zurückhaltung bei Diskussionen über die Rothschild-Familie. Andere Theorien führen das Verhalten der KI auf einen gesuchten Verbrecher zurück, der sich unter diesem Namen ausgegeben haben soll. Zudem könnte ein rechtlicher Streit zwischen OpenAI und einer betroffenen Person im Raum stehen.
Einige Nutzer vermuten, dass das Recht auf Vergessen oder Datenschutzregelungen wie die DSGVO den Namen blockieren könnten. Die DSGVO ermöglicht es Betroffenen, die Löschung von personenbezogenen Daten zu verlangen. Allerdings stellt dies eine besondere Herausforderung für KI-Modelle dar, da bereits trainierte Informationen nicht einfach entfernt werden können.
Technik oder Training?
Abseits der Verschwörungstheorien gibt es technische Erklärungen. KI-Modelle wie ChatGPT entstehen aus gigantischen Datensätzen, die während des Trainings analysiert und verknüpft werden. Dabei können sogenannte Halluzinationen auftreten – falsche oder irreführende Assoziationen, die das Modell eigenständig herstellt. Es ist auch denkbar, dass absichtlich manipulierte Trainingsdaten zu diesem Verhalten geführt haben. Diese Hypothese wird durch Berichte über weitere Namen gestützt, bei denen ChatGPT ähnliche Schwierigkeiten zeigt.
Die Herausforderung der Zukunft
Unabhängig von den Gründen wirft dieser Fall grundlegende Fragen auf: Wie geht man mit Persönlichkeitsrechten in KI-Modellen um? Wie lässt sich das Recht auf Vergessen umsetzen? Und wie transparent können KI-Systeme in der Praxis gestaltet werden?
Status-Update
ChatGPT gibt mittlerweile Antworten auf Fragen zum Namen David Mayer. Ob dies auf einen Fehler zurückzuführen ist oder OpenAI eine entsprechende Regel entfernt hat, ist nicht bekannt.