In einem bemerkenswerten Rechtsfall verwechselte ein US-Anwalt ChatGPT mit einer Suchmaschine und sorgte für Aufsehen.
Die Rechtslandschaft wurde kürzlich durch einen ungewöhnlichen Vorfall erschüttert, als ein US-Rechtsanwalt für die Recherche zu einem Fall den KI-Chatbot ChatGPT nutzte, in der Annahme, es handle sich um eine Suchmaschine. Der Anwalt verteidigte einen Kläger, der 2019 von einem Rollwagen am Knie getroffen worden war und Jahre später gegen die Fluggesellschaft Avianca klagte. Um die Verjährung der Klage zu umgehen, zog der Anwalt Präzedenzfälle heran, die er mittels ChatGPT recherchiert hatte. Die präsentierten Fälle stellten sich jedoch als frei erfunden heraus, eine Tatsache, die der Anwalt vor Gericht eingestehen musste, nachdem die Gegenseite die Authentizität der Fälle in Frage gestellt hatte.
Diese Episode offenbart die Risiken und Grenzen der Nutzung künstlicher Intelligenz in professionellen Kontexten. ChatGPT, ein fortschrittlicher KI-Chatbot, generiert Informationen basierend auf Wahrscheinlichkeiten und verfügbarem Ausgangsmaterial, was zu täuschend echt wirkenden, jedoch komplett fiktiven Fallakten führen kann. Der Richter im Fall zeigte sich verärgert über den „beispiellosen Umstand“ und betrachtete die Eingabe des Anwalts als möglichen Täuschungsversuch mit gefälschten Informationen. Eine Anhörung wurde für den 08. Juni anberaumt, um über die Konsequenzen für den Anwalt zu entscheiden.