KI-Fehler können teuer werden – doch was, wenn eine Versicherung dafür aufkommt?
Wie viel Sicherheit kann ein neues Versicherungsmodell wirklich bieten?
Absicherung für das digitale Risiko
Am traditionsreichen Versicherungsmarkt Lloyd’s of London tut sich etwas Bemerkenswertes: Unternehmen können sich jetzt gegen Schäden absichern, die durch fehlerhafte KI-Anwendungen entstehen. Klingt nach Zukunftsmusik? Ist aber Realität. Wenn ein Chatbot etwa einen Kunden mit falschen Infos versorgt oder gar beleidigt, übernimmt die Versicherung künftig unter bestimmten Voraussetzungen die Kosten – inklusive Anwalt und Schadensersatz. Die Grundlage dafür bietet eine Police, die laut Financial Times in Zusammenarbeit mit dem kanadischen KI-Start-up Armilla entstanden ist.
Von kuriosen Chatbots bis zur Modellprüfung
Dass solche Szenarien nicht aus der Luft gegriffen sind, zeigen Beispiele wie der Chatbot des Paketzustellers DPD, der das eigene Unternehmen als das „schlechteste Lieferunternehmen der Welt“ bezeichnete. Oder der Vorfall bei Air Canada, wo ein Bot falsche Ticketinformationen lieferte – und der betroffene Kunde eine Rückerstattung erstritt. Genau diese Art von Schäden könnte künftig versichert werden. Doch ganz so einfach ist es nicht: Die KI muss nachweislich schlechter arbeiten als erwartet – zum Beispiel sinkt die Genauigkeit von 95 auf 85 Prozent. Eine vorherige Modellprüfung ist Pflicht, und wer mit zu fehleranfälliger KI arbeitet, geht leer aus.