Genau hier setzt ein neues Projekt des KI-Unternehmens Anthropic an. Mit dem frisch gegründeten Anthropic Institute schafft das Unternehmen eine interne Denkfabrik, die sich gezielt mit den langfristigen Auswirkungen leistungsstarker KI-Systeme beschäftigen soll. Geleitet wird das Institut von Anthropic-Mitgründer Jack Clark, der dafür eine neue Rolle als Head of Public Benefit übernimmt.
Im Zentrum der Arbeit steht die Frage, wie sich KI auf zentrale Bereiche unseres Lebens auswirkt. Dazu gehört etwa die Analyse, wie sich Arbeitsmärkte durch KI verändern, welche Missbrauchsrisiken durch leistungsfähige Modelle entstehen und welche Werte oder Entscheidungslogiken KI-Systeme widerspiegeln. Ebenso wichtig ist ein Thema, das in der KI-Forschung zunehmend diskutiert wird: Wie behalten Menschen die Kontrolle über Systeme, die sich selbst verbessern können?
Für diese Aufgaben bündelt Anthropic mehrere bestehende Forschungsteams. Rund 30 Fachleute arbeiten im neuen Institut zusammen, darunter Mitglieder des Frontier Red Teams, des Societal-Impacts-Teams und der wirtschaftswissenschaftlichen Forschungseinheit. Auch bekannte Namen aus der KI- und Wirtschaftsforschung sind beteiligt: Matt Botvinick, früher bei Google Deepmind tätig, Anton Korinek von der University of Virginia sowie Zoë Hitzig, die zuvor bei OpenAI gearbeitet hat.
Der Start des Instituts erfolgt allerdings in einer politisch angespannten Phase für das Unternehmen. Anthropic hat kürzlich das US-Verteidigungsministerium verklagt, nachdem es dort als mögliches Lieferkettenrisiko eingestuft wurde. Trotz dieser Auseinandersetzung betonte Jack Clark laut Medienberichten, dass er keine Bedenken hinsichtlich der Finanzierung der Forschungsarbeit habe. Parallel baut Anthropic seine Präsenz in der Politik aus und eröffnet ein Büro in Washington, D.C.