Kurz gesagt: Anthropic erwartet eine mögliche Beschleunigung der KI-Entwicklung durch den zunehmenden Einsatz eigener Modelle. Claude übernimmt bereits Forschungsaufgaben, allerdings unter menschlicher Aufsicht. Das Unternehmen warnt davor, dass technologische Fortschritte künftig schneller erfolgen könnten, als Menschen sie kontrollieren und absichern können.
Wie schnell entwickelt sich künstliche Intelligenz weiter, wenn sie selbst an der Entwicklung ihrer Nachfolger beteiligt ist? Anthropic sieht sich möglicherweise kurz vor einer kritischen Schwelle, an der KI-gestützte Forschung den Fortschritt erheblich beschleunigt. Das geht aus einem überarbeiteten Börsenprospekt hervor.
Claude unterstützt bereits das Programmieren, Experimentieren und Testen neuer KI-Modelle. Leistungsfähigere Nachfolger könnten künftig noch größere Teile dieser Arbeit übernehmen und so ihre eigene Weiterentwicklung indirekt beschleunigen. Im Extremfall wäre sogar eine vollständig autonome Entwicklung neuer Modelle denkbar. Anthropic bezeichnet dieses Szenario als rekursive Selbstverbesserung.
Wann beschleunigt KI ihre eigene Entwicklung?
In seinen Sicherheitsrichtlinien definiert Anthropic eine kritische Schwelle: Sie kann unter anderem erreicht sein, wenn KI-gestützte Forschung die Entwicklung neuer Modelle mindestens doppelt so schnell vorantreibt wie Forschung ohne KI-Unterstützung.
Bislang wurde keines der aktuellen Anthropic-Modelle entsprechend eingestuft. Auch bedeutet das Erreichen dieser Schwelle nicht, dass KI bereits vollständig eigenständig neue Modelle entwickeln kann.
Eine im September veröffentlichte Studie verdeutlicht den bisherigen Entwicklungsstand: Bei rund einem Viertel der nach Arbeitszeit gewichteten Forschungs- und Entwicklungsarbeit kann Claude den Großteil der Aufgaben selbstständig bewältigen. Allerdings erfolgt dies weiterhin unter menschlicher Aufsicht. Vollständige Autonomie wurde in keinem untersuchten Bereich festgestellt.
Sicherheitsmaßnahmen könnten nicht Schritt halten
Mit zunehmender Beteiligung von KI an der eigenen Weiterentwicklung steigen auch die Anforderungen an Kontrolle und Sicherheit. Entwicklungsschritte könnten für Menschen schwerer nachvollziehbar werden, während neue Fähigkeiten schneller entstehen, als geeignete Schutzmaßnahmen entwickelt werden können.
Anthropic räumt ein, erhebliche Beschleunigungen bereits in der Vergangenheit erst nachträglich erkannt zu haben. Deshalb erwägt das Unternehmen zusätzliche Sicherheitsvorgaben.
Die Warnungen sind nicht neu. Bereits im Juni verwies Anthropic auf das Risiko, dass KI künftig schneller Programmcode erzeugen könnte, als Menschen diesen überprüfen können. Damals unterstützte das Unternehmen auch die Möglichkeit einer international koordinierten Verlangsamung oder Pause der KI-Entwicklung.
Ein Risikobericht aus dem August hielt das Erreichen der kritischen Schwelle innerhalb eines Jahres für möglich. Der überarbeitete Börsenprospekt deutet nun auf einen deutlich näheren Zeitpunkt hin.
Zwischen technologischer Entwicklung und wirtschaftlichen Interessen
Die Aussagen sollten auch vor dem Hintergrund des erwarteten Börsengangs von Anthropic betrachtet werden. Dieser steht mutmaßlich kurz bevor. Entsprechend könnten neben tatsächlichen technologischen Entwicklungen auch eigene PR-Interessen die öffentliche Kommunikation beeinflussen.
Entscheidend bleibt die Unterscheidung zwischen bereits nachgewiesenen Fähigkeiten und möglichen Zukunftsszenarien: Claude übernimmt heute relevante Forschungsaufgaben, entwickelt seine Nachfolger jedoch noch nicht vollständig autonom.
Wie sich KI-Modelle weiterentwickeln und welche Anforderungen daraus für ihren verantwortungsvollen Einsatz entstehen, bleibt ein zentrales Thema. Der Newsletter Beratung-KI begleitet solche Entwicklungen und bietet Orientierung zu aktuellen KI-Technologien.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.