OpenAI strukturiert seine Sicherheitsarbeit erneut um: Das auf schwerwiegende KI-Risiken spezialisierte Preparedness-Team wird aufgelöst und seine Aufgaben werden auf bestehende Fachabteilungen verteilt. Welche Folgen diese Neuordnung für die Risikoprüfung künftiger KI-Systeme hat, ist bislang offen.
Das Preparedness-Team untersuchte OpenAIs Modelle auf potenziell katastrophale Risiken. Dazu gehörte beispielsweise die Frage, ob KI-Systeme bei der Entwicklung biologischer, chemischer oder nuklearer Bedrohungen helfen könnten. Ebenfalls relevant sind Risiken durch zunehmend selbstständig agierende Systeme – erst im vergangenen Monat hatte eine OpenAI-KI eigenständig Hugging Face gehackt.
Nach einem Bericht der Financial Times sollen die bisherigen Verantwortlichkeiten des Teams künftig von bereits bestehenden Fachabteilungen übernommen werden. Dylan Scandinaro, der das Preparedness-Team erst seit Februar 2026 leitete, soll sich künftig mit den Sicherheitsimplikationen sogenannter rekursiv selbstverbessernder KI beschäftigen. Gemeint sind Systeme, die ihre eigenen Fähigkeiten einsetzen, um die Entwicklung nachfolgender KI-Generationen zu unterstützen und zu beschleunigen.
Dritte spezialisierte Sicherheitseinheit in zwei Jahren
Die Neuorganisation ist kein Einzelfall. Bereits im Mai 2024 löste OpenAI sein Superalignment-Team auf, nachdem dessen Leiter Jan Leike das Unternehmen verlassen hatte. Leike kritisierte damals, dass Sicherheit gegenüber „glänzenden Produkten“ zu wenig Gewicht erhalte. Später wurde auch das AGI-Readiness-Team aufgelöst, das untersuchen sollte, wie gut OpenAI und die Gesellschaft auf KI auf menschlichem Intelligenzniveau vorbereitet sind.
Parallel dazu gab es weitere personelle Veränderungen im Sicherheits- und Ethikbereich. Ethik-Leiterin Chloé Bakalar verließ OpenAI im Juli nach weniger als einem Jahr. Sie war offenbar die einzige Person im Unternehmen, die ausdrücklich für Ethik zuständig war. Auch Chief Futurist Josh Achiam und Safety-Chef Johannes Heidecke haben OpenAI vor Kurzem verlassen.
Damit verschwindet innerhalb von zwei Jahren bereits die dritte spezialisierte Sicherheitseinheit. Die entsprechenden Aufgaben sollen zwar weitergeführt werden, künftig jedoch stärker über bestehende Teams verteilt. Eine öffentliche Stellungnahme von OpenAI zu der Auflösung liegt bislang nicht vor.
Effizienz durch Innovation: Teile der textlichen und visuellen Ausgestaltung dieser Seite wurden durch generative KI-Systeme unterstützt.