OpenAI hat ein neues Komitee für Schutz und Sicherheit ins Leben gerufen, um kritische Entscheidungen in Bezug auf die Entwicklung von KI-Technologien zu überprüfen.
In einer aktuellen Ankündigung hat OpenAI bekannt gegeben, dass ein neues Komitee für Schutz und Sicherheit eingerichtet wurde. Dieses Gremium, bestehend aus führenden Persönlichkeiten wie Bret Taylor, Adam D’Angelo, Nicole Seligman und CEO Sam Altman, soll Vorschläge für wichtige Entscheidungen in Bezug auf Schutz und Sicherheit entwickeln. Ziel ist es, die Risiken, die mit der Weiterentwicklung der KI-Technologien verbunden sind, zu minimieren.
OpenAI betonte die Notwendigkeit einer „robusten Debatte zu diesem wichtigen Zeitpunkt“, insbesondere da kürzlich das Training des nächsten großen KI-Modells begonnen hat, welches GPT-4 ablösen soll. Diese Entwicklung stellt einen weiteren Schritt in Richtung einer sogenannten Künstlichen Allgemeinen Intelligenz (AGI) dar.
Interne Kritik und Umstrukturierungen
Die Gründung des neuen Komitees erfolgt nach interner Kritik an den bisherigen Schutzmaßnahmen. Ursprünglich sollte sich das Superalignment-Team von OpenAI um die Kontrolle und Überwachung zukünftiger Superintelligenzen kümmern. Dieses Team wurde jedoch aufgelöst, und die betrauten Forscher traten von ihren Posten zurück. Verantwortliche Mitarbeiter wurden auf andere Teams verteilt, was zu einem Mangel an spezialisierten Ressourcen für die Sicherheit der fortschreitenden KI-Technologien führte.
Einige Forscher beklagten sich darüber, dass ihnen die notwendige Rechenleistung für ihre Arbeit verwehrt wurde und sie durch bürokratische Hürden behindert wurden. OpenAI erklärte, dass das aufgelöste Team sich nur mit „der am weitesten entfernten KI-Version“ befasst habe und andere Teams für konkretere Gefahren zuständig seien.
Neue Fristen und Transparenz
Das neu gegründete Komitee hat nun eine Frist von 90 Tagen, um die aktuellen Prozesse und Schutzmaßnahmen zu überprüfen und weiterzuentwickeln. OpenAI machte vor wenigen Tagen Details dieser Maßnahmen publik und kündigte an, dass die Ergebnisse nach Abschluss der Arbeit dem gesamten Vorstand vorgestellt und anschließend öffentlich gemacht werden sollen. Weitere Informationen zum derzeit laufenden Training von GPT-5 wurden nicht veröffentlicht.