KI-Experten weltweit schlagen Alarm und warnen eindringlich vor den potenziellen Gefahren, die mit der unaufhaltsamen Entwicklung von Künstlicher Intelligenz (KI) einhergehen. Die dringende Forderung nach klaren Richtlinien und strengen Regulierungen, ähnlich denjenigen für das Finanzwesen und die Nuklearenergie, wird immer lauter.Hauptteil:In einem bedeutenden Papier mit dem Titel „Managing AI Risks in an Era of Rapid Progress“ fordern renommierte KI-Experten wie Geoffrey Hinton, Yoshua Bengio, Andrew Yao und Dawn Song eine grundlegende Neuausrichtung der Sicherheitsmaßnahmen im Bereich der KI-Entwicklung. Sie betonen die Notwendigkeit, dass ein beträchtlicher Teil der KI-Budgets von Unternehmen in die Forschung zur Gewährleistung der Sicherheit investiert werden sollte.Die Experten heben auch die Gefahr hervor, dass einige Unternehmen möglicherweise nicht ausreichend zur Verantwortung gezogen werden, wenn sie KI-Systeme entwickeln, die potenzielle Risiken bergen. Demnach ist eine Registrierungspflicht für KI-Modelle sowie die Implementierung von Meldepflichten für Vorfälle oder Störfälle unerlässlich. Zudem wird ein strenges Prüf- und Zertifizierungssystem für risikobehaftete KI-Modelle gefordert. Die EU hat bereits mit dem AI Act erste Schritte in diese Richtung unternommen.Die Forderung nach einer weltweit einheitlichen Aufsichtsbehörde für KI, die für die Festlegung von Sicherheitsstandards und die Überwachung der Nutzung von leistungsfähigen KI-Modellen zuständig sein soll, gewinnt ebenfalls an Dringlichkeit. Dies wäre ein wichtiger Schritt, um die potenziell katastrophalen Auswirkungen der KI-Technologie einzudämmen.
Sie wollen über die neuesten Entwicklungen im Bereich der Künstlichen Intelligenz und Sicherheitsmaßnahmen auf dem Laufenden bleiben?