In einer Welt, die immer stärker von künstlicher Intelligenz durchdrungen wird, steht ein bedeutender gesetzlicher Schritt bevor.
Am 14. Juni 2023 markierte das EU-Parlament mit einer überwältigenden Mehrheit einen historischen Moment: Die Verabschiedung einer wegweisenden KI-Verordnung. Diese Entwicklung unterstreicht die dringende Notwendigkeit einer regulierten KI-Nutzung in kritischen Bereichen wie dem Bankensektor, Bonitätsauskünften und öffentlichen Verwaltungen. Eine schnelle Einigung zwischen dem EU-Ministerrat, dem Parlament und der Kommission erscheint vor diesem Hintergrund unerlässlich.
Dr. Mirko Schäfer von der Universität Utrecht hebt hervor, dass eine vorab verpflichtende Überprüfung der verwendeten Algorithmen durch die Betreiber ein positiver Aspekt des Entwurfs sei. Doch was sind die Implikationen solcher Regulationen?
Einerseits zeigt das Beispiel der Niederlande, wo seit 2022 externe Folgenabschätzungen für automatisierte Statistik-Systeme in öffentlichen Verwaltungen Pflicht sind, den Weg vorwärts. Andererseits offenbaren die erstaunlichen Erkenntnisse aus dem Einsatz des Tools „Der ethische Datenassistent“ die Risiken, die selbst in scheinbar simplen Algorithmen wie jenen für die Verkehrskontrolle lauern können.
Der menschliche Faktor bleibt dabei ein zentrales Element. Wie Dr. Schäfer betont, zeigt der Fall in Italien, wo Algorithmen zur Lehrerzuweisung führten, die erfahrene Pädagogen benachteiligten, die Bedeutung der Einbeziehung von Fachexperten, Gewerkschaften und Betroffenen in den Prozess der Algorithmenbewertung.