Papst Leo XIV. greift mit seinem Lehrschreiben »Magnifica Humanitas« ein Thema auf, das längst nicht mehr nur Entwickler, Unternehmen oder Politik betrifft. Der Vatikan warnt deutlich davor, KI-Systeme als neutrale Werkzeuge zu betrachten. Denn jedes Modell trägt Annahmen, Datenmuster und Wertungen in sich, die von Menschen geprägt wurden. Werden diese Grundlagen nicht offengelegt, können Diskriminierung und Ungleichbehandlung still in automatisierte Entscheidungen eingebaut werden.
Besonders kritisch ist der Einsatz von KI in Bereichen, in denen es um konkrete menschliche Schicksale geht. Kreditvergabe, Bewerbungsverfahren oder Wohnungsentscheidungen dürfen nicht zu undurchsichtigen Maschinenurteilen werden. Wer betroffen ist, muss nachvollziehen können, wie ein Ergebnis zustande kommt. Noch wichtiger: Eine verantwortliche menschliche Stelle muss jederzeit korrigierend eingreifen können.
Auch die Machtverteilung in der KI-Branche steht im Zentrum der Kritik. Wenn enorme Rechenleistung, Datenbestände und Modellzugänge bei wenigen Konzernen konzentriert sind, entsteht eine neue Form digitaler Abhängigkeit. Diese Entwicklung betrifft nicht nur Märkte, sondern auch öffentliche Meinungsbildung, Informationszugang und gesellschaftliche Gerechtigkeit.
Ein weiterer wichtiger Punkt ist der ökologische und soziale Preis großer KI-Systeme. Training und Betrieb leistungsfähiger Modelle verbrauchen große Mengen Energie und Wasser. Gleichzeitig stehen hinter vielen scheinbar automatischen KI-Ergebnissen Menschen, die Daten markieren, Inhalte prüfen oder belastendes Material moderieren. Diese Arbeit bleibt oft unsichtbar und schlecht bezahlt. Der Vatikan fordert deshalb mehr Transparenz entlang der gesamten technologischen Lieferkette.
Besonders eindeutig fällt die Haltung bei autonomen Waffensystemen aus. Die Entscheidung über tödliche Gewalt darf nicht an Maschinen abgegeben werden. KI kann Muster erkennen, aber sie besitzt kein menschliches Gewissen. Verantwortung muss identifizierbar bleiben, gerade dort, wo Menschenleben betroffen sind.
Auch Desinformation durch generative KI wird zu einem zentralen Risiko. Texte, Bilder und Videos lassen sich inzwischen so überzeugend erzeugen oder manipulieren, dass die Grenze zwischen Fakt und Fälschung zunehmend verschwimmt. Plattformen und Technologieanbieter stehen daher in der Pflicht, nachvollziehbar zu machen, nach welchen Kriterien Inhalte empfohlen, verstärkt oder zurückgehalten werden.