Stellen Sie sich eine Welt vor, in der 90 % aller Inhalte im Internet nicht von Menschen, sondern von Maschinen erstellt wurden – diese Zukunft ist näher als wir denken.
In einer alarmierenden Entwicklung warnen Forscher davor, dass immer mehr im Internet verfügbare Medien von Künstlicher Intelligenz (KI) generiert werden. Diese Tendenz könnte gravierende Folgen für die Entwicklung und Gesundheit von KI-Systemen selbst haben. Laut einer Analyse von Europol könnten bis zum Jahr 2026 nahezu 90 % aller Online-Inhalte synthetischen Ursprungs sein. Die Basis für das Training dieser KI-Modelle bilden bisher überwiegend menschlich erstellte Inhalte aus dem Internet. Spezialisierte Datasets wie „The Pile“ oder „LAION-5b“ bieten umfangreiche Ressourcen an Texten, Bildern und weiteren Medienformaten, die für die Weiterentwicklung von KI-Systemen essentiell sind.
Jedoch offenbart sich eine neue Herausforderung: Viele dieser Trainingsdaten sind mittlerweile mit KI-generierten Inhalten durchsetzt. Forschungsteams der Stanford University und der Rice University stellten fest, dass KI-Modelle eine Art degenerative Krankheit entwickeln, wenn sie überwiegend mit Daten trainiert werden, die von anderen KIs erstellt wurden. Sie bezeichnen dieses Phänomen als „Model Autophagy Disorder“. Bereits nach fünf Trainingszyklen mit KI-generierten Inhalten zeigten sich bei den neu generierten Bildern visuelle Missbildungen und Unregelmäßigkeiten. Dieses Problem, so zeigen die Studien, beschränkt sich nicht nur auf Bildgenerierende KIs. Die Forscher konzentrierten sich lediglich aus Gründen der Einfachheit auf diesen Bereich. Eine Studie der Cornell University beschreibt den damit verbundenen Effekt als „Fluch der Rekursion“, wobei die genaue Dynamik hinter dieser Problematik noch weitgehend unerforscht ist. Experten zufolge fehlt es den KI-generierten Inhalten an der notwendigen Diversität und den Unregelmäßigkeiten der realen Welt.