DEF.: Model Autophagy Disorder (MAD) ist ein Phänomen, bei dem KI-Modelle, insbesondere generative Modelle, in ihrer Leistungsfähigkeit abnehmen, wenn sie wiederholt auf Daten trainiert werden, die von KI-Modellen generiert wurden. Der Begriff „Autophagie“ bezieht sich auf den Prozess des Selbstverzehrs, was bedeutet, dass diese Modelle im übertragenen Sinne „sich selbst verzehren“, indem sie fortlaufend auf ihren eigenen Ausgaben oder denen anderer KI-Modelle trainiert werden, ohne frische, echte Daten zu erhalten.

Beispiel: Ein generatives KI-Modell, das Bilder erzeugt, wird ursprünglich mit echten Bildern trainiert. Danach wird es wiederholt auf einer Mischung aus echten Bildern und den von ihm selbst erzeugten Bildern trainiert. Mit jeder Generation der Neutrainierung auf seinen eigenen generierten Daten verschlechtert sich die Qualität oder Vielfalt der Ausgaben, da das Modell in eine Feedbackschleife gerät, die seine Fähigkeit zur Generierung neuer, qualitativ hochwertiger Inhalte einschränkt.

Vorteile:

1. Das Bewusstsein und die Forschung zu MAD helfen, die Grenzen und Risiken von selbstverzehrenden Trainingszyklen in KI-Modellen zu verstehen.
2. Sie fördern die Entwicklung neuer Strategien und Techniken, um die Datenqualität und Modellvielfalt aufrechtzuerhalten.
3. Sie betonen die Bedeutung der Einbeziehung frischer und vielfältiger Datensätze in das Training generativer Modelle, um ihre Leistungsfähigkeit und Zuverlässigkeit langfristig zu sichern.

Zusammenfassung: Model Autophagy Disorder (MAD) verdeutlicht die Risiken von selbstverzehrenden Trainingsprozessen in KI-Modellen, insbesondere generativen Modellen. Es zeigt auf, dass ohne die Zuführung frischer, realer Daten KI-Modelle ihre Qualität und Vielfalt im Laufe der Zeit verlieren können. Diese Erkenntnisse leiten die Forschung an, nachhaltigere und effektivere Trainingsmethoden zu entwickeln, die eine langfristige Leistungsfähigkeit generativer Modelle gewährleisten.