DEF.: In der Künstlichen Intelligenz (KI) bezeichnet „Halluzinieren“ das Phänomen, bei dem ein KI-Modell, insbesondere in generativen Aufgaben wie Text- oder Bildgenerierung, Informationen erzeugt, die nicht durch die Eingabedaten gestützt oder völlig erfunden sind. Dies geschieht oft aufgrund von Übergeneralisierungen oder unzureichenden Daten während des Trainings.
Beispiel: Ein KI-gestütztes System zur Bildbeschreibung sieht ein Foto mit einem Hund im Park. Aufgrund früherer Übergeneralisierungen könnte es „halluzinieren“, dass der Hund einen Ball hält, auch wenn auf dem Bild kein Ball zu sehen ist.
Wichtigste Vorteile:
- Kreativität: KI-Systeme, die zu einem gewissen Grad „halluzinieren“, können originelle Inhalte erzeugen, was in kreativen Feldern wie der Kunst oder dem Schreiben nützlich sein kann.
- Datenlücken füllen: In einigen Fällen können diese Halluzinationen nützlich sein, um Lücken in den Daten zu füllen, besonders, wenn spezifische Informationen fehlen.
Zusammenfassung: „Halluzinieren“ in der KI bezieht sich auf die Erzeugung nicht faktischer oder erdachter Informationen durch ein Modell. Während dies in kreativen Anwendungen vorteilhaft sein kann, stellt es in vielen realweltlichen Anwendungen eine Herausforderung dar, da es die Zuverlässigkeit und Genauigkeit der KI-Ergebnisse beeinträchtigt.